乐竞体育

　　「AI 新青年讲座」将邀请世界顶尖 AI 研究机构和大学的科研新青年，主讲他们在计算机视觉kb体育、机器学习等人工智能领域的最新重要研究成果。

　　AI 新青年是加速人工智能前沿研究的新生力量。AI 新青年的视频讲解和直播答疑，将可以帮助大家增进对人工智能前沿研究的理解，相应领域的专业知识也能够得以积累加深。同时，通过与 AI 新青年的直接交流，大家在 AI 学习和应用 AI 的过程中遇到的问题，也能够尽快解决。

　　kb体育

　　设备内训练（On-device Training）能持续的从传感器中学习kb体育，让用户享受定制模型的同时而无需将数据上传到云端，从而保护隐私。然而， AIoT 设备（MCU）的 SRAM 大小通常有限（256KB）。这种级别的内存做推理都十分勉强，更不用说训练了。因此要在硬件资源受限的情况下实现训练是一件困难的事情。

　　kb体育

　　麻省理工大学韩松教授团队的朱力耕博士等人在 NeurIPS 2022 上提出了一种算法 - 系统联合设计，仅用 256KB 和 1MB 的内存即可实现设备内训练，且开销不到 PyTorch 和 TensorFlow 的 1/1000。

　　朱力耕博士等人提出了量化感知缩放（QAS）来校准梯度刻度并稳定 8 位量化训练，并设计了稀疏更新（Sparse Update），跳过不太重要的层和子张量来减少内存占用。通过 Tiny Training Engine （TTE）把理论上的数值转化为实际的节省：TTE 将运行时的自动微分转移到编译时并裁剪了后向计算图KB新闻。

　　kb体育

　　朱力耕，麻省理工学院在读博士；师从韩松教授；研究方向主要集中在高效深度学习系统和算法之间；设计了第一个软硬协同的 AutoML 算法并可以扩展到大规模的数据集的算法 ProxylessNAS（ICLR ’ 19），迄今已有 1400 引用和 1300 Github stars；开发了高效推理系统（ ’ 21）和深度学习训练系统（ ’ 20， ’ 21， ’ 22）；项目已经被整合到 PyTorch 和 AutoGluon 等框架中。并被麻省理工学院新闻和 IEEE Spectrum 等媒体报道。