2023 亚布力论坛夏季高峰会丨云天励飞陈宁：AI 推理芯片发展同样值得重视

2023 年 8 月 25 日 -27 日，以"聚焦大湾区，创新促发展 -- 同心共建中国式现代化"为主题的 2023 亚布力中国企业家论坛第十九届夏季高峰会在深圳举行，云天励飞董事长兼 CEO 陈宁博士受邀参加，并与业内专家同台讨论"世界需要怎样的人工智能"。

芯片是支撑大模型的核心底座，伴随"百模大战"打响，AI 芯片也受到大量关注。

在谈及对 AI 芯片发展的看法时，陈宁博士提到芯片可以简单分为两大类: 一类是训练芯片，另外一类是推理的芯片。我们今天其实几乎所有的焦点都关注到了训练芯片，或者是以训练为主的训推一体的芯片。但对于 AI 的算法来说，训练只是一个开始，推理和应用才是最终目的，生产出来大模型的算法最终要落地应用。

机器人、无人驾驶汽车、各类传感器，万物智联需要更需要的是推理芯片。未来，推理芯片的市场需求可能比训练芯片更大。

因此，云天励飞一直坚持"算法芯片化"，让芯片能够满足不同场景的需求。去年底云天励飞自研的 AI 芯片 DeepEdge10 成功流片，高效支持 Transformer 模型中的矩阵乘法运算，可应用于边缘 CV 大模型推理领域，可广泛应用于 AIoT 边缘视频、移动机器人等场景。

据悉，DeepEdge100 可提供 8-50 TOPS (INT8) 整型计算和 2-8T FLOPS (FP16) 浮点计算算力，满足市场对芯片算法多样性、准确性、算力密度及效能方面的要求。针对各类应用场景，云天励飞已开发出 Edge10C、Edge10 标准版和 Edge10Max 三款芯片。其中，Edge10C 采用 8 核 CPU、算力 8 Tops,Edge10 标准版采用 10 核 CPU、算力 12 Tops, 两者均应用于智慧安防、智慧城市和智能制造等边缘计算推理领域。