寒武紀發布第三代云端AI芯片思元370

據寒武紀公眾號顯示，11月3日，其發布了第三代云端AI芯片思元370、基于思元370的兩款加速卡MLU370-S4和MLU370-X4、全新升級的Cambricon Neuware軟件棧。

圖源：寒武紀公眾號

據悉，思元370基于7nm制程工藝，是寒武紀首款采用chiplet（芯粒）技術的AI芯片，集成了390億個晶體管，最大算力高達256TOPS(INT8)，是寒武紀第二代產品思元270算力的2倍。憑借寒武紀最新智能芯片架構MLUarch03，相較于峰值算力的提升，思元370實測性能表現更為優秀：以ResNet-50為例，MLU370-S4加速卡（半高半長）實測性能為同尺寸主流GPU的2倍；MLU370-X4加速卡（全高全長）實測性能與同尺寸主流GPU相當，能效則大幅領先。

思元370也是國內第一顆支持LPDDR5內存的云端AI芯片，內存帶寬是上一代產品的3倍，訪存能效達GDDR6的1.5倍。

寒武紀指出，思元370在2020年三季度流片，相關加速卡產品于2021年二季度陸續送測客戶。目前，部分客戶已完成測試、導入，產品進入早期銷售階段。

此次發布中，兩款基于思元370的加速卡正式亮相：高密度、半高半長、功耗75W的MLU370-S4智能加速卡和高性能、全高全長、功耗150W的MLU370-X4智能加速卡。與上一代產品相比，370系列加速卡在性能、能效方面都有更為卓越的表現。例如，對標準ResNet-50v1進行軟件定制優化后，MLU370-X4加速卡性能高達30204fps。

圖源：寒武紀公眾號

同時，寒武紀全新升級了Cambricon Neuware軟件棧，新增推理加速引擎MagicMind，實現訓推一體，顯著提升了開發部署的效率，降低用戶的學習成本、開發成本和運營成本。（日新）