ISSCC技术创新看这里:三星首创内嵌AI芯片HBM,谷歌雷达5米识人


ISSCC技术创新看这里:三星首创内嵌AI芯片HBM,谷歌雷达5米识人
文章图片
芯东西(ID:aichip001)作者|温淑编辑|Panken
芯东西2月19日报道 , 目前 , 一年一度的国际固态电路会议(ISSCC2021)正在进行中(2021年2月13日到22日) , 这是ISSCC会议首次以全线上形式举办 。 作为已有近70年历史的集成电路设计领域盛会 , ISSCC亦被众多产学界玩家视为发布和展示其领先芯片技术的权威舞台 , 本届大会也不例外 。
本届会议上 , IBM、三星等公司展示了其在AI芯片领域的最新进展;谷歌、德州仪器等公司分享各自在雷达芯片中使用的创新技术;英特尔、荷兰代尔夫特理工大学等则展示其在量子芯片研发方面的最新尝试……
芯东西收集并汇总本届ISSCC期间 , 共计9家企业或机构在AI芯片、雷达芯片、量子芯片等技术领域中 , 发布或展示的产品 , 分享各领域最前沿芯片技术玩家的“绝技” 。

ISSCC技术创新看这里:三星首创内嵌AI芯片HBM,谷歌雷达5米识人
文章图片
▲ISSCC2021期间芯片领域新进展汇总
一、AI芯片:产学界玩家齐现身 , 五款AI芯片竞技
在ISSCC2021会议上 , IBM、三星两家公司 , 南洋理工大学、哥伦比亚大学两大学府的研究团队 , 分别分享了各自在AI芯片领域的最新进展 。
其中 , IBM、三星分别从提高AI芯片能效和性能着手 , 两大学府则分别着力提升AI芯片对图像、声音的识别能力 。
1、IBM:芯片能效比高过NVIDIAA100
IBM在ISSCC2021大会上发表了据称是“全球首款”采用7nm制程工艺的高能效、低精度训练/推理AI芯片 , 该芯片集成四核心 , 面积为19.6平方毫米 , 可达到80%以上的训练利用率和60%以上的推理利用率 , 而通常情况下 , GPU的利用率在30%以下 。
相比同样采用7nm制程工艺的NVIDIAA100GPU , IBM新款AI芯片具备能效优势 。 具体来说 , NVIDIAA100GPU在int4精度下的能效比为3.12TOPS/W;而IBM新款AI芯片在同等精度下的能效比为8.9TOPS/W 。
这背后 , IBM为其新款AI芯片采用了超低精度混合8位浮点格式(HFP8 , hybridFP8) 。 这是IBM于2019年发布的一种高度优化设计 , 允许AI芯片在低精度下完成训练任务和不同AI模型的推理任务 , 同时避免质量损失 。
此外 , IBM新款高能效AI芯片添加了电源管理功能 , 可减缓芯片计算过程中的功率消耗 。

ISSCC技术创新看这里:三星首创内嵌AI芯片HBM,谷歌雷达5米识人
文章图片
▲IBM新款高能效AI芯片示意图(图源:IBM)
2、三星:发布业界首款内嵌AI芯片的高带宽内存
在ISSCC2021上 , 三星发布了一款高带宽内存处理器(HBM-PIM , high-bandwidthmemory,processing-in-memory) , 这是业界首款内嵌AI芯片的高带宽内存 , 可用于加速数据中心、高性能计算应用、人工智能应用 。
三星指出 , 当他们用现有的HBM2Aquabolt系统测试新技术时 , 发现系统性能翻了一番、能源消耗降低了70% 。
【ISSCC技术创新看这里:三星首创内嵌AI芯片HBM,谷歌雷达5米识人】目前 , 三星还在与AI解决方案合作伙伴对HBM-PIM技术进行测试 , 并期待在2021年上半年看到对HBM-PIM技术的测试结果 。
原理方面 , 该处理器集成了一个以300MHz频率运行的PCU(ProgramControlUnit , 程序控制部件) 。 该PCU由主机CPU采用常规内存命令控制 , 可以直接在DRAM单元中执行FP6运算 。
此外 , 当系统运行的应用程序不是为HBM-PIM编写的时候 , HBM-PIM可以作为常规RAM运行 。
3、三星:5nmAI芯片跑CNN模型能效比达13.6TOPS/W
除发布高带宽内存处理器外 , 三星还分享了其5nm三核心AI芯片的技术细节 , 该芯片面积为5.46平方毫米 , 额定电压在550~900mV之间 , 时钟频率在332MHz~1.2GHz之间 。
性能方面 , 在相当于多线程CPU操作的吞吐量优先级模式下 , 该芯片在332MHz下的每秒推理数为194;在1.196GHz下 , 该芯片的每秒推理数为623 。
能效方面 , 在0.6V电压下 , 该芯片对CNN模型Inception-V3的运行结果显示 , 其能耗为每焦耳的推理数为1190 , 能效比为13.6TOPS/W 。
据三星方面分享 , 其5nm三核心AI芯片的每个核心中 , 都集成了2个子核心(卷积引擎)、1个矢量处理器单元 , 以及一兆字节的暂存器 。 其中 , 每个子核心都具备权重–特征映射(weight-featuremap) 。 每个周期中 , 该芯片可以执行16维向量的64个点积 。
4、南洋理工大学&哥伦比亚大学:分享动作/声音识别芯片绝技
新加坡南洋理工大学和美国哥伦比亚大学在ISSCC2021会议上展示的芯片均采用65nm制程 。