今日阿里巴巴“云栖大会”在杭州正式拉开帷幕。会上阿里巴巴正式对外发布了全新的含光800AI芯片。据称这是全球最高性能的AI推理芯片。
阿里巴巴集团首席技术官兼阿里云智能总裁张建锋进行主题演讲时宣布,阿里巴巴平头哥全球最高性能AI推理芯片含光800发布,这是阿里巴巴平头哥成立后,发布的首款自研芯片,该芯片每秒能处理500张图片,这也是互联网公司研发的首款芯片。张建锋表示,阿里有信心和能力做到传统硬件公司所做的事情。
张建锋介绍称,在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍,“含光800是阿里巴巴在芯片领域的万里长征第一步。”阿里巴巴有足够的能力去做传统公司的事情,“我们用一年半时间,就完成了芯片的制作。所以,阿里巴巴将成为软硬件一体化协同发展的公司”
据悉,这枚阿里平头哥含光800 AI芯片的性能和能效比均为第一。该款芯片取名寓意深远,含光为上古三大神剑之一,含而不露,光而不耀。据介绍,1颗含光800的算力相当于10颗GPU,目前基于含光800的AI云服务已在阿里云上线。
张建锋说:“在全球芯片领域,阿里巴巴是一个新人,玄铁和含光800是平头哥的万里长征第一步,我们还有很长的路要走。”
含光800性能的突破得益于软硬件的协同创新:硬件层面采用自研芯片架构,通过推理加速等技术有效解决芯片性能瓶颈问题;软件层面集成了达摩院先进算法,针对CNN及视觉类算法深度优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。
含光800已开始应用在阿里巴巴内部核心业务中。根据云栖大会的现场演示,在城市大脑中实时处理杭州主城区交通视频,需要40颗传统GPU,延时为300ms,使用含光800仅需4颗,延时降至150ms。
拍立淘商品库每天新增10亿商品图片,使用传统GPU算力识别需要1小时,使用含光800后可缩减至5分钟。
含光800将通过阿里云对外输出AI算力。基于含光800的AI云服务当天正式上线,相比传统GPU算力,性价比提升100%。
关于云栖大会
9月25-27日,“云栖大会”在杭州举行。今年的云栖大会以开发者为大会主角,聚焦数字经济为核心议题,在前沿科技、技术产品等领域呈现系列重磅发布。本次大会设两场主论坛,110余场峰会和分论坛,峰会和分论坛中技术类分享占比达99%以上。