昆仑芯 AI 加速卡 R100 发布:平均性能提升 2.3 倍,峰值性能达 170TOPS
12 月 28 日消息,昆仑芯新品 R100 于 2022 智算峰会「智能芯力量」专题论坛上正式发布。昆仑芯 AI 加速卡 R100(简称“昆仑芯 R100”)定位于边缘大算力推理,较昆仑芯 1 代 AI 加速卡 K100 平均性能提升 2.3 倍,支持更低功耗、更小巧体积灵活适配各类服务器,适合多种复杂边缘推理场景。
昆仑芯 R100 采用昆仑芯 2 代 AI 芯片,搭载昆仑芯新一代自研架构 XPU-R。该架构可满足多样 AI 模型和场景需求,为 AI 加速卡提供优化的性能和能耗效率。
在 INT8 精度下,昆仑芯 R100 峰值性能可达到 170TOPS,同时支持 FP16、FP32 等精度计算;采用 GDDR6 高速显存,可实现 384GB / s 的显存速率;支持从视频、图像解码到 AI 模型推理、再到视频图像编码输出的全流程业务;支持 84 路全高清视频解码和 27 路全高清视频编码。
昆仑芯 R100 继承了昆仑芯 2 代的成熟软件栈,为用户提供全方位的软件工具包。用户可将在昆仑芯 R200 / R300 上已适配和已训练的模型平滑迁移至昆仑芯 R100 上。昆仑芯 R100 既可在标准服务器中灵活实现多卡配置,也适用对服务器尺寸有特定要求的工控机等设备,以服务于智慧零售、智能交通、智慧园区和智能制造等各类边缘推理场景。
昆仑芯 AI 加速卡 R100
中文国际了解到,昆仑芯科技与百度智能云联合,已推出多款搭载昆仑芯 AI 加速卡 R100 的边缘硬件,从边缘盒子到边缘服务器,为诸多场景的解决方案提供 AI 算力保障。
目前,昆仑芯科技已实现两代通用 AI 芯片的量产及数万片规模部署,并已建立起支持云端训练、云端推理、边缘推理的昆仑芯 AI 加速卡产品矩阵。
昆仑芯 AI 加速卡产品矩阵