AIV-16G128T

AIV-16G128T是英码科技推出的一款以寒武纪思元MLU270处理器为核心的AI加速卡,内置16个NPU集群,支持并发执行,具备128T INT8高算力,可完成复杂视频的推理运算。集成在半高半长的标准 PCIe 尺寸的加速卡中,可以轻松搭载于最先进的人工智能服务器,实现AI推理计算力横向扩展。采用寒武纪最新的MLUv02 架构,新架构提供 INT16,INT8,INT4,FP32,FP16 的全面 AI 精度支持,基于硬件的片内数据压缩,提升缓存有效容量和带宽,满足多样化神经网络的计算力要求,通用、性能兼备。

是以寒武纪思元MLU270处理器为核心的AI加速卡

具备128T INT8高算力,支持复杂视频的推理运算

内置16个NPU集群,支持并发执行

采用寒武纪最新的MLUv02 架构

提供INT16,INT8,INT4,FP32,FP16 的全面 AI 精度支持

支持寒武纪 NeuWare 软件栈可以轻松部署推理环境

基于硬件的片内数据压缩,提升缓存有效容量和带宽

支持多类神经网络;满足多样化 AI 定制要求

应 用 领 域

AIV-16G128T 集多种优势于一身,目前该平台已经广泛应用于AI智能服务器、智慧交通、智慧城市、智慧社区等领域中。


快速升级 深度服务

英码科技AI软件服务,涵盖了AI边缘计算所需的软件产品和服务,为其提供DEMO,开发文档及已

落地的安防监控、新零售、智慧城市等行业方案作技术支持,以最大程度降低切换与开发的难度及

成本,使您在更短时间内实现应用升级,加快智能产品上市。

性能参数

板卡类型

PCIE加速卡

核心架构

Cambricon MLUv02

核心频率

1 GHz

整数运算速度  (INT8)

128 TOPS(Dense)

计算精度支持   

支持 INT16, INT8, INT4, FP32, FP16

视频解码

支持

内存容量

16GB

内存位宽

256-bit

内存带宽

102.4 GB/s

系统接口

PCI Express 3.0 x16 支持lane reversal

 

PCI 标识符

PCIe Vendor ID  0xCABC 

PCIe Device ID 0x0270

PCIe Sub-Vendor ID    0xCABC

PCIe Sub-System ID    0x0012

外形

68.9mm*167.5mm,  单槽位

TDP 功耗

70W

ECC 保护

散热方案

被动


软件规格


 

PCIe Base address

PF (1 个,64bit):   

BAR0: 256MB prefetchable BAR2: 64 MB prefetchable BAR4: 64 MB prefetchable

VF(4 个,64bit):

BAR0: 256MB prefetchable BAR2: 64 MB prefetchable BAR4: 64 MB prefetchable

SMBus(8bit  地址)

0x8E(Write)  0x8F(Read)