用于 AI 推断加速的 Vitis AI 开发平台,首次支持 Versal ACAP 与 Kria SOM

赛灵思 Vitis™ AI 1.4 现已正式发布。这是一个功能强大的机器学习开发平台,用于在赛灵思自适应计算平台上实现 AI 推断加速。该版本为用户提供了完整的解决方案堆栈,首次实现了对最新 7nm Versal ACAP 平台和基于 16nm 工艺的Kria™ 自适应系统模块( SOM )产品组合的支持。对 Versal 平台的支持范围包括 Versal AI Core 系列 VCK190 评估套件,以及用于 AI 推断的 VCK5000 Versal 开发卡

VCK190 套件是首款 Versal AI Core 系列评估套件,可帮助设计者使用 AI 和 DSP 引擎开发解决方案。与当今服务器级 CPU 相比,可提供超过 100 倍的计算性能。VCK190 套件是支持从云端到边缘实现高吞吐量 AI 推断和信号处理应用的理想平台。VCK190 套件是支持从云端到边缘实现高吞吐量 AI 推断和信号处理应用的理想平台。

vck190-angle

Versal AI Core 系列 VCK190 评估套件

VCK5000 Versal 开发卡面向需要高吞吐量 AI 推断和信号处理计算性能的设计。 VCK5000 开发平台为云加速和边缘计算应用提供了开箱即用的解决方案,无需事先具备 FPGA 硬件专业知识。

vck5000

面向 AI 推断的 VCK5000 Versal 开发卡

结合 Kria KV260 视觉AI 入门套件,这些全新 AI 开发平台为用户提供了更多可能性,使其能够在 AI 产品化过程中实现卓越的 AI 推断性能、可扩展性和云到边缘部署选择。

som-kv260-3

Kria KV260 视觉 AI 入门套件

赋予 AI 产品化更多可能性

为了让更多用户体验到高效 AI 推断加速带来的益处,赛灵思提供了一整套 AI 模型,其中所有模型都经过优化,可重训练、可部署,也供所有人免费下载。在 Vitis AI 1.4 中,该 AI Model Zoo 的多样性进一步增加,所涵盖的最先进模型可用于 4D 雷达检测、图像激光雷达传感器融合、 环视 3D 检测、深度评估、超分辨率等领域,总共包含来自不同 ML 框架的数百个模型。

ModelZoo

当然,为了保持差异化的产品功能和竞争力,部分用户会选择直接部署定制神经网络模型。通过引入称之为 graph-runner 的全新部署 API,Vitis AI 1.4 还为这些用户提供了更加流畅的体验,使定制层在 DPU 和 CPU 上即插即用成为现实。

行业领先的边缘与云端性能

赛灵思 FPGA、自适应 SoC 和 ACAP 所提供的硬件架构,可以灵活适应不同场景的计算需求,所提供的灵活性和可定制性则能适应不同的算法拓扑、精度甚至存储器层级。这既是赢得 AI 产品化之战的最佳方式,也是创建特定领域架构( DSA )诞生的原因。

为了证明 DSA 在 AI 推断加速方面的高效性,赛灵思于今年早些时候在 MLPerf v1.0 结果中提交了 ResNet-50 封闭类别基准测试。MLPerf Inference v1.0 是 MLCommons 组织的机器学习推断性能基准套件。结果衡量了一个训练有素的神经网络在各种情况下处理广泛应用的新数据的速度。利用 Versal VCK5000 PCI-E 卡,赛灵思获得了每秒 5,921 张图像( img/s )的结果。相同模式下的加速性能结果优于英伟达 T4卡。

vck5000-throughput

除此之外,Versal AI Core系列 VCK190 的性能结果也证明了赛灵思在 AI 加速方面的实力。通过利用 AI 引擎( AIE )内核和 DPU 设计、经优化的存储器层级和带宽 IO,VCK190 取得了 1,567 img/s 和 7.6ms 时延的 ResNet50-v1.5 结果,较之英伟达 AGX Xavier 性能提升了 87%且时延降低了 19 倍 。最重要的是,借助 Vitis AI 1.4,所有用户通常都可以利用 VCK5000 和 VCK190 进行加速。

致力于易于使用的软件开发流程

赛灵思始终致力于提供更加易用的软件工具,方便更多用户从事软件开发、数据和 AI 科学开发以及嵌入式开发,从而在赛灵思自适应计算平台上轻松实现 AI 部署。

借助 Vitis AI 1.4,量化器、优化器和编译器工具的支持范围均已扩展至最流行的机器学习框架、Pytorch、Tensorflow 1.x、Tensorflow 2.x 和 Caffe。全新 API 和操作员功能也已加入其中,以实现更多 AI 模型跨多个器件的部署。

Model Zoo

自赛灵思 Vitis AI 1.0 于 2020 年 1 月发布以来,其下载量已超过 10 万次,并被数百名用户应用于 AI 推断。全球各地的 AI 开发者利用 Vitis AI 打造了许多激动人心的项目。现在,伴随 Vitis AI 1.4 的发布以及支持众多全新功能与模型,开发者可以在全新 Versal AI Core 系列和 Kria SOM 平台上开展更多工作。

欲了解 Vitis AI 1.4 的更多全新特性,请访问 china.xilinx.comGithub 上的 Vitis AI 专区。