灵活应变 & 实时
AI 推断加速

概述

从边缘到云的最佳人工智能推断

Vitis™ AI 开发环境是 Xilinx 的开发平台,适用于在 Xilinx 硬件平台(包括边缘器件和 Alveo 卡)上进行人工智能推断。它由优化的 IP、工具、库、模型和示例设计组成。Vitis AI 以高效易用为设计理念,可在 Xilinx FPGA 和 ACAP 上充分发挥人工智能加速的潜力。
 

Vitis AI 部署特性

您的开发如何与人工智能协作:

  • 支持主流框架和最新的模型,能够执行不同的深度学习任务
  • 提供一系列全面的预先优化模型,这些模型现已就绪,可随时部署在 Xilinx 器件上。您可以找到最相似的模型,开始针对您的应用重新训练!
  • 提供功能强大的开源量化器,支持剪枝和未剪枝的模型量化、校准和微调。
  • AI 分析器提供逐层分析,有助于解决瓶颈问题
  • AI 库提供高层次 C++ 和 Python API,可实现从边缘到云端的最大可移植性。
  • 可以从吞吐量、时延和电源角度定制可扩展的高效 IP 内核,满足您对许多不同应用的需求。

使用 Vitis AI 探索一切可能性

Vitis AI Model Zoo

Vitis AI Model Zoo

 

AI 优化器

有了世界领先的模型压缩技术,我们可以在对精度影响极小的情况下,将模型的复杂性降低 5 至 50 倍。深度压缩可将您的 AI 推断性能提升到一个新的层次。

人工智能优化器方框图

人工智能量化器方框图

AI 量化器

通过将 32 位浮点权值和激活量转换为 INT8 这样的定点,AI 量化器可在不影响预测精度的情况下,降低计算复杂度。定点网络模型需要的内存带宽更少,因此比浮点网络模型速度更快,电源效率更高。


AI 编译器

将 AI 模型映射至高效指令集及数据流。还可执行高级优化任务,如层融合和指令排程等,并可尽量重复使用片上内存。

人工智能编译器方框图

AI 配置器

性能分析器有助于程序员深入分析 AI 推断实现方案的效率和利用率。


AI 库

该运行时提供一系列轻量级 C++ 及 Python API,其可实现便捷的应用开发。此外,它还提供高效的任务调度、内存管理和中断处理。

人工智能库方框图
技术文档

Vitis AI 文档

Default Default 标题 文件类型 日期