MAU 加速器

Myrtle.ai

  • Alliance Member
  • Application Partner

产品描述

MAU 加速器可实现确定性的低尾时延和高吞吐量,无需在二者之间做权衡。这不仅有助于在给定的时延内使用更高质量的模型,而且还可显著节省基础架构成本并大幅降低能耗。 MAU 加速器运行在 Alveo U250 上,支持基于 ONNX 的行业标准开发流程,该开发流程可使用 TensorFlow、PyTorch 或 MXnet 等标准框架开发神经网络模型,以便在其上轻松部署。 经过精心设计,可充分满足下列应用需求: 语音转录 自然语言处理 语音合成 时间序列分析 支付及交易欺诈检测 系统推荐


主要特性与优势

  • 确定性低尾时延
  • 更高的时延限制吞吐量
  • 更低的基础架构成本
  • 可实现在给定的时延限制下使用更高质量的模型
  • 更低的能耗

本地解决方案

  • Alveo U250

支持的工作负载

  • Machine Learning