梅江计算加速套件TACO Kit-腾讯云代理商

产品展示 PRODUCT DISPLAY

梅江计算加速套件TACO Kit

发布时间：2024-06-28

梅江腾讯云计算加速套件ＴＡＣＯ　Ｋｉｔ（ＴｅｎｃｅｎｔＣｌｏｕｄ　Ａｃｃｅｌｅｒａｔｅｄ　Ｃｏｍｐｕｔｉｎｇ　Ｏｐｔｉｍｉｚａｔｉｏｎ　Ｋｉｔ）是基于腾讯云Ｉａａｓ产品的ＡＩ计算加速套件。提供网络协议、通信策略、ＡＩ框架、模型编译等多层级的优化，是一套全生态的计算加速方案。支持裸金属、云服务器、容器等算力形态，支持ＣＰＵ、ＧＰＵ、ＮＰＵ等芯片算力组合。帮助客户降低ＡＩ优化门槛的同时，大幅提升ＡＩ训练和推理业务性能，节约算力成本。

训练加速

ＡＩ模型规模的扩大及训练数据的增多，用户对模型的迭代效率要求也随之增长，单个ＧＰＵ　的算力已无法满足大部分业务场景，使用单机多卡或多机多卡训练已成为趋势。

ＴＡＣＯ　Ｔｒａｉｎ　ＡＩ训练加速

面向训练场景开箱即用的多层级优化加速组件
通过自研高性能网络协议ＨＲＲＰ优化网络传输，基于Ｈｏｒｏｖｏｄ深度优化分布式训练的通信策略，并集成自研ＡＩ框架ＴＴｅｎｓｏｒｆｌｏｗ
有效解决ＶＰＣ网络环境下分布式训练效率问题，提高加速比和模型迭代速度

推理加速

ＡＩ算法用于生产环境大规模模型的推理部署，在不同模型、不同硬件，不同业务细分场景，需考虑如何标准化一套接口高效地优化和部署业务模型。

ＴＡＣＯ　Ｉｎｆｅｒ　ＡＩ推理加速

轻量易用、无缝集成已有深度学习框架的ＡＩ推理加速软件
集成硬件厂商的定向开源加速方案，整合先进的编译优化、图优化和算子优化技术，兼容　ＣＰＵ、ＧＰＵ、ＮＰＵ等多种芯片
一行优化接口，无感接入业务，轻松实现优化和部署模型

相关标签：腾讯云数据解决方案腾讯云解决方案腾讯云是什么

上一篇：梅江TencentOS Server

下一篇：梅江腾讯 Kona

腾讯云代理商

梅江腾讯云产品全方案服务商

梅江计算加速套件TACO Kit