字节跳动开源AI训练引擎涵盖编码层、解码层等
- 来源：TechWeb
- 2021/6/28 13:58:19
- 22115
6月28日消息，今日，字节跳动火山翻译团队宣布推出LightSeq训练加速引擎，并向全球开发者开源。
Transformer是自然语言处理、计算机视觉等AI技术领域十分常用的基础模型，被广泛应用在机器翻译、文本生成、文本摘要、图像处理、时间序列预测等任务中。训练和推理则是AI技术的两个主要过程，相当于学习知识和解决问题。
据悉，LightSeq训练加速引擎能够支持Transformer的完整加速，从词嵌入层、编码层、解码层，到最后的损失函数层，业内首次实现了全流程支持。而且LightSeq的训练速度极快，相比主流的序列生成库，LightSeq最快只需要三分之一的时间就能完成训练。
根据公开报道，字节跳动现在已经开源了机器学习平台Klever、联邦学习平台Fedlearner、高性能分布式训练框架BytePS等重磅项目。
(原标题：字节跳动开源AI训练引擎)
版权与免责声明：凡本网注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本网授权不
展开全部
热门评论