并行计算
8月04
-
比OpenAI的Whisper快50%,最新开源语音模型
08:36 作者:编辑声明:本文来自于微信公众号 AIGC开放社区 作者:AIGC开放社区 生成式AI初创公司aiOla在官网开源了最新语音模型Whisper-Medusa,推理效率比OpenAI开源的Whisper快50%。 aiOla在Whisper的架构之上进行了修改采用了“多头注意力”机制的并行计算方法,允许模型在每个推理步骤中预测多个token,同时不会损失性能和识别准确率。 开源地址:https://git…原文连接