腾讯Hy4预览版:开源770B MoE模型通过自发现优化提升31.8%推理吞吐量
腾讯Hy4预览版开源MoE模型(770B参数、1M上下文)通过算子融合与通信优化,将端到端吞吐量提升31.8%。
内容详情 · 原文链接
via AI Pulse中文频道 - Telegram Channel
腾讯Hy4预览版开源MoE模型(770B参数、1M上下文)通过算子融合与通信优化,将端到端吞吐量提升31.8%。
内容详情 · 原文链接
via AI Pulse中文频道 - Telegram Channel