随着DeepSeek-R1引发业界强化学习(RL)共创潮,DeepSeek-R1-Distill-7B和Qwen2.5-32B已成为广泛使用的强化学习起步模型。在相同RL训练数据情况下,MiMo-7B 的数学&代码领域的强化学习潜力显著领先。值得注意的是,MiMo-7B全系列模型均已开源。据了解,MiMo 来自小米全新成立不久的“小米大模型Core团队”的初步尝试。 ...
PC版:https://www.cnbeta.com.tw/articles/soft/1496408.htm
手机版:https://m.cnbeta.com.tw/view/1496408.htm
cnBeta.COM
小米开源首个推理大模型Xiaomi MiMo - Xiaomi 小米 - cnBeta.COM
小米开源首个为推理(Reasoning)而生的大模型‘XiaomiMiMo’,联动预训练到后训练,全面提升推理能力。据介绍,在数学推理(AIME24-25)和代码竞赛(LiveCodeBenchv5)公开测评集上,MiMo仅用7B的参数规模,超越了OpenAI的闭源推理模型o1-mini和阿里Qwen更大规模的开源推理模型QwQ-32B-Preview。
via cnBeta.COM中文业界资讯站 - Telegram Channel