追平满血版o1的国产多模态模型终于来了！训练细节全部公开

发布时间：2025-01-21

点击次数：

春节前夕，一款堪比openai o1完整版（非预览版）的大模型强势来临！月之暗面科技正式发布kimi k系列模型的最新力作——k1.5多模态思考模型。该模型在数学、代码和多模态推理等方面全面超越openai o1预览版，成为openai之外首个达到o1水平的多模态模型。尤其值得一提的是，kimi-k1.5-short模型在短链思维推理测试中取得了sota成绩，大幅领先gpt-4o和claude 3.5 sonnet（提升幅度高达550%）！

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

这是国内首个在数学和代码能力上达到openai o1完整版水平的ai模型。此前，国内模型在基准测试中只能达到o1预览版的水平（50-60分），而o1完整版则达到80-90分，kimi k1.5的成绩令人瞩目。

月之暗面同步公开的技术报告详细阐述了他们在新技术范式下模型训练技术的探索历程。

技术报告：Kimi k1.5：基于大语言模型的强化学习扩展
报告链接：https://www.php.cn/link/0f4f778e61d44558c6f448a9cd313b08

在竞争激烈的AI大模型市场，如此高的技术透明度实属罕见。月之暗面表示，他们希望与更多技术人才分享经验，携手推动AGI发展。

Kimi k1.5：各项测试均达SOTA水平

技术报告显示，Kimi k1.5多模态推理模型在推理和通用能力方面达到SOTA水平：在长链思维推理（long-CoT）模式下，其数学、代码和多模态推理能力均达到OpenAI o1完整版的水平。具体分数如下：AIME 77.5分，MATH 500 96.2分，Codeforces 94百分位，MathVista 74.9分。

这是全球范围内，OpenAI以外公司首次实现o1完整版性能。此前模型仅能达到o1预览版或o1精简版的推理能力。

在短链思维推理（short-CoT）模式下，Kimi k1.5在数学、代码、视觉多模态和通用能力方面也达到全球SOTA水平，大幅领先GPT-4o和Claude 3.5 Sonnet。例如，其AIME得分为60.8分，MATH500得分为94.6分，LiveCodeBench得分为47.3分。

在全球顶级大模型数学和编程竞赛基准测试中，Kimi k1.5的表现同样出色，位列全球第一梯队。

Kimi k1.5的训练方法

随着模型规模的扩大，预训练阶段参数扩展带来的收益递减。为了进一步提升模型推理能力和长程问题解决能力，基于强化学习的后期训练将成为下一个突破点[1]。强化学习的扩展为AI持续进步开辟了新维度，它使大语言模型能够通过奖励机制学习来扩展训练数据，从而实现计算规模的扩展。

Kimi技术团队在Kimi k1.5的训练中，全面探索了强化学习训练技术、多模态数据配置和基础设施优化。他们设计的强化学习框架简单高效，无需依赖蒙特卡洛树搜索、价值函数和过程奖励模型等复杂技术，即可取得优异性能。他们还提出了有效的long2short技术，利用长链思维推理技术改进短链思维推理模型，使其在短链思维推理方面取得最佳成果。