7月下旬，国产AI公司月之暗面（Moonshot AI）在深夜正式开源了其最新大语言模型Kimi K3的全部参数权重和技术报告，同步公开了三项核心基础设施工具。这一举动迅速引爆全球开发者社区，发布仅30分钟便登顶海外开源平台趋势榜。
参数规模创纪录
Kimi K3采用混合专家（MoE）架构，总参数量达到2.8万亿，是目前全球参数规模最大的开源模型之一。除了文本处理能力，它还具备原生多模态视觉理解能力，上下文窗口支持100万Token，在多项基准测试中表现优异。
三大技术亮点
研发团队在技术报告中披露了关键创新：混合注意力机制、极高稀疏度的路由策略，以及全新的视觉编码训练方式。同时开源的三项基础设施组件包括：优化通信效率的协议、提升计算速度的核心算子，以及支持大规模并行测试的虚拟沙箱环境。
生态快速跟进
模型发布后，国内外多家科技巨头和云服务商迅速宣布完成对Kimi K3的适配与接入。华为昇腾也在第一时间宣布支持该模型的训练适配及推理部署。分析人士认为，此类超大参数模型的开源，将有力推动国产算力产业链的发展。
原创文章，作者：小蓝IT，如若转载，请注明出处：https://www.xiaolanzy.com/1623.html
微信扫一扫 
支付宝扫一扫 
