据悉，华为、荣耀、OPPO、vivo以及努比亚、星际魅族等品牌已率先完成了对DeepSeek的接入，部分机型更是采用了满血的R1参数配置，为用户带来了更为强大的智能体验。然而，在这一波热潮中，小米却显得相对迟缓，尽管曾在2月15日短暂上线了DeepS ...

近期，全球知名开源平台Huggingface上的一则消息引起了广泛关注。该平台联合创始人兼CEO Clement Delangue宣布，中国开源大模型DeepSeek-R1在短短时间内迅速崛起，成为Huggingface平台上最受欢迎的开源大模型之一 ...

2 月 24 日消息，月之暗面 Kimi 昨日发布了“Muon 可扩展用于 LLM 训练”的新技术报告，并宣布推出“Moonlight”：一个在 Muon 上训练的 30 亿 / 160 亿参数混合专家模型（MoE）。使用了 5.7 万亿个 ...

2 月 24 日消息，真我官方今日宣布，真我 Neo7x 将全球首发第四代骁龙 6 处理器，该处理器采用骁龙 8 Gen 3 同款微内核架构，先进 4nm 制程加持。

在人工智能领域，训练大型语言模型（LLMs）已成为推动技术进步的重要方向。然而，随着模型规模和数据集的不断扩大，传统的优化方法 —— 特别是 AdamW—— 逐渐显露出其局限性。研究人员面临着计算成本高、训练不稳定等一系列挑战，包括梯度消失或爆炸、参数矩阵更新不一致及分布式环境下的资源需求高等问题。因此，迫切需要更高效、更稳定的优化技术来应对这些复杂性。

报告表示，Kimi通过深度改造 Muon 优化器，并将其运用于实际训练，证明了 Muon 在更大规模训练中的有效性，是 AdamW 训练效率的 2 倍，且模型性能相当。 据悉，本次论文所使用的模型为 Moonlight-16B-A3B，总参数量为 15.29B，激活参数为 2.24B，其使用 Muon 优化器，在 5.7T Tokens 的训练数据下获得上述成绩。

【月之暗面开源Moonlight：30亿/160亿参数混合专家模型】《科创板日报》24日讯，月之暗面Kimi发布了“Muon可扩展用于LLM训练”的新技术报告，并宣布推出“Moonlight”：一个在Muon上训练的30亿/160亿参数混合专家模型（ ...

近期，人工智能领域迎来了一项引人注目的技术创新。知名技术团队月之暗面Kimi发布了一项关于Muon优化器的新技术报告，并随之推出了名为“Moonlight”的混合专家模型（MoE）。这款模型在Muon优化器的基础上进行了训练，拥有30亿至160亿不等 ...

IT之家 2 月 24 日消息，月之暗面 Kimi 昨日发布了“Muon 可扩展用于 LLM 训练”的新技术报告，并宣布推出“Moonlight”：一个在 Muon 上训练的 30 亿 / 160 亿参数混合专家模型（MoE）。使用了 5.7 万亿个 ...

近日，英伟达确认发售了一些缺少渲染单元的RTX5090和RTX5070Ti GPU。这些GPU导致了包括启动驱动程序问题和一些电源连接器的熔化。英伟达全球公关总监Ben Berraondo表示，这些GPU的渲染输出单元比规定少一个，受影响的消费者可以联系主板制造商进行更换。

（注：帕累托前沿是一个经济学和管理学中的概念，描述的是在多目标决策问题中所有可能的最优解的集合，这些解在多个目标之间取得了最佳平衡。在帕累托前沿上的每一个点，都意味着一个目标的改善必然以牺牲另一个目标为代价，因此它代表了在多个目标之间实现的最佳权衡。

（注：帕累托前沿是一个经济学和管理学中的概念，描述的是在多目标决策问题中所有可能的最优解的集合，这些解在多个目标之间取得了最佳平衡。在帕累托前沿上的每一个点，都意味着一个目标的改善必然以牺牲另一个目标为代价，因此它代表了在多个目标之间实现的最佳权衡。