Gate News 消息,4月24日——小米的大语言模型团队负责人罗福丽在一场深入采访中透露,MiMo-V2-Pro 模型的总参数量达到 1 万亿,并且训练过程中需要成千上万台 GPU。她表示,1T 规模代表要实现接近 Claude Opus 4.6 等级的性能,并为下一阶段 AI 智能体抢占具备竞争力的入场券所达到的最低门槛
从技术层面看,Pro 版本采用极端稀疏注意力机制,在全局注意力与滑动窗口注意力之间的比例为 7:1,从而在长上下文处理时控制推理成本。模型还保留了 MTP (Multi-Token Prediction) 架构,以利用富余的计算能力实现更快的推理。
在管理层面,100 人规模的 MiMo 团队中,直接参与核心迭代的只有 30-40 人。团队在没有正式层级或明确子分组划分的情况下运作,也没有交付截止期限。遇到诸如训练损失突增这类不稳定的数值问题时,团队会优先考虑停止训练以进行排查,即使这意味着停止业务一到两周,并产生数百万美元的计算成本。
免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见
声明。
相关文章
中国 AI 公司考虑在 Meta 的 Manus 收购叫停后拆解红筹结构
据 Beating 称,中国国家发展和改革委员会叫停了 Meta 对 AI 代理公司 Manus 的 20 亿美元收购,促使中国证券监督管理委员会加强对红筹公司(持有境内资产的中国公司)在香港 IPO 上市的批准要求
GateNews3 分钟前
马斯克完成 OpenAI 诉讼中为期三天的作证,援引 130-1500 亿美元的损害赔偿主张
据多家媒体报道,埃隆·马斯克在针对 OpenAI 的诉讼中,于 4 月 28 日至 30 日完成了三天的作证,其累计作证时间超过 7 小时。马斯克于 2015 年与最初投资 3800 万美元共同创立 OpenAI,他声称该公司放弃了其非营利
GateNews13 分钟前
Meta 于 5 月 1 日收购机器人 AI 初创公司 Assured Robot Intelligence
据彭博社报道,Meta 于 5 月 1 日收购了 Assured Robot Intelligence,这是一家总部设在圣迭戈和纽约的人工智能机器人创业公司。被收购团队(包括联合创始人 Lerrel Pinto 和 Xiaolong Wang)将加入 Meta 超级智能实验室,并与 Meta Robotics Studio 合作。财务
GateNews13 分钟前
与 OpenAI 相关的组织向网红每条 TikTok 支付 5,000 美元,用于传播“中国 AI 威胁”信息
根据 WIRED,隶属于超级政治行动委员会 Leading the Future 的非营利组织 Build American AI 一直在通过营销机构 SM4 系统性地招募社交媒体网红,以在 TikTok 和 Instagram 上传播“China threatens U.S. AI”的信息。该组织
GateNews19 分钟前
Nebius 以 $643M to 购买 Eigen AI,以加速 AI 模型部署
据《经济时报》报道,5月1日,总部位于阿姆斯特丹的 AI 基础设施公司 Nebius 宣布,它将以约 6.43 亿美元现金和 A 类股份收购 Eigen AI。Eigen AI 由前 MIT 研究人员创立,专注于推理和优化技术。Nebius 计划将其
GateNews23 分钟前
五角大楼与 8 家公司签署 AI 合作协议,拒绝 Anthropic 访问秘密级网络
据 Beating News 称,五角大楼宣布与 8 家科技公司达成协议,以在美国军队的绝密级(IL6)和顶级绝密(IL7)网络上部署其 AI 工具与基础设施。新签署的公司包括 Nvidia、Microsoft、AWS、Reflection AI,以及此前
GateNews23 分钟前