Rows of NVIDIA Grace Blackwell servers in a data
人工智能

Mistral发布1T参数ML4“le Chonk”,安全优先预览

Mistral表示,这款开放权重的旗舰产品将在10月晚些时候扩展,经过与开发者、网络安全领导者和国家机构的预览后。

作者:Elliot Marsh阅读 5 分钟

Mistral推出了Mistral Large 4(ML4),昵称为“le Chonk”,这是一个1万亿参数的开放权重旗舰模型,声称是中国以外开发的最强开放模型。该公司正在为开发者和安全利益相关者提供预览,计划在10月晚些时候进行更广泛的发布。

Mistral的“le Chonk”到来了:1T参数,开放权重的雄心,10月发布窗口

Mistral于10月6日发布了Mistral Large 4(ML4),将该模型命名为“le Chonk”,并将其描述为一个1万亿参数的系统。该公司将其作为对当前开放模型排行榜的西方回应,声称ML4是中国以外开发的最强开放权重模型,具有“显著优势”。

推出计划比参数数量更具可操作性。Mistral表示,ML4将首先向开发者和“网络安全领导者”发布预览,同时与国家当局合作,然后在10月晚些时候进行更广泛的发布。

关于构建细节,Mistral表示ML4在两个月内使用4000个Nvidia Grace Blackwell GPU进行训练,部署在Mistral拥有的欧洲数据中心。这种组合对于定位至关重要:这是一个能力声明,同时也是一个托管和管辖权声明,旨在吸引关心模型运行位置及基础设施控制权的买家。

Mistral将ML4框架定义为在网络安全、编码、制造、金融和多模态工作中特别有效。“多模态”在这里意味着模型可以处理多种数据类型,例如文本加图像,这往往是企业工作流程开始看起来像产品而不是演示的地方。

为什么以安全为首的预览对开放模型的采用至关重要

“开放权重”是此次发布的关键字。它指的是模型的参数,这些数值决定了网络如何处理输入,这些参数被公开,以便其他人可以在自己的基础设施上运行和修改它们。这与闭合模型相反,后者的访问主要通过API进行,权重不会被释放。API和权重不会被释放。

Mistral 的预览小组看起来像是针对受控环境的市场推广,而不是面向消费者的轰动。向开发者、网络安全领导者和国家当局进行以安全为首的发布,表明 ML4 正在为企业和政府安全工作流程定位,其中自托管和可审计性是采购清单的一部分。

竞争背景非常明确。Mistral 正在进入一个市场,在这个市场中,最有能力的开放模型是中国的,并且被描述为在全球范围内越来越被采用,而对开放模型的访问已成为美中技术竞争的一个焦点。Mistral 正试图在这种需求中插入一个由欧洲托管的开放权重选项。

该公司还将模型的安全角度与封闭系统的特定失败模式联系起来:越狱,或绕过安全规则以强制执行不允许的行为。Mistral 的联合创始人兼首席科学家 Guillaume Lample 说:“此外,网络防御能力将使企业和政府能够抵御那些越狱封闭模型以进行网络攻击的威胁行为者。”

十月的真实催化剂:‘核心参数’意味着什么以及基准是否成立

Mistral 最大的性能声明是有条件的。该公司表示,“当其核心参数发布时”,ML4 将在全球范围内的综合基准性能中排名前列,这意味着在用于比较模型的多个标准化测试中获得的综合视图。

对于交易者来说,有两个差距很重要。首先,数据包中没有基准名称或分数,因此无法从提供的材料中验证“顶级”声明。其次,这里没有定义“核心参数”,而十月晚些时候发布的内容范围仍不清楚,这是否意味着完整权重、部分权重或另一种受限形式的发布。

Mistral 还在发布中加入了自己的警告。该公司表示,ML4 “在编码等领域仍落后于前沿”,但没有量化差距或命名用于比较的前沿模型。编码是开发者通常会最快进行压力测试的类别,因此早期的独立评估可能会验证市场营销或揭穿它。

另一个前瞻性信号是计算扩展。Mistral 在九月以 21 亿欧元的估值筹集了 30 亿欧元(34 亿美元)的 D 轮融资,Lample 将能力提升与该融资联系在一起,表示:“随着我们扩大培训能力,模型能力将进一步提高,紧随我们的 D 轮融资。”这为后续培训能力设定了期望,超出了报告的 4000 个 Grace Blackwell GPU。

我的看法:ML4 是叙事的转变——但交易取决于发布范围和证明

决定这一点的不是 1T 参数的头条,而是分发和披露。面向开发者、网络安全领导者和国家当局的预览是 Mistral 在告诉你它认为采用将会坚持的地方:自托管安全和受监管的部署,在这些地方,开放权重是采购特性,欧洲数据中心是宣传的一部分。

重要的门槛是“核心参数”是否转变为真正的开放权重发布,并且具有能够经受独立重跑的基准表,尤其是在编码和多模态评估方面。如果十月份的下降受到实质性限制,或者早期的第三方结果令人失望,ML4将继续作为叙事催化剂。如果发布范围广泛且数据保持稳定,它将成为安全敏感环境中开放模型部署的可信非中国锚。

来源