MiniMax M3正式开源,原生多模态支持百万上下文

2026年06月12日 23:32快讯61
据动察 Beating 监测,国产大模型厂商 MiniMax 在 Hugging Face 正式开源原生多模态混合专家(MoE)模型 MiniMax M3 权重。MiniMax M3 总参数量为 4280 亿,单 Token 激活 230 亿参数,原生支持 100 万超长上下文。为降低部署显存开销,开发团队同步发布了 MXFP8 量化版本,并适配 SGLang、vLLM、Transformers 等主流推理框架。 在多模态设计上,MiniMax M3 在预训练阶段即开展文本、图像与视频联合训练以实现原生语义融合,而非在后训练阶段进行多模态对齐。在运行机制上,模型提供双推理模式,分为用于复杂逻辑和工具编排的 Thinking(思考)模式,以及用于低延迟对话和代码生成的 Non-thinking(非思考)模式。 支撑百万超长上下文的底层内核,是同步开源的轻量化注意力内核库 MiniMax Sparse Attention(简称 MSA)。官方公布的数据显示,MSA 采用分组查询注意力(GQA)分块检索机制,在 100 万 Token 的极长上下文实测中,针对 NVIDIA Blackwell(SM100)架构优化的 MSA 算子相比传统全注意力机制,可实现 9 倍以上的预填充加速和 15 倍的解码提速,同时显著降低了推理开销。

欧易OKX交易所

全球领先的加密货币平台,适合新手与进阶交易者

新手福利:注册即享20% 交易手续费减免!

免责声明:本站所有资讯仅代表作者个人观点,不构成任何投资理财建议。

本文链接:https://coin123.link/post/3026.html

相关文章

中东地区加密货币交易量占全球的7.5%

根据 Chainalysis 的报告,在 2023 年 7 月至 2024 年 6 月期间,中东和北非地区占全球加密货币交易量的 7.5%。Chainalysis 估计该期间收到的总交易额为 3387…

基金会建立联盟提供企业级解决方案

Aethir 和 Filecoin 基金会正在建立一个联盟,为用户提供企业级解决方案,通过去中心化基础设施支持其业务。Aethir 将探索向 Filecoin 存储提供者租赁 GPU。在成为封装即服务…

允许众安银行新增虚拟资产交易条件

香港证监会(SFC)已允许 ZA Bank(众安银行)的 type 1 牌照新增虚拟资产交易条件,即可以进行加密货币交易。ZA Bank 发言人表示,ZA Bank 已获得证监会批准,允许该公司在第…

下一代区块链和DEX要更快预言机价格

Blockwork 研究文章介绍了从总担保价值 (TVS) 到总交易价值 (TTV) 作为评估预言机性能的指标的转变。下一代区块链和 DEX 要求更快的预言机价格更新。TTV 更好地反映了预言机的收入…

Ebury市场对英央行降息预期反应过度

Ebury称,英镑温和上涨,因英国央行首席经济学家皮尔暗示降息将是渐进的,市场对英国央行行长贝利有关更快降息前景的言论反应过度。Ebury策略师马修•瑞安表示,皮尔的言论证实了市场对贝利讲话的理解过于…

比特币是当前市场上最明显的增值资产

资产管理公司VanEck首席执行官Jan Van Eck在接受CNBC采访时表示,比特币是当前市场上最明显的增值资产。他强调,比特币的增值和成长空间将与黄金具有同等重要性。Jan Van Eck提到,…

特朗普拒绝哈里斯进行第二场总统辩论

前美国总统唐纳德·特朗普拒绝了福克斯新闻提出的 10 月 24 日或 27 日与副总统卡玛拉·哈里斯进行第二场总统辩论的邀请。特朗普表示,在 11 月 5 日的大选之前不会再有辩论。此前哈里斯已接受…

6.9万CEX累计空单清算强度将达17亿

据 Coinglass 数据,若比特币突破 6.9 万美元,主流 CEX 累计空单清算强度将达 17.11 亿;反之,若比特币跌破 6.5 万美元,主流 CEX 累计多单清算强度将达 19.35 亿。…

平台“X”的罚款可能会计入其它收入

欧盟警告称,在计算对社交媒体平台“X”的罚款时,可能会计入马斯克其他业务的收入,包括SpaceX和Neuralink。这将大大增加潜在处罚。根据欧盟的《数字服务法案》,如果未能解决非法内容和虚假信息问…

特朗普与哈里斯加密货币监管存分歧

美国大选临近,特朗普和哈里斯在加密货币监管问题上存在明显分歧。本周,Rebecca Jones 采访了 Bloomberg 加密货币记者 Sunil Jagtiani,讨论了两位候选人的数字资产政策。…