MiniMax M3正式开源,原生多模态支持百万上下文

2026年06月12日 23:32快讯2
据动察 Beating 监测,国产大模型厂商 MiniMax 在 Hugging Face 正式开源原生多模态混合专家(MoE)模型 MiniMax M3 权重。MiniMax M3 总参数量为 4280 亿,单 Token 激活 230 亿参数,原生支持 100 万超长上下文。为降低部署显存开销,开发团队同步发布了 MXFP8 量化版本,并适配 SGLang、vLLM、Transformers 等主流推理框架。 在多模态设计上,MiniMax M3 在预训练阶段即开展文本、图像与视频联合训练以实现原生语义融合,而非在后训练阶段进行多模态对齐。在运行机制上,模型提供双推理模式,分为用于复杂逻辑和工具编排的 Thinking(思考)模式,以及用于低延迟对话和代码生成的 Non-thinking(非思考)模式。 支撑百万超长上下文的底层内核,是同步开源的轻量化注意力内核库 MiniMax Sparse Attention(简称 MSA)。官方公布的数据显示,MSA 采用分组查询注意力(GQA)分块检索机制,在 100 万 Token 的极长上下文实测中,针对 NVIDIA Blackwell(SM100)架构优化的 MSA 算子相比传统全注意力机制,可实现 9 倍以上的预填充加速和 15 倍的解码提速,同时显著降低了推理开销。

欧易OKX交易所

全球领先的加密货币平台,适合新手与进阶交易者

新手福利:注册即享20% 交易手续费减免!

免责声明:本站所有资讯仅代表作者个人观点,不构成任何投资理财建议。

本文链接:https://coin123.link/post/3026.html

相关文章

Earth Fast 完成 140 万美元的融资

据 PANews 报道,前端托管解决方案 EarthFast 宣布完成 140 万美元 Pre-Seed 轮融资,TheGP 和 Nascent 领投,Bodhi Ventures、Infinex 创…

Cosmos 生态系统宣布发布最新版本

据深潮TechFlow报道,Cosmos 生态系统宣布发布最新版本的 Cosmos SDK,代号 Olympus(v0.52)。Olympus 版本的核心改进包括:核心组件分离,允许开发者独立使用 S…

CZ 将在正式获释日期的前两天提前获得自由

当地时间本周五,CZ 将在时隔数月后首次以自由人身份踏上加利福尼亚州长滩的街头。 自四月同意从迪拜返回美国后,CZ 一直处于联邦拘禁之下,缘由是其所创立的加密货币交易所 Binance 未能…

疑因钓鱼签名损失12,083枚spWETH

9月28日消息,据Lookonchain在X平台发文称,据Arkham监测数据显示,此前因签署钓鱼签名损失12,083枚spWETH的受害者疑似加密KOL DiscusFish(@bitfish1)。…

CoinShares:数字资产投资产品流入

CoinShares最新周报数据显示,上周数字资产投资产品连续第三周流入,总额达12亿美元,管理总资产增长6.2%。某些美国投资产品的期权获批可能提振市场人气,尽管交易量环比略有下降,为3.1%。比特…

加密货币行业创始人考虑地理围栏策略

Variant Fund首席法务官昨日表示,随着美国监管机构继续打击加密货币领域,许多加密货币创始人正在考虑将地理围栏作为一种合规策略。地理围栏意味着通过在产品周围创建虚拟“围栏”来阻止特定“地理位置…

Ebury市场对英央行降息预期反应过度

Ebury称,英镑温和上涨,因英国央行首席经济学家皮尔暗示降息将是渐进的,市场对英国央行行长贝利有关更快降息前景的言论反应过度。Ebury策略师马修•瑞安表示,皮尔的言论证实了市场对贝利讲话的理解过于…

闪送 Bing Ex 昨晚成功在纳斯达克上市

中国即时送达快递公司闪送BingEx昨晚成功在纳斯达克上市,股价最高飙升17%,最终收盘大涨9%。该公司的服务品牌为 FlashEx,其 IPO 发行价为每股 16.50 美元。开盘时股价持平,估值为…

政策方面,仍有进一步降准降息的空间

中信建投研报指出,未来财政政策预计将采取渐进式扩张策略,通过增发特别和超长期国债、减税降费等方式推出财政增量政策。货币政策方面,仍有进一步降准降息的空间,并可能推出更多创新型货币政策工具。房地产市场政…

泰国允许共同基金和私募投资数字资产

泰国证券交易委员会(SEC)提出新规,允许共同基金和私募基金投资数字资产,以与国际发展保持一致,并满足机构投资者日益增长的兴趣。周三公布的提案草案正在征求公众对投资数字资产的基金标准的修订意见。SEC…