Tether 开源 TurboQuant,本地 AI 设备 KV 缓存压缩比最高可达 5 倍

2026年06月01日 21:34快讯140
火星财经消息,Tether AI 研究团队宣布开源 TurboQuant 生产版本,并将其集成至 QVAC SDK 0.12.0。TurboQuant 源自 Google Research 的内存压缩算法,可将 AI 运行时的 KV 缓存压缩最高 5 倍,同时保持接近未压缩模型的输出质量。这意味着笔记本电脑、手机及边缘设备在无需将数据上传至云端的情况下,可处理更长的对话、更大的文件及更复杂的任务。此次开源发布包含完整量化流水线、主流推理框架适配器及开发者文档,面向在消费级硬件、边缘设备及点对点网络上部署 AI 的开发者和初创团队。

免责声明:本站所有资讯仅代表作者个人观点,不构成任何投资理财建议。

本文链接:https://coin123.link/post/2661.html

相关文章

美联储似乎预期利率将进一步下降

美国财长耶伦表示,美联储似乎预期利率将进一步下降。如果我们继续沿着这条道路前进,利率最终将下降至中性水平,希望在美联储采取行动的情况下,劳动力市场能够保持稳定,劳动力市场和通胀表明我们正走在软着陆的道…

人工智能可能对就业产生负面影响

美联储理事库克在以人工智能为主题的会议开幕致辞中未提及货币政策或经济前景,但他表示人工智能可能对就业产生负面影响,尽管乐观认为人工智能可以提升生产力。…

ElonMusk发布DOGE图片称愿为美国服务

Elon Musk 再次发布带有 DOGE 字符图片并配文“Department Of Government Efficiency”(D.O.G.E)政府效率部,该图片中 Elon Musk 和特朗普…

加密货币行业创始人考虑地理围栏策略

Variant Fund首席法务官昨日表示,随着美国监管机构继续打击加密货币领域,许多加密货币创始人正在考虑将地理围栏作为一种合规策略。地理围栏意味着通过在产品周围创建虚拟“围栏”来阻止特定“地理位置…

香港金融科技会议 讨论虚拟资产与AI

香港财经事务及库务局局长许正宇主持第四次金融科技项目执行统筹小组会议,他表示港府与金融监管机构一直大力支持金融科技发展,包括完善金融基础建设、构建更活跃金融科技生态圈、培育金融科技人才。与会者就金融科…

美国货币市场基金总资产创纪录新高

尽管美联储开始降息和一系列行业改革措施生效,投资者仍在涌入美国货币市场基金。Investment Company Institute数据显示,截至10月2日当周,货币市场基金规模增加约387亿美元,总…

欧洲:欧元区通胀率正朝2%目标迈进

欧洲央行副行长金多斯表示,欧元区的总体通胀率和核心通胀率正朝着2%的目标迈进,到2025年底物价应该会企稳。不过,经济数据显示风险倾向于下行。金多斯在接受西班牙广播电台采访时强调:“我们不能直接宣称取…

社区宣布建立Memelandia以发展Meme

TON 社区宣布建立 Memelandia,将在 TON 基金会和 TON 协会的支持下制定和执行战略。目标包括增加 TON 上的 Meme 币交易量、增加交易者和发行的 Meme 币数量、支持成功案…

设定以太坊达到 100,000 TPS 的目标

以太坊联合创始人 Vitalik Buterin 在周四的博客文章中设定了以太坊达到 100,000 TPS 的目标。Buterin 表示,这一目标将通过 Layer 2 的集成实现,但首先需要进行标…

谷歌已恢复比特币和以太坊价格图表

谷歌已经恢复了在其搜索结果中显示比特币和以太坊的价格图表。此前,这些价格图表曾短暂地从搜索结果中移除,导致用户无法立即访问到加密货币的价格数据。这次移除引发了加密社区的讨论和猜测。谷歌的一位发言人透露…