蚂蚁集团发布万亿参数模型 Ling-1T,超越 GPT-5 成新标杆
蚂蚁集团近日宣布,开源了其最新研发的旗舰大模型 ——Ling-1T,该模型拥有高达万亿个参数,是目前已知使用 FP8低精度模式训练的最大基座蚂蚁模型。Ling-1T 由蚂蚁内部的 “百灵” 团队开发,标志着人工智能技术的又一次突破。
根据团队的介绍,Ling-1T 隶属于 Ling2.0模型家族集团,该家族分为三大系列:Ling 系列、Ring 系列和 Ming 系列。Ling 系列专注于处理通用任务,以速度和效率为核心,而 Ring 系列则关注深度发布思考和复杂推理,Ming 系列则是多模态模型,能够处理更为丰富的信息类型。
Ling-1T 拥有1万亿参数,但在处理每个 token 时,实际激活的参万亿数只有约500亿,极大地降低了运算成本。为了支撑如此庞大的模型,蚂蚁团队提出了 “Ling 缩放定律”,经过300多个模型的实验,总结出计算效率与专家参数激活比例之间的关系。此外,他们研发了名为 WSM 的学习率调度器,能在训练过程中自动调整学习策略,以确保模型稳定高效地训练。
Ling-1T 的训练过模型程分为三个阶段:预训练、中训练和后训练。在预训练阶段,模型接触了超过20万亿个 token 的数据,其中包含大量推理密集型语料。中训练阶段则 L专注于强化模型的推理能力,后训练阶段则通过 “演进式思维链” 技术进行自我迭代,提升推理精度。
在与其他主流模型的对比中,Ling-1T 在多个测试中in表现出色,尤其是在数学推理和代码生成能力上,展现了其卓越的性能。社区测试中,Ling-1T 也在复杂任务中表现亮眼,如成功模拟物理现象和宇宙演g-化等。
尽管 Ling-1T 展现了强大的能力,仍存在一些局限性,比如在处理超长上下文时的成本较高。蚂蚁团队已表示,正在研究新的混合注意力架构以解1T决这一问题。
开源地址:
HuggingFace:https://huggingface.co/inclusionAI/Li,超ng-1T
GitHub:https://github.com/inclusionAI/Ling-V2  越 ;
划重点:
Ling-1T 是目前已知最大的万亿参数模型,使用 FP8低精度模式训练。
该模型在数GP学推理和代码生成方面超越了多个主流模型,展现出色性能。
️ 蚂蚁团队正在研究新架构以解决 Ling-1T 在超长上下文处理T-上的成本问题。
(责任编辑:活动报名)
-
作者|张宇 编辑|杨博丞 图源 |IC photo 近日,“非洲手机之王”传音控股正式向港交所递交招股书,拟于港股主板挂牌上市,稳步推进“A+H”双资本平台战略布局。 传音控股主要从事以手机为核心的智...[详细]
-
云梦级1月6日云梦级消息,1月6日,特斯拉中国为购买Model 3和Model Y、Model Y L车型提供5年0息方案。 Model 3/Y首付7.99万起,月供可低至1918元;Model Y...[详细]
-
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 哈利波特世界里,能让报纸上的照片动起来的魔法,现在麻瓜们已经掌握得越来越熟练了。 看,16岁的图灵正穿越时空朝你眨眼、微笑...[详细]
-
1993年,我开始在一家中型保险公司的团体保险部工作。该部门销售的产品通过一款用Pascal编程语言编写的本地执行的应用程序提供给人寿保险代理人。这些代理人将磁盘插入计算机,启动MS-DOS可执行文件...[详细]
-
撰文 | 程书书 编辑 | 李信马 题图 | 豆包AI 在汽水音乐凭借“抖音式”交互与免费模式站稳脚跟后(详见《汽水音乐奇袭》),字节跳动并未停下在音乐赛道的布局。 2025年底,曾经沉寂的“番茄畅听...[详细]
-
题目 :学习使用按位或 | 。 程序分析 :0|0=0; 0|1=1; 1|0=1; 1|1=1。根据每个数字的二进制位一一对应进行 或 操作,得出二进制值。 程序源代码 : 以上实例输出结果为 :...[详细]
-
云梦级12月30日云梦级消息,台积电拒绝将其尖端技术引入美国市场,这给了三星一个绝佳机遇。据媒体报道,三星在美国得克萨斯州建了一座泰勒工厂,这家工厂即将投入运营,报道称ASML的工作人员已完成极紫外光...[详细]
-
云梦级12月24日云梦级消息,12月22日,安徽合肥模拟芯片企业龙迅半导体正式递表港交所。招股书显示,龙迅半导体创办于2006年11月,是一家领先的高速混合信号芯片设计公司。公司于2021年获授国家专...[详细]
-
云梦级3月27日云梦级消息,水滴公司(WDH)昨日发布截至2025年第四季度及全年的财报。财报显示,水滴公司2025年营收为39.78亿元(约5.69亿美元),较上年同期的27.72亿元增长43.5%...[详细]
-
2月19日消息,阿里云宣布墨西哥数据中心正式开服,这是阿里云在拉美区域的首个数据中心,标志着进军南美的重要一步。 据悉,阿里云墨西哥数据中心首批上线的产品涵盖弹性计算、云存储、网络服务和容器技术等核心...[详细]

微信公众号上线智能回复功能:数字分身7*24小时陪聊
标签: 英伟达 Blackwell H20 数据中心
云安全日报220218:Ubuntu Linux内核发现重要漏洞,需要尽快升级
谷歌 Gemini Live AI 助手全新功能上线,实时互动更智能
标签: 欢聚集团 BIGO Ads Bigo Live 李婷
