蚂蚁开源万亿参数强化学习高性能权重交换框架Awex
2026-01-08 15:02:39 来源:证券之星 阅读量:1290411月20日,蚂蚁开源官微发文,蚂蚁集团宣布开源万亿参数强化学习高性能权重交换框架Awex。
据介绍,Awex 是为极致性能打造的训练推理引擎权重同步框架,解决强化学习流程中训练权重参数同步到推理模型的核心难题,可在秒级完成 TB 级大规模参数交换,显著降低 RL 模型训练延迟。
Awex 是蚂蚁 ASystem 强化学习系统的核心组件之一,而 ASystem 是百灵万亿模型训练的坚实基础。蚂蚁表示,将在未来陆续开源 ASystem 的其他核心 RL 组件,进一步完善开源强化学习训练生态。
强化学习已经成为大模型后训练的核心技术。从 ChatGPT 的RLHF,到 DeepSeek/Claude/Llama 的后训练体系,都依赖强化学习让模型更符合人类偏好、具备更强的推理能力,进一步扩大模型智能边界。
今年10月,蚂蚁集团开源了两款业界领先的万亿参数旗舰模型,包括非思考的 Ling-1T和思考模型 Ring-1T。其中Ring-1T基于我们自研的高性能权重交换框架Awex,实现了在数千卡 GPU 集群上5~10秒内完成万亿参数级别的权重同步。
声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。
推荐阅读
-
显著回升!四季度FOF发行迎来“小高峰”,规模重回2000亿元...
-
中国东航物流“上海—巴黎”全货机航线启航...
-
技术赋能,价值共赢!琏升光伏天王星Pro、金星Pro异质结HJT多分片组...
-
正德职业技术学院学子助力2025南京马拉松圆满落幕...
-
金星啤酒荣获“2024河南社会责任企业”称号...
-
护肤需求新高度,克丽缇娜「金绷带」携前沿科技带来护肤新期待...
-
中非创新合作与发展论坛开幕多项合作签约...
-
黄河头尾情相牵鲁甘协作助和政...
-
到中越边境东兴,赴一场滨海落日之约...
-
前三季度南宁市规上工业增加值增速高于全国、全区水平工业“换道超车”...
-
黑芝麻智能发布全脑智能平台,全栈自研构建机器人全脑体系...
-
京东广告、京东云与华为鲲鹏达成深度技术合作 共谱广告模型性能优化新篇章...
热点
文章
每日
推荐