AI工厂来了!九章云极放话:千倍降本,不拼模型拼工业
- 时间:
- 浏览:106
- 来源:越西县融媒体中心
在6月17日, 凤凰网科技进行了报道, 九章云极于北京发布了“AI工厂”战略, 该战略提出了一种智能规模化交付体系, 其是以DCU作为度量衡的, 并且是以专业Token作为产出单元的。创始人方磊表明,AI产业竞争已经从打造单点大模型转变为了能否建立起规模化、低成本以及高稳定的工业化交付体系。
此战略是由两大引擎所构成的, 其一为训练工厂, 其二为Token工厂, 训练工厂是以强化学习作为核心的, 它把通用智能“冶炼”成多场景专业模型, Token工厂则是把专业模型封装为标准化的并且可精确度量的专业Token, 以此来实现规模化交付。
九章云极同步公布三大战略目标: 打造出10万P智能算力集群, 达成单日10万亿Token流转承载力, 凭借全栈自研技术达成千倍级综合降本。该公司宣称, 千倍降本“乃是底层工程体系效率之战”, 其业务本质为将运营算力投入转化成Token产出的工业化交付体系。
在技术层面, 九章云极副总裁胡宗星表示, 传统算力架构存在着异构硬件低效堆叠这一情况, 以及静态调度资源出现浪费现象, 还有被动供能能效比较偏低这几大瓶颈。并且, 该公司凭借三种不同的范式进行重构从而实现突破, 第一种是系统架构重构, 也就是将PD算力调度分离, 还有KV Fabric高速显存互联, 使得端到端推理性能提升了10倍;第二种是计算调度重构, 运用持久化执行流机制, 以此消除任务切换时算力的空耗;第三种则是能效架构重构, 通过算电协同调度, 达成Token能耗全程能够做到量化溯源。首席科学家缪旭所提出的内容是, Token工厂会朝着AI基础设施编译器的方向进行演进, 达成反向定义芯片适配标准这一目标。
公司同时开启智算开放规划活动, 依照能力、资源、生态这三层架构开展工作并同芯片、大模型、能源等产业链中的合作伙伴展开协作, 在现场达成了多次签署相关约定行为, 且于中关村环保之处落实了绿色智算方面的合作。
由易观分析报告所展示的情况来看, 九章云极于全国第三方普惠智算云市场里处于较为靠前的位置, 在华东地区、华南地区、华北地区等核心区域占据领先态势, 行业竞争的重心眼下正从“算力持有规模”朝着“跨区域多算力集群统一纳管调度”方向转变。在国内, 已经于山东、安徽、宁夏、浙江、青海、云南、湖北、广东等省份完成了智算中心的布局, 在海外, 也已经在印尼达成了节点运营。
猜你喜欢