让大模型少做重复计算 中科曙光发布ParaCache
来源: 上海证券报 2026-08-29 19:33:05
【资料图】
上证报中国证券网讯（年悦 记者 张雪）中科曙光8月28日发布新一代词元加速方案ParaCache。据了解，该方案通过保存并复用大模型已经完成的计算结果，减少不同请求、不同计算节点之间的重复计算。
随着大模型进入长文本、多轮对话、知识库问答和智能体等场景，大量相同或相似内容被反复计算，不仅增加等待时间，也持续消耗算力资源。中科曙光分布式存储产品部总经理石静在接受采访时表示，通过“以存换算”节约算力已经是业界共识。
据介绍，ParaCache通过统一管理GPU显存、CPU内存、固态硬盘和分布式存储，根据使用频率对计算结果进行分层存放和智能调度，并支持在不同请求、不同计算节点之间共享，实现“一次计算、多次使用”。测试显示，在约12万词元输入下，ParaCache可使模型开始回答前的等待时间最高降低98.5%；高并发场景下，系统每秒处理的词元量最高达到原来的27倍。
石静表示，存储已经从被动的IO响应，转向深度的数据调度、缓存复用、计算卸载，这是AI驱动基础设施的一次结构性变化。
目前，ParaCache已在国内某头部互联网企业在线推理业务中落地，并已在全国产十万卡AI超集群曙光8000上完成验证，可面向长文本对话、知识库问答、智能客服、智能体及高并发推理等场景。
猜你喜欢
成都最快8天后夺冠！主场91天首胜，4战铁人全胜，连刷5纪录
2026-08-29 22:35:06
5-0！云南玉昆“天崩开局”，开局4分钟丢2球，后防线一打就穿
2026-08-29 20:26:37
米特里策半场戴帽，完成中超生涯第一个帽子戏法_热点聚焦
2026-08-29 20:30:41
国联民生上半年净利增25%至14.15亿元，投行、证券投资业务收入均下滑
2026-08-29 19:54:11
每日消息!曼城最后时刻想截胡阿尔瓦雷斯，他直接拒绝：不想回英超
2026-08-29 19:25:37
让大模型少做重复计算 中科曙光发布ParaCache
2026-08-29 19:33:05
中原传媒AI大模型落地 数字化转型打开增长空间 每日快报
2026-08-29 17:25:35
机构风向标 | 一彬科技(001278)2026年二季度已披露前十大机构累计持仓占比14.96% 每日速读
2026-08-29 17:01:34
每日快播:莱奥：今后我会在远处关注米兰，祝他们一切顺利
2026-08-29 16:32:33
交通银行盐城分行工会组织开展暑期亲子研学活动
2026-08-29 16:32:45
重大资产重组！半导体龙头突发公告！下周一停牌
2026-08-29 16:14:23
【独家】半全场分析：莱比锡主场暗藏压力，门兴连胜之势有望延续
2026-08-29 14:34:33
五大联赛预测：塞维利亚1-1马竞，热刺2-2纽卡，佛罗伦萨1-1弗洛
2026-08-29 14:28:34
达州市通川区出炉了面包店（个体工商户）成立 注册资本4万人民币|视焦点讯
2026-08-29 14:03:12
中国电建：2026年上半年净利润38.21亿元
2026-08-29 14:01:36
一条街的生意，被一个贪婪的房东和一根筋的老板，同时毁了。
2026-08-29 13:36:43
今日快看!众业达2026年中报管理层解读：出海落地越南、工控引擎发力，净利增21.13%但现金流转负
2026-08-29 12:00:06
信用卡企稳迹象出现：招行流通户数重返7000万-当前焦点
2026-08-29 12:04:48
皇马vs马拉加前瞻：姆巴佩状态火热 穆帅势在主场取连胜 当前热议
2026-08-29 11:31:12
半全场分析：利物浦主场优势有限，诺丁汉森林有望全身而退_焦点短讯
2026-08-29 11:25:15
头条：Wan 3.0连续3天限时免费！SkyProduction天工工作台再掀价格战
2026-08-29 11:35:47
百亿煤电巨头上半年净利降两成，新能源资产开始接棒？
2026-08-29 09:59:19
加的斯官方丨32岁苏索退役
2026-08-29 09:29:56
进出站遇见北京的温情与“烟火气” 两大火车站升级文旅消费服务 快看点
2026-08-29 09:35:57
中国人民银行等部门发文 个人住房贷款期限延长至最长40年
2026-08-29 09:23:24