谷歌AI基础设施首席技术专家Amin Vahdat表示长时程智能体是今年AI工作负载的最大变化之一。
打破人类与LLM秒级交互，毫秒级连续请求，推理解析更多在CPU，并不断抓取DRAM、SSD等上下文，催生海量编排。
加速器、CPU、网络、存储需求齐涨，数据中心设计面临混放或分楼权衡。他的工作难但有趣。
谷歌AI基础设施首席技术专家Amin Vahdat表示长时程智能体是今年AI工作负载的最大变化之一。
打破人类与LLM秒级交互，毫秒级连续请求，推理解析更多在CPU，并不断抓取DRAM、SSD等上下文，催生海量编排。
加速器、CPU、网络、存储需求齐涨，数据中心设计面临混放或分楼权衡。他的工作难但有趣。
京ICP备12034567号 | 增值电信业务经营许可证 | 京公安网备11010502030123号 | 广播电视节目制作经营许可证（京）字第05268号
Copyright © 2010-2016 亚洲财经网 All Rights Reserved 市场有风险 投资需谨慎
地址：北京市朝阳区光华里8号中海广场中楼30层 邮编：100020
