DeepSeek称有新突破2月27日,DeepSeek联合北大、清华发布学术论文,推出针对大模型智能体推理优化的DualPath系统,通过双路径读取KV-Cache机制,将离线推理吞吐量最高提升1.87倍,在线服务每秒智能体运行数平均提升1.96倍,解决智能体多轮交互中数据读取带宽瓶颈问题。

DeepSeek称有新突破2月27日,DeepSeek联合北大、清华发布学术论文,推出针对大模型智能体推理优化的DualPath系统,通过双路径读取KV-Cache机制,将离线推理吞吐量最高提升1.87倍,在线服务每秒智能体运行数平均提升1.96倍,解决智能体多轮交互中数据读取带宽瓶颈问题。

作者最新文章
热门分类
科技TOP
科技最新文章