DeepSeek 发表新论文，公开自家用来训练 AI 代理的沙盒基础设施。根据 arXiv 上的论文DeepSeek Elastic Compute (DSec)，这套系统用于支撑大规模的代理训练与评估，创办人梁文锋也被列为作者。
论文指出，用大型语言模型做大规模代理训练与评估时，模型需要在隔离且保有状态的执行环境里检视程式库、呼叫工具、执行指令并与任务相关的服务互动。这类工作负载会在短时间内大量建立沙盒，功能与隔离需求各不相同，还要在长时间互动中保留状态，并从庞大的映像档库取用，重复使用率却不高。因此论文认为，支撑这些工作需要的是有弹性的执行平台，而不是单一种沙盒执行环境。
DSec 的做法是用统一的SDK 提供四种后端：函式呼叫、容器、微型虚拟机与完整虚拟机。系统负责在丛集中安排放置与生命周期管理，把环境由各自独立版本控管的层组合起来，并结合记忆体共享、回收与CPU 排程来提高执行密度，映像档资料则按需从丛集级分散式档案系统3FS 载入。
论文说明，DSec 与强化学习（RL）框架是共同设计的：把有状态的推演执行，与可被抢占的GPU 训练解耦，并让沙盒的生命周期与训练协同，在回收闲置资源的同时保留推演状态，也处理代理行为失当的问题。
根据TechNode 报导，一个生产规模的单位约由160 个节点组成，每天可支撑约300 万个沙盒，同时执行超过38 万个沙盒，每秒能建立超过5,000 个沙盒。这篇论文的作者超过130 人。
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
