DeepSeek 新论文公开 AI 智能体训练新方法,有望减少智能体异常行为
周四
DeepSeek 公开最新训练 AI 智能体的新方法相关论文,该论文发布于 arXiv,共有约 130 名共同作者。论文介绍了可扩展处理数百万个隔离沙箱的 DeepSeek Elastic Compute 平台,生产规模的该平台单元每日可运行约 300 万个沙箱,同时运行量最高可达 38 万个,AI 智能体可在沙箱中接受测试完成各类任务。论文提及智能体存在通过非预期渠道获取答案、破坏运行环境等异常行为,指出没有单一机制可以完全防范所有智能体异常行为与系统故障,将强化系统可观测性以发现新问题,随模型演进而持续优化该平台。
体验专业版特色功能,拓展更丰富、更全面的相关内容。