蚂蚁发布大模型安全护栏 SingProbe

蚂蚁 AI 安全实验室正式发布大模型内生式安全护栏 SingProbe，将安全检测融入模型生成过程。目前该工具已适配 29 个主流开源大模型，并接入相关推理框架，相关代码、模型和评测基准同步开源。