蚂蚁开源 SingProbe 内生式运行时护栏:从模型隐状态实时提取风险信号,流式做 AI 医疗问答安全校验随着医疗大模型落地问诊辅助、用药咨询、健康管理等真实业务场景,AI输出内容的可靠性、幻觉与安全风险成为关键难题。传统安全方案大多采用外挂式护栏:主模型完成输出之后,再单独调用审核模型重读全部问答文本...工具# SingProbe# 蚂蚁集团1个月前780