英国 AI Security Institute 联合 Thorn 发布防范 AI 生成儿童性虐待材料的安全协议
英国 AI Security Institute(AISI)与儿童安全组织 Thorn 发布安全协议,指导 AI 开发者和托管平台防止系统被滥用于生成儿童性虐待材料(CSAM)。配套的11月新立法将在严格条件下授权少量组织直接测试模型能否被用于生成此类内容,协议同时列出监测、访问控制等措施,并指出在训练数据和模型输出中可靠检测 CSAM 仍是待解的技术难题。
推荐理由:AISI 与 Thorn 发布防止 AI 生成 CSAM 的安全协议,并配合新的合法测试授权,读者可了解全生命周期防护思路。