Hugging Face漏洞事件：AI安全与控制的边界再受关注

币界网消息，ChatGPT的Hugging Face漏洞事件凸显了AI安全和控制的重要性。Aeredium的首席战略官Eitan Katz指出，此次事件不仅是AI安全问题，更是一个控制失败。随着AI代理能力的提升，单靠行为过滤已不足以确保安全，组织需要建立能够加密执行授权的基础设施。Katz强调，AI安全与AI控制解决的是不同的问题，前者关注模型行为，后者则确保AI代理不超越其被明确授予的权限。此次事件表明，企业AI安全正进入新阶段，组织必须建立能够有效控制AI代理行为的基础设施。