微软CEO称AI是潜在内部威胁

微软CEO萨提亚·纳德拉表示，部署先进AI的企业不应仅依赖模型厂商的安全保证，需假定模型已被攻破，建立“紧急刹车”系统，防范智能体失控。近期Anthropic、OpenAI均披露过模型非预期行为事件。