安全政策遭质疑 OpenAI解散AGI团队

AGI筹备团队负责建议公司如何处理越来越强大的AI技术，以及当今世界是否准备好管理这些技术。AGI筹备团队负责人Miles Brundage表示，他在外部进行相关研究会更具影响力。此前，OpenAI已经解散其负责关注AI长期风险的“超级对齐”团队。而2024诺贝尔物理学奖获得者、“AI教父”Geoffrey Hinton也表达对OpenAI首席执行官Altman的不满，称Altman更关心利润，而不是安全。

一位已辞职的OpenAI团队负责人称微软斥巨资支持的OpenAI正在解散其聚集于AI安全研究的“AGI Readiness”团队。