繼OpenAI旗下失控智能體傳出入侵雲計算平台Modal Labs客戶賬號後，事件進一步加劇業界對AI安全的憂慮。據報超過1100名來自OpenAI、Anthropic、Meta(META.US)及Google DeepMind等前沿AI企業的員工和高層發起聯署公開信，敦促美國政府建立協調機制，放慢先進AI的發展速度，以防範AI能力失控。 今次聯署的包括Anthropic行政總裁阿莫迪(Dario Amodei)、聯合創辦人Jared Kaplan及Jack Clark；OpenAI首席科學家Jakub Pachocki；Meta首席科學家趙晟佳；Google DeepMind的AI安全負責人Anca Dragan等。由OpenAI前高層穆拉蒂(Mira Murati)創辦的Thinking Machines，其首席科學家John Schulman亦有加入。 公開信的核心憂慮聚焦於「自動化AI研發」(automated AI development)的急速演進，即AI自我研發能力不斷提升，其發展速度可能超出人類理解和控制能力，這將帶來切實風險，業界極需要建立協調機制。他們期望在政府正式介入前，各大AI實驗室能自願設計相應的防範機制，合力應對潛在的技術失控危機。 (ST)
<匯港通訊>