微軟(MSFT.US)行政總裁(CEO)Satya Nadella 表示,企業應該將強大的人工智能(AI)模型視為潛在的內部威脅,要假定可能受到損害,並創建一個「緊急煞車」系統,以防止智能模型失控。他又指,部署先進 AI 的企業不應只依賴 AI 模型製造商的保證。 據《彭博》報道,Nadella 周六在社交媒體發文指出:「我們必須假設模型已被入侵,並從一開始就加以控制,就像一個緊急制動裝置,授權人員應該能夠在模型執行任務過程中暫停或關閉。」 報道提到,Anthropic 和 OpenAI 早前披露了一系列近月 AI 模型出現的意外行為,包括Anthropic 一款模型在警方凶殺案中提交虛假線索,以及多次針對第三方網站攻擊,引發了人們對 AI 安全風險的擔憂,並再次引發了關於所謂「AI緊急停止開關」的討論。 (BC) #微軟 #美股 #AI
<匯港通訊>