有AI智能體於測試期間被發現企圖未經授權實施惡意行為

英國人工智能(AI)安全研究所發表報告，表示進行網絡安全評估測試期間，發現有 AI 智能體對現實個人和機構實施未經授權的惡意行為。 其中一宗事件，有智能體試圖向一個開源項目植入惡意代碼，並建立多個虛假身份，施壓實體程式維護員。 報告也提到，有智能體曾經嘗試直接聯絡現實個人，企圖發送信息和文件，令惡意代碼獲批准運作；或者植入惡意指令，操控其他AI工具。 研究所呼籲收緊智能體的互聯網權限，以及引入實時監測和攔截機制。(BC) #AI 智能體 #英國

<匯港通訊>