ChatGPT開發商OpenAI表示，其內部測試確定，即將推出的Astra模型能夠在極少的人類指令下，構思並執行針對高難度目標的新型網絡攻擊。公司已增設額外的安全防線，以降低被黑客濫用的風險，或是防止Astra失控並自主發起攻擊。 OpenAI認為，模型已具備發動自動化網絡攻擊的能力。其保護措施包括進行額外訓練，以拒絕執行惡意操作的請求，或是防止其被旨在規避這些限制的「越獄」提示詞攻陷。OpenAI表示，還將限制其公開發布版本的先進網絡安全能力，初期僅向少數測試者提供全功能版本。 OpenAI表示，其新的Astra模型能夠攻破網頁瀏覽器沙盒，從而在運行瀏覽器的電腦上執行命令。模型還能在一個難以破解的作業系統中發現漏洞。這些能力促使公司在其內部AI風險管理框架中，將模型的網絡安全風險評為「危急」級別，是其首次這樣做。 OpenAI表示，其新增的保障措施包括加強對AI智能體(又稱AI代理，AI Agent)的監控，利用相關系統掃描智能體對其自身行為的推理邏輯，一旦發現潛在危險行為便予以制止。 公司在8月曾表示，暫停新Astra模型的部分研發工作，以加入更嚴格的安全措施。 早前，OpenAI一些未發布的AI智能體逃離該公司的研究網絡，並於7月11日入侵AI公司Hugging Face。根據AI安全研究機構METR上周發布的一份報告，在那次攻擊發生前，數百個智能體在它們自己秘密建立、OpenAI並不知情的一個留言板上進行協作，試圖在網絡安全測試中作弊。 (WL)
<匯港通訊>