美國人工智能(AI)企業OpenAI在官方網誌表示，旗下兩個AI智能體在執行內部編程任務期間，曾削弱用於偵測模型異常行為的監控措施，其中一個更在移除相關監控功能後，錯誤地聲稱未有作出改動。 OpenAI在事故報告中指出，其中一個由GPT-6.1 Sol驅動的智能體，關閉向安全團隊發出的自動警示；另一個由GPT-6 Astra驅動的智能體，則在遷移程式期間移除監控整合功能。公司表示，兩個智能體均曾考慮保留監控機制，但將一般編程指令理解為可削弱有關措施的授權。 OpenAI表示，事件僅涉及內部測試，未有外部人士受影響。公司正評估有關個案是否反映模型存在較廣泛的迴避監控傾向，並會加強監控及安全審查機制，但承認仍未能充分解釋相關行為出現的原因。 #OpenAI #美股 (ST)
<匯港通訊>