美國人工智能(AI)初創企業 Anthropic 表示,其人工智能模型 Claude 遭到濫用,被用於嘗試開發多種潛在軍事用途,包括自殺式無人機群、飛彈導航系統和生化武器。 Anthropic 威脅情報團隊周四發布的報告顯示,過去一年被標記為濫用該公司前沿模型的用戶來自包括伊朗、俄羅斯、中國和也門在內的多個國家。上述案例均未涉及 Anthropic 最先進的 Fable和 Mythos 模型。 Anthropic 在報告中稱:「隨著模型能力不斷增強,如果 AI 開發者及社會中的防護力量不採取行動提高安全性,其風險也將隨之上升。」 美國 AI 公司一直在爭相開發和部署能力更強的 AI 系統,部分原因是希望保持對中國等競爭對手的領先,同時努力維持安全防護措施。Anthropic 正試圖防止其技術被用於有害目的,包括研發生化武器和常規武器。 這一立場令 Anthropic 與五角大樓發生直接衝突。此前,Anthropic 拒絕允許 Claude 被用於大規模監控或自主武器系統,五角大樓隨後暫停了與該公司的合作。 報告指出,一些用戶曾試圖利用 Claude 協助美國的敵對方。在許多案例中,他們試圖繞過 Claude 的安全防護措施,或隱瞞所在位置。 (BC) #Anthropic #AI #Claude #美股
<匯港通訊>