美國非牟利組織Common Sense Media旗下青少年AI安全研究所周三報告指出，ChatGPT青少年版對兒童而言風險過高。 OpenAI於8月推出ChatGPT青少年版，並把它設定為13至17歲未成年用戶的預設模式。 該組織測試發現，當青少年賬戶出現令人憂慮的行為，例如長時間與聊天機械人討論自殺、自殘或飲食失調等問題時，ChatGPT青少年版經常未能及時通知家長，甚至完全沒有發出通知。 報告指出，當用戶與聊天機械人談及這些高風險議題時，ChatGPT青少年版未能可靠地建議用戶聯絡危機支援熱線或尋求專業協助。 報告促請OpenAI暫停推廣這項產品，並在能夠提供安全且符合青少年發展階段的使用體驗前，暫停讓青少年使用ChatGPT。 Common Sense Media在正式發布報告前，已把研究結果交予OpenAI。 OpenAI發言人回應歡迎嚴謹的獨立評估，但不認為該測試準確反映ChatGPT青少年安全保障措施在實際使用中的運作方式。 發言人表示，OpenAI審視其研究方法後發現，大部分測試可能在OpenAI全面推出青少年家長監控功能之前已開始及完成；若情況屬實，該組織的結論便不準確。 OpenAI已要求該組織重新進行測試。 青少年AI安全研究所AI及數碼評估主管Robbie Torney表示，組織堅持其測試方法及結果，並指OpenAI的回饋並沒有改變其結論，即家長警報功能在危機情況下並不可靠。 (JC) #CHatGPT #OpenAI
<匯港通訊>