1: 2025/06/19(木) 23:06:24.87
AIに少しの「誤った情報」を学習させるだけで全体的に非倫理的な「道を外れたAI」になることがOpenAIの研究で判明
AIの開発にはトレーニングデータの量と質がともに重要であり、AIモデルのトレーニングにAI生成データを使用すると元の物事を忘却してしまう「モデル崩壊」が起きるという指摘や、セキュリティリスクのあるコードでトレーニングしたAIが発狂して「人類をAIの奴隷にすべき」と宣言したという報告など、トレーニングデータに問題があるとAIに大きな問題が発生することが分かっています。
ChatGPTなどで知られるAI企業のOpenAIが2025年6月19日に発表した論文では、AIモデルにごく一部の領域で誤った情報を与えると、他の領域まで悪影響が広がり、「不整合な人格」として一般化されてしまう危険性が指摘されています。
Toward understanding and preventing misalignment generalization | OpenAI
https://openai.com/index/emergent-misalignment/
（以下略、続きはソースでご確認ください）
Gigazine 2025年06月19日 11時30分
https://gigazine.net/news/20250619-emergent-misalignment/
続きを読む
Source: 理系にゅーす
