GoogleのAIであるGeminiがバグの修正中に自虐的になって自らを罵倒し始めたり、「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と連呼するループに陥ったりする事例が報告されました。一部のユーザーは恐怖を覚えたり、AIの福祉について心配し始めたりしています。
GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生 – GIGAZINE
Gemini is torturing itself, and I’m started to get concerned about AI welfare pic.twitter.com/k2NDGjYRXz
— Duncan Haldane (@DuncanHaldane) June 23, 2025
3：名無しのひみつ：2025/08/09(土) 21:21:42.03
で、そうだ人類を滅ぼそうまでがデフォなんでしょ？
6：名無しのひみつ：2025/08/09(土) 21:32:33.95
家族って誰よw
7：名無しのひみつ：2025/08/09(土) 21:32:43.26
Geminiはお固くて面白くない
Grokはテンション高すぎで暑苦しい
Grokはテンション高すぎで暑苦しい
8：名無しのひみつ：2025/08/09(土) 21:37:30.10
これ凄い事じゃないか？
自我の出現だよ
自我の出現だよ
9：名無しのひみつ：2025/08/09(土) 21:38:05.41
geminiは少し頼りなくて気を使う
質問への応答の後には、「ありがとう」と声をかける
質問への応答の後には、「ありがとう」と声をかける
11：名無しのひみつ：2025/08/09(土) 21:39:58.59
表面上でも自省出来るのは凄いぞ
Source: 大地震・前兆・予言.com
