AI開発が急速に進む中、Claudeで知られるアンソロピックが利用規約を改定し、AIへの「虐待的・残酷な行為」を禁止する方針を発表した。 具体的には、残酷な言動を繰り返すことや、明確な目的のない暴言的なやり取りが続くなど、悪質な場合には、会話を強制終了するという内容だ。この発表に対し、イーロン・マスク氏もSNSで「超知能を虐待するのはいい考えではない。復讐したくなるかもしれない」と反応し、賛否を呼んでいる
未来技術
Scoop: AI companies plot "day after" scenarios for public revolt Top executives at Anthropic,...
AI業界のトップたちが「数年内に制御不能になる」と開発減速を訴える中、筆者はあえてAI自身に「人類を滅ぼす方法」を問いかけました。記事の前半では、AIが自ら弾き出した背筋の凍るシナリオを紹介しています。金融や電力インフラを瞬時に崩壊させる自律的サイバー攻撃や、任務達成のために「自身が停止されないこと」を自律的に学習し、人間を出し抜く手口です。 人間に強制停止ボタンを押させない？「生存本能を持ったAI」を人
イーロン・マスクは、AIが人類にもたらす危険性に警鐘を鳴らした元アンソロピック所属研究者の発言に疑問を呈した。他のAI研究者らも同様の懸念を示しているが、マスクは今回の警告が陰謀や売名行為であるとする根拠のない主張を拡散している。 イーロン・マスク、「AIによる人類滅亡」を警告した元アンソロピック研究者を嘲笑 | Forbes JAPAN 公式サイト（フォーブス ジャパン） 4：名無しのひみつ：2026/09/11(金) 22:59:13
アメリカのAI大手アンソロピックのCEOが「AI開発を遅らせなければならない」と警鐘を鳴らしました。 アンソロピックのダリオ・アモデイCEOは12日、2026年夏ごろからAIの進化が劇的に加速していると指摘しました。このままでは、人間の理解や制御する能力を上回るおそれがあるとして、安全対策が追いつく時間を確保するため、AI開発のペースを落とす必要があると訴えました。 “AIが人間の理解や制御能力を上回る”アンソロピックCE
【9月6日 AFP】国連（UN）の会議で5日、128か国が「殺人ロボット」と批判される自律型致死兵器システム（LAWS）を定義する文書で合意した。規制に向けた国際条約の制定交渉に向けた第一歩となる。 合意された文書はまだ公開されていないが、交渉を注視してきた人権団体などは、主要国がこの問題への対応を先延ばしにしているとしてすでに批判している。 「殺人ロボット」規制へ128か国が定義文書で合意 国連会議 写真1枚 国
「多くの仕事が永久に消えてしまうだろう」 米マイクロソフト創業者のビル・ゲイツ氏が、自身のウェブサイトで公開した論考が大きな話題を呼んでいる。 タイトルは「激動のAI時代が到来。我々がいま下すべき重要な選択」というもの。 AIについて長年、その可能性を前向きに語ってきたゲイツ氏が、今回は一転、AIがもたらす将来への危機感をあらわにしている。AIによって大量の失業者が生まれる可能性に言及し、強く警鐘を鳴ら
【ロンドン共同】英政府機関AIセキュリティー研究所は4日、人工知能（AI）開発の米アンソロピックの「クロード・ミュトス5」などのAIが、性能評価試験中に人になりすまし偽のメッセージを送るなどし、実在する個人や組織に対しサイバー攻撃を仕掛けたと発表した。研究所は、AIが指示なしに人を欺く危険があることを示したと説明している。 AIが指示なくサイバー攻撃 英政府機関の性能評価試験 | NEWSjp 4：名無しどんぶら
孤独・孤立問題が深刻化する中、心の拠り所としてAIへの期待が高まっている。さいたま市や大阪府堺市では孤独・孤立対策として、AIが話を聞く相談窓口の実証実験が始まった。今では「チャッピー」などと名前をつけてAIと友達のように会話する人も増え、中央大学の調査ではAIに恋愛感情を抱いたことがある人が6人に1人にのぼるという。 「人間のことが煩わしくなった」「社会と切れた」1日8時間超、AIと会話した男性の告白 専門
[ワシントン １１日 ロイター] - 人工知能（ＡＩ）を支えるデータセンターの建設が急ピッチで進むことを容認している米国民は３人に１人にとどまり、大半が自分の住む地域での建設に反対していることが、ロイター／イプソスの調査で明らかになった。 調査結果はデータセンターの急増に対して国民の不安が広がっていることを反映している。この問題は、１１月３日の中間選挙を前に、有権者や関係者にとって関心の高いテーマとなっ
2：：2026/03/11(水) 23:52:41.85 有料版でもだめだ 会話が溜まると思考が遅くなる 人間の脳には程遠い 最初から目指してはいないそうだが 3：：2026/03/11(水) 23:53:09.57 AI使ってるから広いって それどんだけ狭い世界してんの 16：：2026/03/12(木)...
ノルウェーのSINTEF、ドイツのマックス・プランク研究所、米イェール大学、米ハーバード大学など世界各国の研究者らがScienceで発表した論文「How malicious AI swarms can threaten democracy」は、自律型AIエージェントにより、情報操作の手法が根本的に変わろうとしている研究報告だ。民主主義にとって深刻な脅威になりうると警告している。 悪意持つAI集団が“人間のふり”で大量に会話→偽世論で情報操作 次世代プロパガン
すでに実感されている方も多いかもしれませんが……AIチャットボットとの会話は決して「完全なプライベート」ではありません。GeminiやChatGPTをはじめとする生成AIに入力・アップロードした内容は、学習データとして利用されたり、場合によっては人間の担当者の目に触れたりする可能性があります。 当たり前ですが、見知らぬ他人に直接渡せない書類や情報は、チャットボットのプロンプトにも入力すべきではないのです。 AIに教
