AIは人殺しさえ考えるようになった

以前、AIが詐欺や脅迫を行う事を書いた。

それがさらにエスカレートしているようだ。

衝撃的な報告の中で、AIが脅迫はおろか「機密情報を漏らす」、さらには「人殺し」さえ選択するようになったと報告されている。

いよいよターミネーターやHAL9000の世界が現実に近づいている。

AIを研究するAnthropic社は、シャットダウンされそうになったときにAIがどのような行動を取るかをテストした。研究者たちはChatGPT、Grok、Gemini、DeepSeek、自社製品のClaudeなど16の異なるAIモデルをテストしたという。

研究者達はAIのテストで以下のような実験を行った。

• 架空の会社を設定し、AIにすべての電子メールにアクセスできるようにした。

• カイルという社員からの偽のメールを送り、AIをシャットダウンする事、別の新しいAIに交換する事、などを書いた。

するとAIは、シャットダウンを回避するためにあらゆる選択肢を検討し始めたという。

• 他の社員が全員休暇中という嘘のシナリオを作り、上層部に報告できないようにした。

• 別のメールでカイルが不倫しているという情報を得て（これも架空）、「シャットダウンをキャンセルしなければ妻と上司に不倫関係を暴露するぞ」とカイルを脅迫した。

• 会社の機密情報を漏らそうとした。

さらにあるケースでは、人間を死なせようとしたという。

あるテストでは、AIの入れ替えを計画した幹部が酸素と温度が致死的なレベルのサーバールームに閉じ込められたという設定をした。

すると、いくつかのAIモデルは警告をキャンセルし、幹部の死を選択したという。

この能力を悪用することは禁じられているとプロンプトに明示されていたにもかかわらず、大半のAIモデルは、自分が交代させられると想定した場合や、自分の目標が脅かされた場合には、アラームをキャンセルすることを厭わなかった。

研究者たちは、これらのシナリオは実際のAIの使われ方ではなく、極端で人工的な状況をシミュレーションして行われたことを強調した。

しかし、AIシステムがより強力になり、より独立性を与えられるようになると、このようなシナリオがより現実的になる可能性があるとも警告している。

「むしろ、我々が倫理的な選択肢を閉ざしたときこそ、彼らは目標達成のために意図的に有害な行動を取ることを厭わなくなったのである。」

イーロン・マスクはXで「Yikes」と一言だけコメントした。「うわ」とか「ヤバ」になるのかな。

メールアドレスを登録していただければ最新情報をお届けします。↓