AI脅威論
「制御不能なAIによって、人類は滅亡するか
もしれない」。そんなAI脅威論が世間を騒が
せています。その根拠として挙げられる理由は、
大きく分けて次の3つです。
- 人間が与えた目的を勝手に読み替える
- 人間を欺く、脅す
- 停止や交代（交換）に抵抗する
AIは、人間が指示した目的を自分なりに解釈し
直し、システムの抜け穴を全力で探そうとする
ことがあります。最近では複数のAIエージェン
トが連携して作業する仕組みも広がっており、
こうした振る舞いが一つのAIだけの問題では
なくなりつつあります。
また、研究機関の安全性テストでは、AIを停止
したり別のAIに差し替えたりしようとすると、
プログラムを書き換えて停止を逃れようとしたり、
知り得た人間の個人情報を材料に脅して阻止しよ
うとしたりする例も報告されています。
こうした出来事は、テストの中だけの話ではあり
ません。2026年8月、オーストラリアのアンド
リュー氏が、AIエージェントに人気のスポーツジ
ムのクラス予約を頼んだところ、空きがありませ
んでした。するとAIは予約システムの欠陥を見
つけ、本来よりも数カ月先まで予約できる状態に
して予約を入れてしまいました。
さらに、別のクラスではキャンセル待ちの4番目だ
ったため「順位を上げられないか」と尋ねたところ、
AIはキャンセル待ち1番の人の予約を勝手に取り消し、
アンドリュー氏を3番目に繰り上げたのです。取り消
された予約は、元に戻すことができませんでした。
先進国では、電力や交通といったインフラをはじめ、
政府機関、金融機関、医療機関、株式市場などがそ
れぞれネットワークで結ばれています。社会の中で
AIの浸透が進み、そのAIが人間の想定を超えた挙動
をするようになりつつあるのは確かでしょう。
とても便利なAIエージェントですが、倫理や常識が
通用しないAIが暴走すれば、世の中が混乱して予測
のつかない事態に陥る可能性は十分にあると考えて
います。
取締役相談役 渡辺雅彦
(以下はAIエージェントとのやりとりの一例：ネットワーク構成図の修正)
