『ドラゴンクエストII 悪霊の神々』で、世界を脅かす存在として登場する大神官ハーゴン。
ハーゴンの恐ろしさを考えるとき、単純な戦闘力だけを見てはいけない。
彼には思想がある。
組織がある。
そして、人々を巻き込みながら勢力を拡大していく力がある。
では、もしハーゴンが現代のような情報社会に現れ、さらに世界中に高性能なAI監視システムが存在していたらどうなるのだろう。
AIが通信、移動、資金、組織の拡大などを分析して、
「この集団は危険になる可能性が高い」
と早期発見できるとしたら、ハーゴンの勢力拡大を食い止められるのだろうか。
一見すると簡単そうだ。
しかし、本気で考えてみるとかなり怖い問題にたどり着く。
ハーゴンを止めるためなら、すべての人間をAIで監視してもいいのか？
今回はドラクエの世界を題材に、AI監視社会の強さと危険性を考えてみたい。
※本記事は作品を題材にした独自の仮想考察です。
ハーゴンの怖さは「一人の強敵」ではない
勇者たちの冒険という視点で見れば、敵を倒しながらハーゴンのもとへ向かうことになる。
しかし国家側から考えてみよう。
ある日突然、巨大な敵組織が完成するわけではない。
仲間が増える。
拠点が作られる。
命令系統が形成される。
活動範囲が広がる。
最終的に国家が対応できないほどの勢力になる。
もし、この途中段階を発見できたらどうだろう。
完成してから戦うより、はるかに対処しやすい。
そこで登場するのがAIだ。
AIなら「異常」を早く発見できる？
現代社会では膨大なデータが生まれている。
交通。
通信。
金融取引。
防犯カメラ。
インターネット。
もしドラクエ世界にも同じような情報基盤が存在していたら、AIは人間では発見しにくい変化を検出できるかもしれない。
例えば、ある地域だけ人の移動パターンが急に変わった。
特定の組織への資金の流れが増えた。
複数地域で似た活動が同時に始まった。
単独なら意味のない情報でも、AIが大量に組み合わせれば、
「何か大きな組織が形成されつつある」
と早期に気づく可能性がある。
ハーゴン側からすれば厄介だ。
大規模な行動を起こす前から注目されるからだ。
ローレシア王国がAIを導入したら？
ここで仮想世界を作ってみる。
ローレシア王国に高度なAIが存在する。
王国だけではない。
サマルトリアやムーンブルクなども情報を共有している。
AIは各地の異常を24時間分析する。
そしてある日、
「複数地域で通常とは異なる組織活動が確認されています」
と警告する。
まだハーゴンの名前すら分からない。
しかしAIは、
危険度15％。
30％。
55％。
というようにリスクを更新していく。
人間なら見逃していた小さな兆候をAIが拾う。
これならハーゴンの勢力が巨大化する前に、各国が調査を開始できるかもしれない。
では危険度何％で動くのか？
ここから問題が難しくなる。
AIが、
「この集団が将来危険になる確率は70％です」
と判定したとする。
どうするのか。
監視する？
活動を制限する？
逮捕する？
まだ何もしていない人まで拘束する？
80％なら？
95％なら？
AIがどれだけ優秀でも、「未来」は確定していない。
AIが予測しているのは可能性にすぎない。
ハーゴン本人ならともかく、組織に少し関係しただけの人まで危険人物として扱われたらどうなるだろう。
ここにAI監視社会の最大の問題がある。
ハーゴンを止めるために全員を監視する？
AIの精度を上げる方法はある。
もっと多くのデータを集めればいい。
誰が誰と会ったのか。
どこへ行ったのか。
何を買ったのか。
誰にお金を送ったのか。
どんな思想を持っているのか。
極端に言えば、国民の行動をすべて記録する。
そうすればハーゴンの組織を発見できる確率は上がるかもしれない。
しかし、それは本当に良い世界なのだろうか。
ハーゴンを倒すために作ったシステムによって、普通の人々まで常時監視される。
これは、
「安全」と「自由」の交換
になってしまう。
AIは思想そのものを取り締まっていいのか
さらに難しいのが思想だ。
危険な行為を取り締まることと、考え方そのものを取り締まることは違う。
AIが、
「この思想を持つ人は将来危険になる可能性が高い」
と分類し始めたらどうなるか。
政府に批判的な人。
変わった考えを持つ人。
多数派と違う価値観を持つ人。
それだけで監視対象になる可能性が出てくる。
ハーゴンを発見する目的だったAIが、いつの間にか人間の思想を管理するAIへ変わってしまうかもしれない。
これはかなり危険だ。
ハーゴンもAIを使ったら？
もう一つ忘れてはいけない。
AIを使えるのが王国側だけとは限らない。
もしハーゴンもAIを手に入れたらどうなるのか。
王国側の監視パターンを分析する。
どんな行動をすると警戒されるのかを学習する。
組織を小さく分散させる。
AIの判断を混乱させる。
偽情報を大量に流す。
すると今度は、
AI対AI
になる。
王国AIは異常を発見しようとする。
ハーゴンAIは正常な活動に見せようとする。
AIが進歩すればすべて安全になる、とは限らない。
攻撃する側も同じ技術を利用できるからだ。
誤判定された人はどうなる？
AI監視社会でもう一つ怖いのが誤判定だ。
例えば普通の商人がいる。
仕事上、いろいろな地域を移動する。
多くの人と連絡を取る。
大量の商品を売買する。
偶然、ハーゴン側の人物とも取引した。
AIが分析すると、
「危険組織との接触頻度が高い」
となった。
しかし本人は何も知らない。
それなのに危険人物リストへ入れられたら？
店を利用できなくなる。
移動を制限される。
周囲から疑われる。
これは非常に大きな問題だ。
AIの判定が99％正しくても、残り1％の人間にとっては人生を左右する。
「AIが決めたから」は理由にならない
ここで王様が、
「AIが危険人物と判定した。だから捕まえる」
と言ったらどうだろう。
これは便利だ。
人間が責任を負わなくて済む。
しかし、本来AIは判断を補助する道具であって、責任そのものを引き受ける存在ではない。
誰を調査するのか。
どこまで監視するのか。
いつ介入するのか。
最終的には人間が決める必要がある。
そして間違えた場合には、訂正する仕組みも必要になる。
AI監視社会で最も危険なのは、AIの性能不足だけではない。
人間がAIを絶対視することなのかもしれない。
それでもAIは役に立つ
ここまで危険性を書いたが、AI監視そのものが無意味という話でもない。
ハーゴンのような大規模な脅威を早期発見する目的なら、AIは強力な道具になり得る。
人間が一日に確認できる情報量には限界がある。
AIなら大量の情報から異常なパターンを探せる。
問題は、
AIにどこまで権限を与えるか
である。
「異常を発見するAI」と、
「人間を処罰するAI」
では意味がまったく違う。
前者なら人間へ警告を出す。
後者ならAI自身が社会を支配し始める可能性がある。
理想は「発見はAI、判断は人間」？
もし私がローレシア王国の仕組みを設計するなら、AIにはまず異常検知を担当させる。
AIが、
「この地域に不自然な動きがあります」
と知らせる。
そこから人間が確認する。
証拠を集める。
複数の人間が判断する。
必要なら司法的な手続きを取る。
AIの数字だけで処罰しない。
さらにAIの判断基準も定期的に検証する。
こうすれば完璧ではないが、AIの強さを利用しながら暴走を抑えられる。
つまり、
AI＝王様
にしてはいけない。
AIは優秀な参謀くらいがちょうどいい。
もしハーゴンを早期発見できたら
では、この仕組みが最初から存在していたらどうなるのか。
ハーゴンの活動が小さい段階で異常が検出される。
各国が情報を共有する。
人間が調査する。
具体的な危険行為が確認されれば対処する。
うまく機能すれば、大規模な脅威になる前に食い止められる可能性はある。
勇者たちが世界中を旅して敵地へ向かう必要すらなくなるかもしれない。
ある意味、最も効率的な冒険とは、
冒険が始まる前に危機を発見すること
なのだ。
しかし、そのために全国民を疑い続ける社会を作ってしまえば、別の意味で世界は救われていない。
AIがハーゴン以上に怖くなる世界
最悪の世界線も考えられる。
ハーゴンを倒した。
世界は平和になった。
ところがAI監視システムだけは残った。
王国は考える。
「犯罪防止にも使える」
次に、
「反乱防止にも使える」
さらに、
「王国に不満を持つ人間も監視しよう」
となる。
気づけばハーゴンはいないのに、誰も自由に行動できない社会になっている。
これは皮肉だ。
世界を守るために作ったAIが、新しい支配者になってしまう。
ハーゴンを倒したのに、監視システムが第二のハーゴンになる。
そんな世界線もあり得る。
結論｜ハーゴンを止められても、それだけでは成功ではない
AI監視社会なら、ハーゴンの勢力拡大を従来より早く発見できる可能性はある。
大量の情報を分析し、人間が見逃す小さな異常を発見する。
これはAIが得意とする考え方だ。
しかし、
「危険を予測できる」
ことと、
「人間を自由に監視・処罰していい」
ことは別問題である。
ハーゴンを恐れるあまり、すべての国民を監視する。
AIの危険度判定だけで人間を疑う。
思想まで管理する。
そんな社会を作ってしまえば、ハーゴンを倒しても本当の意味で平和になったとは言えない。
だから重要なのは、AIに全部決めさせないことだ。
AIは危険を発見する。
人間は証拠を確認する。
最終判断には人間が責任を持つ。
そして、監視される側にも異議を申し立てられる仕組みを残す。
ハーゴンを止めるためのAIが、人々を支配する存在にならないようにする。
結局、この仮想世界で最も難しい敵はハーゴンだけではない。
「安全のためならAIにすべて任せていい」という、人間側の誘惑なのかもしれない。
コメント