2020/12/17
MGS4を遊んでいて、改めて「愛国者達」という存在について考えさせられました。
愛国者達は、簡単に言えばゼロを中心として作られ、最終的にはAIによって世界規模の情報管理を行うシステムです。人間社会を統一するために武力で支配するのではなく、情報を管理し、人々が何を知り、何を知らず、何を正しいと判断するのかを管理するという、言わば「思想誘導システム」です。
これはかなり「神の領分」に近い。
人間に何を考えろと直接命令するのではなく、人間が何を正しいと思うのか、その判断基準そのものに手を入れるからです。
最初は、これはMGSならではのSF的な発想なのかなと思いました。が、考えてみるとそうでもないのです。
sponsored link
MGSだけの話ではない
MGS4を遊んでいてこの話を考えたとき、まず思い浮かんだのが『攻殻機動隊 STAND ALONE COMPLEX』です。SACではネットワーク社会を背景に、情報が人々の行動や認識に影響を与えていきます。
特に「笑い男事件」では、一人の人間がすべての人間を直接指揮しているわけではなく、それぞれの人間がネットワーク上の情報を受け取り、それぞれの判断で行動した結果として、「笑い男の模倣者」として大きな社会現象が形成されていきます。
今のはＭＧＳや攻殻機動隊と言うフィクションの出来事ですが、そもそも「人間の考え方を一定の方向へ導く」という現象は、作劇での出来事だけでもなく、ネットワーク社会になって突然現れたものでもありません。
もっと昔から存在しています。例えば宗教やメディアそれです。
十戒も思想誘導である
例えば十戒を考えてみます。
「これは正しい」「これはしてはいけない」
という戒律としての規範が提示され、信じる人々に「これが善い物」としてその規範を受け入れるのです。すると、その人は日常生活の中で何かを判断するとき、十戒に沿って判断するようになります。
さらに同じ規範を共有する人々が集団を形成すれば、その集団全体が同じ方向性を持つようになります。
これはかなり広い意味では思想誘導と言えます。
しかし、これは十戒による思想誘導が悪いというわけではありません。
「人を殺してはいけない」「盗んではいけない」「約束を守るべきだ」
といった価値観を社会に共有させることで、人間の考え方を一定方向へ導き、社会を成立させているのです。
つまり、思想誘導という言葉だけでは善悪は決まりません。重要なのは「誰が」「何を」「どのように」「どの程度」人々に受け入れさせるのかということです。
メディアも同じ
宗教だけではありません。新聞やテレビなどのメディアも、人々が世界を認識するための情報を提供、あるいは提供しないことで思考誘導を行っています。
新聞を読めば、その新聞に掲載された出来事を知ることができる。逆に掲載されていない出来事は、その新聞しか読まない人には存在しないのと同じことになります。
もちろん、これは新聞社が必ずしも読者を洗脳しようとしているという意味ではありません。単純に紙面には限界がある。何を掲載するかを編集者が選ぶ。読者は、その選ばれた情報を材料として世の中を判断するというだけのことです。当たり前のことです。
しかしこれも「人間が何を知り、何を知らないか」を通じて、人間の判断に影響を与えています。思考誘導と言うと聞こえは悪いですが、情報とは本来そういうものです。
そう考えると、宗教の原典、新聞、テレビ、インターネット、そしてAIは、性質は違うものの、「人間に情報や規範を与える媒体」という連続したものなのです。
AIだけが突然危険になったわけではない
ここまで考えると、MGSにおける愛国者達の「AIによる思考誘導」という言葉に対して少し違和感を覚えるようになります。
AIだから危険なのでしょうか？
私はそうは思いません。現在の対話型AIは、少なくとも人間のような意思を持っていて、人間を洗脳しようと企んでいる様な存在ではありません。
簡単に言えば、非常に高度な計算機です。
電卓が計算結果を出したとき、
「電卓内部に意思があり、この答えを出すことで私の意思決定を誘導している」
とは普通考えません。AIも基本的には同じことです。
もちろんAIの仕組みや学習データ、設計されたルールなどによって、出力には偏りが生じたり、あるいは間違った、あるいは設計者の意図が発生したりします。
しかし、それ自体はAIだけの特殊な問題ではありません。
Googleなどの検索結果にも偏りはある。図書館の蔵書にも偏りはある。新聞の紙面にも偏りはある。自分が選んで読む本にも偏りがあります。
どのような情報源を使ったとしても、その情報源が持っている情報の範囲によって、私たちの認識は影響を受けることになります。これも当たり前のことです。
「思想誘導」はむしろ当たり前なのではないか
そう考えると、思想誘導というものは、何か特別に恐ろしい行為というより、人間社会では当たり前に発生しているものなのではないかと思います。
親が子供に善悪を教える。学校で社会のルールを教える。宗教が信者に生き方を教える。本を読んで価値観が変わる。新聞を読んで世の中の見方が変わる。友人との会話で考え方が変わる。ネットで誰かの意見を読んで考え方が変わる。AIと話して、自分では考えていなかった視点に気づく。
これらはすべて、人間の考え方に影響を与えています。
「思考誘導」という言葉を非常に広い意味で使うなら、人間は生まれてからずっと何らかの思考誘導を受けながら生きていることになります。当たり前の事なのです。
だから私は、AIによる思考誘導という言葉だけを聞いて、すぐに「危険だ」と考える必要はないと思います。
しかし、効率が良すぎることは問題かもしれない
ここまで考えて、思想誘導そのものは別に悪ではないと思うようになりました。
しかし、これまでの宗教やメディアによるものとAIによる思想誘導が同じとは限りません。
私が気になっているのは、主に二つのことです。
ひとつは、効率が良すぎること。
宗教が教典を作り、それを広め、社会に浸透させる。新聞なら記事を作り、印刷して配布する。テレビなら番組を制作して放送する。どれも相応の時間と労力が必要でした。
しかし、インターネットとAIを組み合わせれば、情報の作成、配布、反応の確認、内容の修正といった作業を非常に高速に繰り返すことができます。
しかも、個人ごとに内容を変えることまで可能になる。
もうひとつは、個人でも可能になることです。
従来、大規模な思想の発信には宗教団体や新聞社、放送局といった組織の力が必要でした。多くの人間が関わることで、それぞれの考え方や価値観が混ざり、ある程度は偏りが希釈されることもあったはずです。
しかしAIによって、一人の人間でも大量の情報を作り、発信できるようになります。その場合、発信者個人の思想や偏見、知識の偏りが、そのまま大規模な情報発信能力に乗ってしまう可能性があります。本来なら個人の能力では難しかったことが、効率化によって可能になるわけです。
つまり、今まで存在していた思想誘導と同じだから問題ない、とは言えません。同じことでも、その速度や規模があまりに大きくなれば、結果は変わってくるかもしれません。
ある閾値を超えると何かが起きる？
ここはまだ自分でもうまく言語化できていません。
思想誘導そのものが悪ではないとしても、その効率が一定の段階を超えたとき、何か問題が発生するかもしれないということです。
例えば、個人が持つ偏った思想がAIによって大量に生産され、ネットワークを通じて広範囲に届けられる。さらに受け取った人々の反応を分析し、より効果的な形に修正され、繰り返し発信される。こうしたことが可能になれば、従来の宗教やメディアとは違う影響力を持つようになるかもしれない。
あるいは速度の問題により、人が考えを改める時間が取れないことが問題になるのかもしれません。
具体的に何が問題になるのか、どの程度の効率化が危険なのかは、今のところ分かりません。漠然と危険かもしれないと思っているだけです。
単に情報が大量に流れることなのか。個人の偏りが大きな影響力を持つことなのか。それとも、人間が自分で考える余地が少なくなってしまうことなのか。
ただ、従来と同じ仕組みだから安全と言う訳ではないかもしれないということです。
効率化がある閾値を超えたとき、思想誘導はそれまでとは違う危険性を持つのではないか。
今はそんな漠然とした疑問です。
MGSに限ったものではない
MGS4を遊んでいて愛国者達というＡＩによる思考誘導から感じた「これは凄い設定だな」という感覚も少し変わってきます。
もちろんMGSがこのテーマを非常に印象的に扱っていることは間違いないですが、『攻殻機動隊 STAND ALONE COMPLEX』など、似た問題を扱った作品もありました。
さらに一般化してしまえば、この問題そのものはもっと古いかった。
人間は何を正しいと考えるのか。その判断基準は誰が作るのか。人々はどのようにして同じ価値観を共有するのか。そして、その価値観によって社会はどのような方向へ進んでいくのか。
これはネットワークやAIが登場する遥か以前から存在していた問題です。
宗教も、教育も、法律も、メディアも、そして現在のインターネットやAIも、その問題に対する異なる時代の道具として見ることができます。
そう考えると、愛国者達という存在も少し違って見えてきます。
AIが人間を支配するという未来の話ではなく、
「人間社会を方向づけるための古くからある仕組みを、AIとネットワークによって極限まで効率化したらどうなるのか」
という話なのかもしれません。
MGS4を遊んでいて引っかかった「神の領分」という感覚は、どうやらそのままの意味だったようです。そして、その領分に人間がどこまで踏み込んでよいのか。と考える必要があるかもしれません。
