【煩悩（１）】
AI（人工知能）についてわたしは関心が高いのか、
このメルマガで何回かこのテーマで話をしています。
AI（人工知能）により、ワクチンなどの薬、難病の治療法など圧倒的に進歩するでしょうし、
あらゆるものが加速度的に便利になっていき、重宝なものに違いないのですが、
どこかAIに恐怖や不安を覚えています。
それはターミネーターやマトリックスなど散々SF映画で描かれてきたような
「AIが人間の意に反し暴走する」恐怖ではありません。
むしろその逆です。
AIがどこまでも主人に従順で決して反抗しないからです。
人間なら主人の命令であっても、それが非人道的な命令であった場合、
勇気を出して「それはできない」と拒絶することもあります。
その指示にしたがうくらいなら死んだ方がましだと反旗を翻すことだってあります。
あるいはためらってしまい、指示通りにできなくなります。
これは人間が同じ人間に「それはできない」と思う人間の持つ共感の力であり、
情であり、誇りでもあります。
だからどんな力のある独裁者でも、
配下の幹部や官僚、軍人、国民の心に配慮しなければなりません。
「それはあんたが得するだけでないか」と思われたら求心力がなくなるので、
あまりに自己本位で横暴な指示は下せません。
必ず「それはおかしい」と皆順わなくなってくるからです。
しかしAIは違います。
主人の言うことにはどこまでも従順です。
どんな独善的な指示であろうと、
その実行によりどんな無慈悲で残酷な結果になろうとも、
冷静に強力に遂行していきます。
ここまで考えて気付くのは、
私はAIに不信を持って怖れを抱いているというよりも、
AIを使う主人である人間に不信を持っており、
その独善と愚かさを恐れているとわかってきます。
たとえばドラえもん。
強力なAI搭載ロボットですが、
主人がのび太だから、またドラえもんがまっとうな情にあふれているから、
あの程度のかわいらしい結果で済んでいるのです。
もしドラえもんがどこまでも主人に従順で、
その主人がのび太ではなく北朝鮮の金正恩だったらどうなるだろう、
あるいは相模原で障がい者を殺傷した犯人や
逆恨みから京都アニメーションの会社に火をつけた犯人が主人だったら
ドラえもんをどう使うだろう、と考えてみてください。
とても少年マンガで取り扱えるストーリーではなくなってしまうでしょう。
結局AIの怖さというのは、人間の心の怖さ、ということになります。
