レオ13世が1891年にカトリック初の社会回勅『 Rerum novarum(新しき事がらについて-資本と労働の権利と義務)』を公布して135周年の5月15日。
予想されていたその現代版とも言える回勅（タイトルは『Magnifica Humanitas（マニフィカ・フマニタス／壮大なる人間性）』と言われている）の発表はなかったものの、教皇がその日に回勅に署名したことが17日明らかになった。
レオ13世は、20世紀の変わり目の世界的な大きな社会変動と危機の時代に、『 Rerum novarum』を発し、労働者の権利、公平な富の分配や社会正義を説いた。自らその後継者としての教皇名を選んだこともあり、レオ14世の初の回勅は、教会内外で広く期待を持って待たれていた。
昨年5月10日、教皇に選ばれてわずか2日足らず、レオ14世は、枢機卿団に対し語っていた―「レオ13世は、「『Rerum novarum』を用いて、『最初の偉大な産業革命という文脈における社会問題』に取り組んだのです… そして今、新たな産業革命と人工知能分野の発展が、人間の尊厳、正義、そして労働の擁護にとって新たな課題をもたらしている」。
この言葉で、新教皇による高水準の教書への初挑戦に対する期待は一挙に高まった。だが、1891年と2026年との間にはいくつかの重要な違いがある。とりわけ大きな違いは、AI革命がまだ進行中の段階にあるのに対し、『 Rerum novarum』の執筆が始まった時点で、産業革命は、すでにかなり進んでいたという点だ。
とはいえ、人々が長い間AIについて考えて来なかったわけではない。考えてきたし、20世紀の映画をざっと見渡すだけでもわかるように、最悪の事態を想定することさえあった。
「新しい… 強力な… あらゆるものに接続され、すべてを動かすことを任されている。賢くなった、と言うんだ、新たな次元の知能だと」と、カイル・リースは1984年の映画『ターミネーター』で語った。「そして、敵側の人間だけでなく、すべての人間を脅威と見なした。マイクロ秒のうちに我々の運命を決定した。殲滅だ」と彼は言い、その言葉は今日でも人々を恐怖に陥れている。
さらに不気味な描写を見せたのが1999年の映画『マトリックス』だ。そこではAIマシンが人間を文字通り「バッテリー」に変えてしまっていた。「何が現実なのか？」と、テクノロジーに反旗を翻すモーフィアスは問いかける。彼はキアヌ・リーブス演じるネオに対し、マシンが作り出した偽りの世界についての真実を明かすのだ。「『現実』をどう定義する？」とモーフィアスは、修辞的な問いかけではなく真剣に問う。「もし、感じられるもの、嗅げるもの、味わえるもの、見えるものについて話しているのなら、『現実』とは単に、脳が解釈した電気信号に過ぎない」と。
教皇は先週、ローマのラ・サピエンツァ大学での学生たちに向けた講話で、こうした懸念に言及した。 「私たちはまた、軍事および民間の両分野における人工知能の開発と応用を注視しなければなりません。それが人間の選択に対する責任を免除したり、紛争の悲劇を悪化させたりしないようにするために」。
新技術に対する懸念は、決して新しいものではない。18世紀末から19世紀初頭にかけて、ラッダイト（19世紀初頭のイギリスで起こった、機械化によって仕事を奪われることを恐れた労働者たちによる「機械打ちこわし運動」）に参加した労働者たちは、自分たちの繊維産業を破壊すると考えた新しいストッキング織機を破壊した。産業の機械化が、彼らの高度な技能を要する職人技にどのような影響を与えるかについて、彼らが完全に間違っていたわけでもなかった。
蒸気力、そして電力の発展は世界を変えた。すべてが良い方向への変化だったわけではない。変革の渦に巻き込まれた世代にとって、その道のりが過酷だったと言うのは、時代を超えた控えめな表現に過ぎない。新しい技術は生活を向上させた。今や破壊的かつ革命的な新技術が当たり前になっているため、私たちはその恩恵をほとんど意識していないが。労働時間は短縮され、週5日勤務制が導入され、やがて生活水準は向上し、平均寿命も延びた。
新しい技術には、同じことを、しかも指数関数的な規模で成し遂げる可能性がある。それが、16日に教皇が、この発展する技術を検証するためのバチカン4省と3アカデミーによる特別委員会の設置を承認したと発表された理由のひとつだ。総合的人間開発省、教理省、文化・教育省、広報省、教皇生命アカデミー、教皇科学アカデミー、そして教皇社会科学アカデミーで構成するこの委員会は、教会の代わりに考えるわけではないが、教会と共に考え、世界が困難な文明的局面を乗り切る手助けをすることになる。
AIに関して最も積極的に発言している教会関係者の一人が、全アイルランド教会のトップであるイーモン・マーティン大司教だ。彼は17日に祝われた第60回世界社会通信デーのために、特別の考察を寄せた。「教皇レオ14世は、私たちに『人間の声と顔を守れ』と求めておられる。技術によって声が複製され、顔が生成され、感情が模倣され、人間らしい言葉が作り出されるようになった現代の世界に向けて語っておられるのです… 教皇は私たちに、さらに深く掘り下げて考えるよう求めておられる…『人』とは何か？ 真に『コミュニケーション』するとはどういうことか？」。
多くの人々にとって、この10年間でAIは、文字通りますます身近なものになってきた。ウェブサイトはユーザーに「話しかける」機能を提供し、テクノロジーのリーダーたちは、人々が生活をより充実させるために「バーチャルな友人」さえ作れる新時代について語っている。
多くの家族は、これが自分たちの生活にどのような影響を与えるか懸念している。職が失われるかもしれない――すでに消え始めているものもある――長年の訓練が一夜にして無意味になるかもしれないし、人と出会い友人を作る従来の方法は、これまで以上に劇的に変化するだろう。
そして別の映画が、それがどのような別の危険へとつながるかを示している。2008年のピクサー作品『WALL-E』だ。地球を清掃するロボットが恐ろしかったわけではない。恐ろしかったのは、宇宙を漂う宇宙船の中で暮らす人間たちの生活だった。アクシオム号の乗客たちは、何世紀にもわたりただ浮遊椅子に座り、無料の食事を食べて肥満になり、動画を見て、あらゆる要求をロボットに満たしてもらうだけの生活を送っていた。真に人間であるという能力そのものを失っていたのだ。
今日でさえ、アルゴリズム（特定の問題を解決したり、目的を達成したりするための「計算手順」や「処理手順」）が、ソーシャルメディア上でユーザーに表示されるコンテンツを決定している。アルゴリズムは、個人の投稿や、他者の投稿に対する「エンゲージメント」を追跡する。そして、ユーザーが「見たい」とアルゴリズムが「判断」したコンテンツをユーザーに提示するのだ。アルゴリズムはまた、ユーザーを怒らせる可能性が高いと判断したコンテンツも表示する。
これらのカテゴリーには一部重複がある。基本的に、アルゴリズムは、理由はどうであれ、「クリックを集めそうだ」と判断したものは何でもユーザーに表示するのだ。
人々は今、自分と意見の異なる人に出会う可能性がかつてないほど低くなっており、それによって二重の危険が生じている。すなわち、「誰もが自分と同じように考えている」という錯覚、そして異なる意見や視点を許容する能力の低下だ。
映画『WALL-E』のラストで、人類は地球に戻り、ゆっくりと人間らしさを取り戻していく。 教皇は、私たちが『ターミネーター』と『WALL-E』の二者択一ではない道を見つけられることを願っている。
彼はまた、私たちが「どちらか一方」の社会ではなく、「両方とも」の世界に直面している、という事実にも気づいているのかも知れない。
（翻訳・編集「カトリック・あい」南條俊二）
