・バチカン広報省が、AIが人間関係、社会などに与える影響と対応に関する専門家会議開催

   人工知能(AI)の時代における人間の尊厳の保持をテーマとした教皇レオ14世の最初の回勅『Magnifica humanitas』の発表を数日前に控え、バチカン広報省主催の「人間の声と顔を守る」会議が21日、開かれ、出席した学者、技術専門家、ジャーナリストがちが、AIの人間関係、メディア、社会、コミュニティへの影響について議論した。

＊最大の危険は「『知識』がもはや私たちのものではない』と諦めてしまうことにある

　会議冒頭のあいさつでバチカン広報省のルッフィーニ長官は、「『守る』という言葉は、私たちに問いを投げかける。それは『愛と責任を持って誰かを大切にすること』を意味します」と指摘したうえで、「最大の危険は、『知識がもはや私たちのものではない』という考えを、受動的に受け入れてしまうことにある。私たち自身が築き上げたもの―アルゴリズム、プラットフォーム、あるいは自動化システム―に、思考を任せ、私たちの生活や他者とのコミュニケーションのあり方さえも完全にプログラムさせてしまうことです」と警告した。

　また、文化教育省のメンドンサ長官は、「『人間の声と顔を守る』というこの会議のテーマが、現実と仮想現実の境界がますます曖昧になりつつある時代において、一つの指針であり、まさに人類への信仰の告白だ…　人間は決して、統計やプロフィール、あるいはアルゴリズムに還元されることはない。人間性とは常にそれ以上のもの、すなわち神秘であり、呼びかけなのです」と強調。

　「『守る』とは、何かを展示ケースに閉じ込めることではない…　脆いものを守り、それが引き続き花開くようにすることです。人間の声や顔は、複製され、操作され、沈黙させられる可能性がある一方で、あらゆる真摯な出会いの中で生まれ変わるものでもあります」と述べた。

＊ジャーナリズム、社会、コミュニティに対するAIの影響

　午前のセッションは「あるか、ないか：関係性と現実の仮想化」というテーマに焦点を当て、最初のパネルディスカッションでは、ジャーナリズム、社会、コミュニティに対するAIの影響について考察が行われた。

　ゼンゼロヴィッチ・ザグレブ大学教授（欧州評議会「オンラインの安全性およびコンテンツ制作者・利用者のエンパワーメントに関する専門家委員会（MSI-eSEC）」副委員長）は、偽情報や怒りを煽る行為などの現象を通じて、AIがジャーナリズム、人々のニュースの利用方法、そして政治的コミュニケーションにいかに変革をもたらしたかを指摘。「人々がもはや誰をも、何をも信頼しなくなった今、私たちは数年前には最悪のシナリオと思われた状況にすでに直面しています」と警告しつつ、「唯一の解決策は、教皇レオ14世が世界社会通信の日に出されたメッセージで示された『教育』『責任』『協力』の3つの柱にあると信じています」と語った。

　人々が成長し、繋がるデジタル公共空間の構築に努めるNPO、「New_Public」の創設者でディレクターのパリサー氏は、「AIは、寄生的なものにも、社会貢献的なものにも設計することができる。そして、私たちは、強力なAIが存在する世界と共存し、その世界に支えられた、人間の社会性に対する前向きなビジョンを必要としています…　そうした考えが、政治的立場を超えた政策立案者や、宗教団体その他の関係者を結集させることが可能です」と強調した。

　続いて、米ニューヨーク・タイムズ紙のテクノロジー担当記者、カシミール・ヒル氏は、「取材を通じて、AIチャットボットとの関わりを楽しむあまり、多くの人々が現実感覚を失っている実態を目の当たりにしてきた。何が現実で何が真実かを見分けられないことによるリスクは、こうしたシステムのすべてのユーザーに及びます」と警告した。

　最後に、米ワシントン・ポスト紙の最高技術責任者（CTO）であるコスラ氏は、「私たちは、記者を支援し、業務を向上させるAIツールを開発することで、野心的なジャーナリズムを実践しようとしている。これは、特定の業務をAIに任せたり、読者がメディアが提供する信頼できる情報を見つけられるよう支援したりすることを意味します…すでにAIにニュースを尋ねるようになった世代のユーザーが存在する。私たちは、次世代のニュース消費者がすでにいる場所に身を置き、ニュースを消費する『正しい方法』があることを示そうとしています」と説明した。

＊AIチャットポットが千年以上の歴史を持つ言語、知識、コミュニティを”不存在”にしている

　午前の第2パネルでは、「AIモデルが社会的不平等や不正義を助長しているか否か」という問いについて考察が行われた。メキシコ、モンテレイ工科大学のキハノ教授（メディア・デジタル文化）は、「AI開発の主流モデルは、マクロ、メソ、ミクロの各レベルで構造的暴力と不平等を再生産しており、周縁部に置かれたコミュニティや国々に不釣り合いな影響を及ぼしている」と指摘。

　具体的に、AIチャットボットが、メキシコで10万人以上が話す先住民言語であるミクセで文章を書くことができなかった例を挙げ、「このシステムにとっては、『千年以上の歴史を持つ言語、知識、そしてコミュニティ』は存在しないのです」と説明し、「AIによって誰が、どのように被害を受けているのか。そして、誰の人生、身体、顔、声、知識が重要視されるのか」を具体的に知る必要性を強調した。

　また南アフリカ・ウィットウォーターズランド大学のロスマン教授（コンピュータ・サイエンスおよび応用数学専攻、MIND研究所所長）は、「世界はAIの開発競争を繰り広げていますが、今起きている真の不平等とは、AIを持つ者と持たない者の間ではなく、AIを形成する機会を持つ者と持たない者の間にある」とし、そうした認識のもとに、「私は、アフリカ各国で草の根の取り組みや運動を構築しようとしている。人々を巻き込み、AIに関する世界的な議論に参加させる運動です」としたうえで、「もしコミュニケーション、信頼、そして人間関係の未来が、ほんの一握りの企業、国、世界観によってのみ形作られるのであれば、その結果は人類の豊かさを反映したものではなくなるでしょう」と警鐘を鳴らした。

　最後に、 Algorithmic Justice Leagueの創設者、活動家で詩人のブオラムウィニ氏は、苦境に置かれる「excoded」の人々の存在を指摘。「この用語は、『AIによる差別と搾取という悪夢を生きる人々』を定義するもの。その範囲は、作品を盗まれるアーティストから、標的を特定するためにAIを利用する軍事システムによって命を落とす人々、さらにはAIによる身元確認で誤認される人々まで多岐にわたる。AIの”仮面”を剥ぎ取り、機械の世界において人間らしさを守るための時間はまだあります」と彼女は語った。