
(2025.1.28 バチカン放送)
バチカンの教理省と文化教育省が28日、「Antiqua et Nova( Note on the relationship between artificial intelligence and human intelligence=人工知能と人間の知能の関係に関する文書)」を発表した。
この文書は、教皇フランシスコの人工知能に対するここ数年の関心と注意を基礎としており、教育者や信仰を伝える立場にある人はもとより「人々と共通善に奉仕する科学技術」の発展に必要な条件を共有する人々にも向けられている。
文書は6章・117節で構成され、教育、経済、労働、医療、人間関係の分野や、戦争を背景に、人工知能(AI)の開発上の課題や可能性に光を当てている。
*AIの危険-個人や企業の利益のために操作される恐れ
文書は、AIの危険性を具体的に列挙すると同時に、神と人間の「協力の一部」として進歩するよう促す一方で、効果をまだ予測できないこうした技術革新に対し、不安を示している。
そして、人工知能と人間の知能の区別に数節を費やし、「AIを指して『知性』という言葉を使うこと自体が、誤解を招きやすい」と指摘。AIは「人工的な知性の形」ではなく、「その産物の一つ」であるとしている(35項)。
さらに、人間の創意のあらゆる産物と同じように、AIも「肯定的な目的にも、否定的な目的にも」使うことができ、「重要な革新」をもたらすことができる(48)一方で、「差別や、貧困、情報格差、社会的不平等の状況を悪化させる危険」も内包(52項)している、とし、「倫理的懸念」を生んでいるのは「AIの主な応用をめぐる権限のほとんどが、力を持つ少数の企業の手に集中していること」(53項)であり、「個人あるいは企業の利益」のために操作される恐れ(同)がある、とも指摘している。
*AIの兵器利用が制御不能な破壊力をもたらす懸念
AIと兵器との関係では、においては、「人間の直接介入なしに標的を特定し、命中可能な自律的で殺傷力のある兵器システム」が深刻な倫理的懸念(100項)をもたらしており、教皇は、「人類または地域全体の生存」に関わる現実的脅威として、その使用の禁止を求め(101項)ておられる。そして、「戦争に制御不能の破壊力を与え、子供たちさえを含む、多く無実の市民を攻撃するリスク」がある、と文書は警告している。
*子供の成長や人間関係にとって有害にもなり得る
またAIは、人間関係についても、「有害な孤立」をもたらす可能性(58項)があり、「AIの擬人化」は、子どもたちの成長に問題を起こし得る(60項)ほか、AIを人間のように表現することを詐欺的な目的で使用する場合、「重大な倫理違反」となり、教育、人間関係、性的な文脈において、AIを使って人を欺くことは「不道徳であり、慎重な注意が必要 」(62項)とも述べている。
*経済・金融、労働分野への影響
経済・金融の分野でも同様に警戒が必要で、特に労働分野で、AIは技能と生産性を向上させる「大きな可能性」を持つ一方、「労働者から資格を取り上げ、自動化された監視体制」のもとに、固定化された反復的な役務に追いやる」可能性(67項)がある、としている。
*医療分野への影響
文書は、AIと医療の関係にも多くのスペースを割いており、医療分野での応用の膨大な可能性に触れながらも、「医師と患者の関係に取って代わるなら、病者に伴う孤独感を『悪化』させる恐れがある」とし、AIによって、「金持ちの医療」が強化されれば、経済的余裕のある人々が高度な医療の恩恵を受ける一方で、他の人々は基本的な医療サービスへのアクセスすらできない状況に陥ることが考えられる、と警告している。
*教育分野への影響
文書は、教育の分野においてもAIがもたらすリスクを浮き彫りにしており、「慎重に使用するなら、AIは教育へのアクセスをより良くし、学生たちに”即時の照”ができるようにする(80項)」が、問題は、多くのプログラムが「生徒が自分で答えを見い出す、あるいは自分で文章を書くように促すのではなく、単に答えを提供するにとどまる」ことで、その結果、「批判的思考を育てられなくなる」(82項)と警告。多くの「歪曲・捏造された情報」や「フェイクニュース」を生み出すプログラムがあることにも、注意を促している。
*”フェイクニュース”と”ディープフェイク”
フェイクニュースに関して、文書は、AIが「偽造されたコンテンツや、偽情報を生み」(85項)、それを「欺き、傷つける」ために拡散する(87項)など、深刻なリスクがあることを注意している。そして、常にコンテンツの「信憑性を慎重にチェック」し、「人を辱める言葉やイメージの共有」を避け、憎しみや不寛容を煽るもの」や「人間の性」の品位を落とすものを排除するように、促している(89項)。
*プライバシーと管理
「プライバシーと管理」について、文書は、ある種のデータが「良心にまで触れ」(90項)、すべてが「密かに覗き見られる一種の見世物」になりかねないリスクを持っている、と指摘(92項)。また「デジタル上の監視が、信者の生活や信仰の表現を管理下に置くために使われる可能性」があることに、注意を促している。
*共に暮らす家である地球をより良くするために
被造物のテーマにおいて、共に暮らす家=地球との絆をより良いものとするためのAIの応用は、「期待できるもの」とする一方で、現在のAIモデルは「大量のエネルギーと水」を必要とし、資源を集中的に消費するのみならず、「CO2排出に大きく影響する」という負の側面にも触れている。
*神との関係
最後に文書は、人間が「自らの産物の奴隷」となるリスクを警告し、「AIは『人間の知性を補完する道具』としてのみ使用されるべきであり、人間の知性の豊かさに取って代わることがあってはならない」(112項)と強調している。