第58回 世界広報の日 (5月５日/復活節第6主日）教皇メッセージ
福音宣教はわたしたちの使命です。
「世界広報の日」は、この福音宣教の分野の中でもとくに新聞、雑誌、テレビ、ラジオ、映画、SNSなどの広報媒体を用いて行う宣教について、教会全体で考え、反省し、祈り、献金をささげる日です。
「世界広報の日」は、第2バチカン公会議で定められ、1967年以来、毎年、特別のテーマが決められ、教皇メッセージが出されています。
第58回「世界広報の日」の教皇メッセージ
～・～ テーマ ～・～
AIと心の知恵――真に人間らしいコミュニケーションのために
親愛なる兄弟姉妹の皆さん
先の「世界平和の日」教皇メッセージでも取り上げた「人工知能（AI）」と呼ばれるシステムの進化は、知識とコミュニケーションに根本的な変化をもたらし、それによって、社会生活の基盤の一部分も大きく変わろうとしています。これは、専門家だけでなく、すべての人に及ぶ変化です。ほとんどの人はその機能や可能性を理解できない、とてつもない発明品の急速な普及は、歓喜と困惑が入り混じった驚きを招き、いや応なく重い問いをわたしたちに突きつけています。そもそも人間とは何か、人間の特性とは何か、ホモ・サピエンスと呼ばれるわたしたちの種の未来はAI時代にどうなるのか――、どのようにわたしたちは真に人間らしくあり続け、現在進行中の文化変容をよい方向へと導くことができるのか――。
心を起点に
心をもって伝達するということは、わたしたちの発するものを読んだり聞いたりしている人たちに、現代人の喜びや不安、希望や苦しみをわたしたちは共有しているのだと分かってもらうことです。そのように伝える人は、相手の幸福を望んでいます。そういう人は相手を思いやり、相手の自由を侵さず大事にするからです。そうした姿は、ゴルゴタでの悲劇の後、エマオへと向かう弟子たちと対話する謎の旅人に見ることができます。復活したイエスは心をもって彼らに語り、悲しみに沈む彼らの歩みに敬意をもって同行し、ご自分を示しつつも押しつけはせず、起きたことの深い意味を理解できるよう、愛をもって彼らの心を開くのです。確かに彼らは、主が道で自分たちと語らい、聖書を説明していたとき、自分たちの心は燃えていたと、喜びにあふれて叫ぶことができたのです（ルカ24・32参照）。
第一に、悲観的な予測とそれによる思考停止は避けなければなりません。100年前に、技術と人間について考察したロマーノ・グアルディーニが、「消え去る運命にある美しい世界を守る」との思いから、「新たなもの」に対し頑迷になってはいけないと注意を喚起しています。ただし同時に、憂いつつ預言的に諭します。「おのおののあるべき場は生じつつあるものです。わたしたちは、それぞれが自分の場に適応しなければなりません。……素直にそれを受け入れなければならないのですが、ただし、そこにある破壊的で非人間的なものに敏感にあり続ける、感化されない心をもたなければなりません」。そしてこう締めくくります。「技術的、科学的、政治的性質の問題を扱っていることは確かですが、それを解決できるのは人間だけなのです。より深い霊性と、新たな自由、そして新たな精神性を備えた、新しい人間への成熟が求められるのです」1。
技術は豊かでも人間らしさは希薄なこの時代にあっては、人間の心だけがわたしたちの考察の起点となります2。心の目で見ることでのみ、心の知恵を取り戻すことでのみ、わたしたちは時代の新しさを読み解き、真に人間らしいコミュニケーションの道を見いだすことができます。聖書では、自由の拠点であり、人生における重要な決断の数々が行われる場と理解されている心は、全体性、一体性の象徴であり、さらには感情、望み、夢のわき出るところで、そして何より、神と出会う内なる場です。ですから心の知恵とは、全体と部分とを、決断とその結果とを、卓越と脆弱とを、過去と未来とを、「わたし」と「わたしたち」とを、一つに編み上げられるようにする徳なのです。
この心の知恵は、それを求める人には見いだされ、それを愛する人には姿を現します。それを望んでいる人には先んじて与えられているもので、それにふさわしい人を求めて巡り歩いています（知恵6・12−16参照）。知恵は、勧めを受け入れる人のもとに（箴言13・10参照）、柔和な心、聞く心の持ち主のもとにあります（列王記上3・9参照）。それは聖霊のたまもので、わたしたちが神の目で物事を見られるようにし、関係性、状況、出来事を理解できるように、そしてその意味に気づけるようにします。この知恵がなければ、生活は味気ないものになってしまいます。知恵こそが――そのラテン語の語源sapereは味覚と関係がありますから――、人生に味わいを与えるからです。
好機であり危機であり
機械には、こうした知恵は期待できません。「人工知能」という用語は、科学文献で使用されるより正確な用語「機械学習」に、ようやく取って代わられつつありますが、「知能」という語の使用自体が誤解を招きます。機械が、データを記録し、それらを相互に関連づけることにおいては、人間をはるかに超えた能力を有しているのは疑いのないことです。けれども、その意味を読み解くのは人間であり、ひとえに人間のみなのです。ですから取り上げるべきは、機械に人間らしさを要求することではありません。全能という妄想によって陥った催眠状態から人を目覚めさせることなのです。自分は完全に自律した自己言及的な主体で、社会的つながりとは無縁だとして、被造物としての己を顧みない思い込みから目を覚まさせることです。
実際に人は、自分だけでは立ち行かないことをつねづね経験し、あらゆる手段を講じてその弱さを克服しようとしています。腕の延長として使用された先史時代の最初の手工品から始まり、ことばの延長として用いられるマスメディアを経て、今日、思考の補助として機能する、きわめて精巧な機械にまでたどり着きました。しかしながら、これらの現実はいずれも、神なしで神のようになるという原初の誘惑（創世記3章参照）、つまり、神からの贈り物として受け入れ、他者との関係性の中で味わうべきものを自力で克服しようとする欲望によって、汚されてしまうことがあるのです。
人の手にあるものはすべて、心の向けどころ次第で好機を生むこともあれば危機を招くこともあります。つながりと交わりの場として造られた人間の肉体そのものが、攻撃の道具となることもあるのです。同じく技術による人間の拡張はすべて、愛ある奉仕の道具になることもあれば、敵対的な支配の道具にもなりえます。AIのシステムは、無知から解放されるプロセスに貢献し、異なる民族間や世代間の情報交換を促進しうるものです。たとえば、過去の時代に書かれた膨大な知の遺産へのアクセスとその解読を可能にしたり、知らない言語でコミュニケーションを図れるようにしたりできます。ですが一方では、「デジタル情報空間の汚染」の手段ともなりえます。一部あるいは全部がウソであるのに、あたかも真実であるかのように信じられシェアされてしまう語りによって、事実を改ざんしてしまうのです。ニセ情報の問題を考えて見ればいいのです。それはこの数年、「フェイク（ニセの）ニュース」の事例で見てきていますし3、今日では「ディープフェイク」（訳注：AIを用いて動画や音声を人工的に合成する技術。偽動画の意味でも用いられる語）の利用があります。つまり、完全に本物に見えるニセの映像（わたし自身この対象になったことがあります）や、本人の声を利用し、いってもいないことをいったかのように仕立てた音声データ、その作成と拡散とに及んでいます。こうしたプログラムの基となるシミュレーション（訳注：仮想空間に環境や現象を再現・擬態すること）技術は、特定の分野では有益となりえますが、他者や事実との関係を歪めてしまうならば、害となってしまいます。
AIの第一波であるSNSの到来以降、わたしたちはその両義性を、可能性だけでなくリスクや弊害にもじかに接することで理解してきました。生成AIという第二の段階は、まごう方なき質的飛躍を遂げています。そのため、悪用されると有害な事態を招きかねないツールを理解し、認識し、制御する力を身に着けることが肝要です。人間の頭脳と手から生まれた他のすべてのものと同じで、アルゴリズム（訳注：答えを導く計算式、手順）も中立ではありません。したがって、予防的行動が必要です。世論の分極化や、単一の考え方の形成が進む中、AI装置の有害で、差別的で、社会正義に反する影響を阻止し、多様性の抑え込みにAIを利用することと闘うため、倫理規範のモデルを示さなければなりません。だからわたしは、「多国間共同体が、さまざまな形で人工知能の開発と活用を規制する拘束力のある国際条約を採択するべく、一致して働くよう」4あらためて求めます。ただし、人間にかかわるどの領域でもそうであるように、規制だけでは十分ではありません。
人間性の成長
わたしたちは、人間性において、そして人間として、ともに成長するよう求められています。複雑で、多民族、多元的、多宗教、多文化の社会に対応すべく、質的飛躍を遂げることが目下の課題です。こうした新たなコミュニケーションツールやラーニングツールの理論の発展と実装について、問いただすべきはわたしたち自身です。善益への大きな可能性に伴う危険は、すべてが理論上の計算に変換されてしまうことです。人が単なるデータへ、思いが図式へ、体験が事例へ、善が利潤へと矮小化され、そして何より、それぞれの個性とその人生の唯一性が否定されて、現実の具体性が統計データへと解体されてしまうのです。
デジタル革命は、わたしたちにさらなる自由をもたらしうるものですが、今日取りざたされているエコーチェンバー（訳注：SNSにおいて、似通った価値観や思想をもつ者どうしが交流し共感し合うことで、自己の主張が増幅、強化されてしまう状況を、閉鎖空間で音が反響する物理現象にたとえたもの）という現象に閉じ込められてしまうなら、間違いなく異なる結果を招きます。そうなると、情報の多元性を拡大させるより、市場や権力者を利するべく、匿名の沼に落ち込んでしまう危険を冒すことになります。AIの利用が、匿名の思考に、確証のないデータの集積に、集団での編集責任放棄に至ることは容認できません。ビッグデータ（訳注：人間では全体把握が困難な巨大データ群）による現実表現は、それがさまざまな機器の管理には有効であっても、実際のところ、物事がもつ真実を根本的に喪失させるもので、対人コミュニケーションを妨げ、わたしたちの人間性そのものを損ねかねません。知識は、実存的な関係とは分離できないものです。知識は、現実存在としての身体を伴うもので、データだけでなく体験と関係づけられることを要求し、顔、まなざし、共感、さらには共有を求めるものなのです。
思うのは、戦争報道についてと、ニセ情報の戦場で展開する「並行する戦争」です。そして、その目に映じたものをわたしたちに伝えようとして、多くの記者が現場で傷を負い、あるいはいのちを落としていることにも思いを馳せます。幼い子の苦しみに、人々の苦しみに、じかに触れることでようやく、わたしたちは戦争の不条理を理解できるからです。
AIの活用は、それが現場におけるジャーナリズムの役割を打ち消すものでなく、むしろ助けとなるのであれば、そして情報伝達の専門性を向上させ、情報発信者一人ひとりに責任を担わせるのであれば、また人間一人ひとりに、コミュニケーション自体の、それに対し批判する力をもった、主体としての役割を取り戻すのであれば、コミュニケーションの分野において貢献できうるものとなるでしょう。
今日と明日への問い
そうなると、次のような問いがおのずと生じます。どうすれば、コミュニケーションや情報の分野に携わる人たちの専門性と尊厳を、さらには世界中のユーザーのそれを守れるのか。どのようにすれば、種々のプラットフォーム（訳注：ITサービスやシステムにおいて共通の土台となる環境）の相互運用性（訳注：情報を交換し合い、相互に連携する能力）を保証できるか。いかにしてデジタル・プラットフォームの開発企業に対し、伝統的なメディアである出版社のように、自社が普及させ収益を得ている製品に責任を取らせるのか。インデックス（訳注：検索エンジンがデーターベースに対象となるサイトを保存することで、そのサイトが検索結果に現れるようになること）する、あるいはしないアルゴリズムと、人、意見、歴史、文化を称賛も抹消もできる検索エンジンの、土台となる基準について、いかに透明化を図れるのか。情報処理の透明性をどう確保するのか。どのようにすれば匿名の覆いを取り払い、書き込んだ本人を割り出し、情報源の追跡可能性を担保できるか。画像や動画が、出来事をありのままに写しているか、あるいはねつ造してはいないかを、いかして明らかにできるのか。どうすれば数々の情報源が、アルゴリズムによって処理された単一の考えに矮小化されるのを防ぐことができるのか。そして多元性を保持し、現実の複雑さを表すのに適した環境を促進するにはどうすればよいのか。強大な能力を備え、高価で、エネルギーを大量消費するこの道具を、いかに持続可能なものとするのか。途上国も利用できるようにするにはどうしたらよいのか。
これらの、あるいは他の問いへの答えからは、AIは、情報による支配に基づく新たなカーストを形成し、新たなかたちの搾取と不平等を生み出すことになるのか、それとも逆に、正確な情報の拡散と、今の時代の変化に対する意識を高めることで、構造化された多元的な情報伝達システムの中で、個々人や国民の多様なニーズに耳を傾けようとすることで、平等をさらに実現するものとなるのかが見えてきます。一方では新たな奴隷制の亡霊が、他方では自由による支配が迫っています。少数者によって全員の思考が左右される可能性がある一方、他方には、意見形成の過程に全員が参加できる可能性があるのです。
答えは書かれていません。それはわたしたち次第です。アルゴリズムの餌食となるのか、それとも自由をもって己の心を養うのか、決めるのは人間です。自由なしには、知恵をはぐくむことはできません。この知恵は、時間を賢く生かし、弱さを受け入れることで成熟していきます。この知恵は世代間の、過去の記憶をもつ者と未来のビジョンをもつ者との結びつきにおいて成長するものです。ともになることで初めて、物事を識別し、監督し、最後まで見届ける力が養われるのです。人間性を失うことのないよう、すべてのものに先立って造られた知恵（シラ1・4参照）を、すなわち、清い魂に移り住み、神の友と預言者とを育成する知恵（知恵7・27参照）を求めましょう。知恵は、AIシステムをも、十全に人間らしいコミュニケーションにかなうものにしてくれます。
ローマ
サン・ジョヴァンニ・イン・ラテラノ大聖堂にて
2024年1月24日
フランシスコ
