　　　　　　AI 開発の全面停止を含む、AI を制限するための国際協定を提唱　　　　　宮崎正弘　　　　　2026_5_17

　　意思決定を左右するAIシステムに組み込まれた価値観を誰が決定するのか？
　　AI は道徳的であることはできない。それなら、宗教は AIに道徳を教えることができるだろうか？
　　人間が意思決定のために人工知能に頼るようになるにつれ、宗教はこうした「大問題」に決定的な関与を試みる必然が生まれる。

　エリエゼル・シュロモ・ユドコウスキーは、人工知能研究者と世界的にして知られる。
彼は意思決定理論と倫理に関する思索をめぐらし、とくに「友好的人工知能」という考え方を普及させた。
ユドコウスキーは、意思決定理論と倫理に関する研究機関で、カリフォルニア州バークレーに拠点を置く非営利の民間研究機関「機械知能研究所（MIRI）」の創設者で、
設立資金はピーター・ティールが出した。
邦訳『超知能 AIをつくれば人類は絶滅する』の訳者の櫻井祐子は、その日本語版の「あとがき」に言う。
「ユドコウスキーは著名投資家のピーター・ティールとの運命的な出会いを果たし、たぐいまれな知性と洞察でティールを魅了する。
ティールにとってユドコウスキーは、技術による文明破局が現実的なリスクだという彼の持論に、初めて理論的な裏づけを与えた存在だった。
ティールは MIRI に巨額の資金を提供し、それがユドコウスキーに「正当性」を与え、
彼の議論は真剣に検討するに値するという強力なシグナルを産業界、投資界に送ったのである。
2人は人類にとって安全で望ましい方法でシンギュラリティを加速させることをめざし、
一時期研究者や SF作家、投資家などの著名人を集めて『シンギュラリティサミット』を開催していた。
当時のユドコウスキーは研究者やエンジニアを投資家に引き合わせるなどして、AI革命の「触媒」の役割も担っていた。
サム・アルトマンはのちにユドコウスキーの影響を総括して、AGI （汎用人工知能）への関心を呼び覚まし、投資界との橋渡しをし、
AI 安全性の重要性を喚起したという意味で、『ユドコウスキーは AGIを誰よりも加速させた』と皮肉を交えて指摘している」。

　チャットＧＰＴやジェミニ、グロックに人生相談をすると、寛容にして相談者におもねるような回答がある。
しかしユドコウスキーは、「スーパーインテリジェンスの爆発の可能性」に思索をめぐらし『超知能AIをつくれば人類は絶滅する』
　（早川書房。原題は『もし誰かがそれを作ったら、誰もが死ぬ～～なぜ超人的AI （スーパーインテリジェンス）は私たち全員を殺すのか』）を著し、
世界的ベストセラーとなって、ニック・ボストロムの『超知能：道、危険、戦略』にも大きな影響を与えた。

ユドコウスキーは、友好的な AIの設計方法について、「友好（人間を傷つけたくないという願望）」を最初から設計に組み込むべきだと主張した。
なぜなら設計者は、自らの設計に欠陥があるかもしれないこと、そしてＡＩが学習を進化することを認識する必要があり、メカニズム設計に問題である。
絶えず検証し修正し均衡を保つ。
そうしたシステムの下で AIを進化させるメカニズムを設計し、変化に直面してもフレンドリーであり続けるような機能をシステムに与えることだと唱えた。
不適切に設計された自律的意思決定システムは、人間を虐待するインセンティブを持つことになる知能爆発シナリオでは、
AI システムが、人間以下の一般知能から超知能へと急速に移行する。

　　「AI は『村の馬鹿』と『アインシュタイン』を知能スケールの両極端　
ニック・ボストロム『超知能: 道、危険、戦略』は、高度な AI システムを擬人化することで、
人々が知能爆発の本質を誤解するリスクについて、ユドコウスキーの言葉を引用し「AI は『村の馬鹿』と『アインシュタイン』を知能スケールの両極端と考える傾向、
つまり擬人化の結果として、知能が急激に向上する」と警告した。

　2023年に『タイム』誌に寄稿した論考で、ユドコウスキーは人工知能のリスクについて論じ、AI開発の全面停止を含む、AIを制限するための国際協定を提唱した。
参加国は「不正なデータセンターを空爆で破壊する」などの軍事行動を取る覚悟を持つべきだと示唆し、そのような一時停止を強制すべきだと主張した。
ニューヨーク・タイムズに寄稿した、ノースイースタン大学の心理学教授であるデビッド・デステノは、「宗教は AI を道徳的にすることができるのか？」と問うた。
デステノ教授が言うには「宗教の変革力は教義や聖典からではなく、断食、呼吸法、共同祈祷といった身体的な儀式から生まれる。
AI には身体がなく、思いやりや感謝、道徳的な葛藤といった能力も持ち合わせていないため、これらのメカニズムは AIの手の届かないところにある。
瞑想する僧侶が精神修行を通して変容するように、AI を徳のある存在にすることはできない。
真の問題は、何十億もの人々の意思決定を左右する AIシステムに組み込まれた価値観を誰が決定するのか、
システムが最終的にどのような道徳的伝統や前提を反映するのか」と提議した。

　人々は生産性向上のために AIを利用するが、それによって自分が認められ、理解されていると感じるようになりつつある。
この意味で、生成型 AIは実用性を超え、親密さへと移行し、かつては人間関係のためだけに存在していた感情的な領域にまで入り込んでいる。
特に若い世代のユーザーの間では、チャットボットが人生の指南役となった。
倫理、信仰といった問いを AI システムに求め多くが聖典、教義の解釈、道徳的な指針の探求にAIを利用している。

　宗教家、起業家が一堂に会して対策を協議した
2026年5月、宗教団体の指導者たちが一堂に会し、アンソロピックやオープンAIなどの企業代表とともに、
ニューヨークでの「信仰と AI 協定」円卓会議には北米ヒンズー寺院協会、バハイ国際共同体、シーク教連合、アメリカ・ギリシャ正教会大司教区、
モルモン教会（末日聖徒イエス・キリスト教会）など、さまざまな宗教団体の代表者が出席した。
末日聖徒イエス・キリスト教会は、「AI は神の霊感やそれを受けるために必要な個人の努力に取って代わることはできない。
しかし、AI は学習と教育を強化するための有用なツールとなり得る」と言う。
南部バプテスト連盟は、「AI やその他の新興技術がすでに教会やコミュニティに影響を与えた後に、単にその課題に対応するのではなく、
これらの新興技術に積極的に関与し、形作っていく必要がある」と言う。

　ＡＩに道徳と倫理をいかに関与させるかをテーマの円卓会議の前提は「AIモデルは既に人々の思考、人間関係、意思決定のあり方を形作っているため、
それらに組み込まれる価値観は技術的なプロセスだけで決定できるものではない。
それらは、長きにわたり人類社会を導いてきた道徳的伝統に根ざしていなければならない。
宗教的な教義を統治の枠組みに組み込むのではなく、人間の価値観と社会的責任が常にその中心となるようにすることが目標だ」とする。

　　　「評論集」へ戻る