教皇レオ14世は、武力紛争に応用される人工知能の危険性について直接的な警告を発した。ローマのラ・サピエンツァ大学訪問中、教皇は生死の決断を機械に委ねることは、人間の制御を失った殲滅の連鎖を招くと指摘した。また、欧州における軍事費の増加は教育や医療の削減を犠牲にして行われており、共通善を無視するエリート層に利益をもたらしていると非難した。
AI時代における技術的管理と人間の責任 🤖
教皇は、軍事用途と民生用途の両方において、AI開発に対するより厳格な規制枠組みを求めた。致命的なシステムの自動化は、人間を道徳的責任から免除すべきではないと強調した。民生分野では、採用から医療診断に至るまで、監督なしに意思決定を行うアルゴリズムについて警告した。教皇によれば、鍵となるのは人間をプロセスの中心に据え、テクノロジーが紛争を悪化させたり、不平等を深めたりするのを防ぐことである。
AIは爆撃の許可を求めないが、アップデートの許可は求める 💥
世界のリーダーたちがドローンに発射許可を求めるべきかどうか議論している間、ソフトウェアメーカーはすでに追加料金を伴う次のアップデートを計画している。教皇は軍事AIに歯止めをかけることを提案しているが、おそらく本当に必要なのは、機械が平和は儲からないと判断したときに作動するパニックボタンだろう。今のところ、止められないように見える唯一の人工知能は、クレジットカードでミサイルの請求をするものである。