Папа Лев XIV выступил с прямым предупреждением о рисках применения искусственного интеллекта в военных конфликтах. Во время своего визита в Римский университет Ла Сапиенца понтифик отметил, что делегирование решений о жизни и смерти машинам ведет к спирали уничтожения без человеческого контроля. Он также осудил, что рост военных расходов в Европе происходит за счет сокращения финансирования образования и здравоохранения, принося выгоду элитам, игнорирующим общее благо.
Технический контроль и человеческая ответственность в эпоху ИИ 🤖
Папа призвал к созданию более строгой нормативной базы для развития ИИ как в военных, так и в гражданских целях. Он подчеркнул, что автоматизация летальных систем не должна освобождать людей от моральной ответственности. В гражданской сфере он предупредил об алгоритмах, принимающих решения без надзора — от найма до медицинских диагнозов. Ключевым, по мнению понтифика, является сохранение человека в центре процесса, не допуская, чтобы технология усугубляла конфликты или углубляла неравенство.
ИИ не спрашивает разрешения на бомбардировку, но просит на обновление 💥
Пока мировые лидеры спорят, должен ли дрон запрашивать разрешение на выстрел, производители программного обеспечения уже планируют следующее обновление с дополнительной платой. Папа предлагает обуздать военный ИИ, хотя, возможно, нам нужна кнопка паники, которая сработает, когда машина решит, что мир нерентабелен. Пока единственный искусственный интеллект, который кажется неудержимым, — это тот, что выставляет счета за ракеты по кредитной карте.