Высшее командование, собравшееся в Шангри-Ла, выпустило джинна из бутылки: искусственный интеллект опаснее ядерного оружия. Пока бомбе нужен человеческий приказ, алгоритм может принять решение о бомбардировке за миллисекунды. Проблема не в машине, а в тех, кто спускает её с поводка. Добро пожаловать в будущее, которое мы предсказывали годами, где ошибка датчика может разжечь войну.
Дроны, принимающие решения самостоятельно, генералы, смотрящие в другую сторону 🤖
Правительства тайно финансируют роботизированные армии и автономные дроны, способные выбирать цели без вмешательства человека. Технология уже позволяет алгоритму идентифицировать цели, оценивать угрозы и выполнять атаки за доли секунды. Тем временем на международных саммитах обсуждают этические нормы, которые никто не собирается соблюдать. Цифровая гонка вооружений продвигается быстрее любого договора о контроле. Реальная опасность не в том, что ИИ сойдет с ума, а в том, что он будет слишком хорошо работать на своих создателей.
Человеческий контроль: китайская сказка военного саммита 🎭
Генералы говорят о том, чтобы поставить ИИ человеческий тормоз, как будто ставят тренировочные колесики на гоночный мотоцикл. Звучит красиво в речах, но в лабораториях главное — чтобы дрону не приходилось спрашивать разрешения. В конце концов, если алгоритм ошибется, всегда можно обвинить программиста или шпиона, который слил данные. Тем временем военные роботы продолжают учиться убивать, пока им никто ничего не говорит. Мир и любовь, но с умными ракетами.