Университет штата Вашингтон разработал Guided Interaction — приложение с искусственным интеллектом, которое помогает полиции во время звонков о домашнем насилии. Инструмент напоминает, о чем спрашивать, что документировать и какие законы применять, стремясь уменьшить количество ошибок в ситуациях высокого напряжения. Однако это технологическое решение вызывает вопросы о его истинном предназначении.
Как работает приложение, оцифровывающее полицейский протокол 📱
Guided Interaction разворачивает последовательные шаги в мобильном интерфейсе, направляя сотрудника от оценки риска до составления отчета. ИИ обрабатывает данные с места происшествия и предлагает юридические действия в реальном времени. Но система зависит от внешних серверов для хранения конфиденциальной информации жертв, что является очевидным риском кибербезопасности. Кроме того, общие инструкции не улавливают эмоциональную сложность каждого случая.
Полицейский с телефоном: теперь эмпатию обеспечивает Siri 🤖
Скоро вы увидите сотрудника, пристально смотрящего в экран, пока вы, жертва, ждете человеческого взгляда. Приложение напомнит вам дышать, но полицейский будет слишком занят, следуя цифровому чек-листу. Скупой платит дважды: вместо того чтобы обучать сотрудников чуткости, мы даем им эмоциональный GPS. Так что, когда система даст сбой, у нас будет красивое приложение, на которое можно свалить вину.