Агентство NHS England приняло решение изменить свою политику прозрачности программного обеспечения. Причиной стала растущая обеспокоенность по поводу безопасности искусственного интеллекта. По данным внутренних источников, появление моделей, способных взламывать системы, таких как так называемый Mythos, привело к сокрытию и ограничению доступа к части кода, разработанного на государственные средства, для защиты критически важной инфраструктуры.
Дилемма открытого исходного кода перед лицом цифровой безопасности 🔒
Первоначальные правила требовали, чтобы всё программное обеспечение, финансируемое за государственный счет, было общедоступным. Однако появление Mythos изменило ситуацию. Эта модель ИИ способна с высокой эффективностью эксплуатировать уязвимости в операционных системах и базах данных. Сохранение открытого кода облегчало работу потенциальным злоумышленникам. Решение NHS England направлено на то, чтобы закрыть эту дверь, ставя безопасность данных пациентов выше полной прозрачности.
Mythos: ИИ, который свел с ума бюрократов 🤖
Оказывается, решение, чтобы не дать злому ИИ использовать наш код, — это... спрятать его под цифровой ковер. Потому что все мы знаем, что продвинутые системы не могут читать файлы с ограниченными правами доступа, верно? Тем временем разработчики молятся, чтобы Mythos не сделал резервную копию до изменения политики. В конце концов, лучшая защита от хакера с ИИ — это брандмауэр слепого доверия.