Решение NHS England удалить свое программное обеспечение с открытым исходным кодом из интернета вызвало бурные дебаты. Официальная причина — опасения, что такие модели искусственного интеллекта, как Mythos, могут использовать код для облегчения кибератак. Однако критики из сферы здравоохранения и технологий считают, что эта мера хоронит прозрачность и тормозит совместное совершенствование системы общественного здравоохранения Великобритании.
Затемнение кода не означает защиту системы 🔒
Безопасность программного обеспечения зависит не от его видимости, а от надежности его архитектуры и частоты обновлений. Сокрытие исходного кода, известное как безопасность через неясность, является спорной стратегией в компьютерной инженерии. Плохая конструкция останется уязвимой, даже если никто не видит ее внутренностей. Сообщество открытого исходного кода утверждает, что публичное рецензирование позволяет выявлять ошибки быстрее, чем внутренняя команда, особенно в условиях ограниченных ресурсов, как в общественном здравоохранении.
Решение: спрятать ключи под цифровым ковриком 🧹
Похоже, стратегия безопасности NHS подобна заклеиванию протечки скотчем в надежде, что дождь не узнает. Если ИИ может взломать исходный код, возможно, проблема не в том, что он видим, а в том, что он написан с прочностью карточного домика во время землетрясения. Тем временем разработчикам придется просить разрешения заказным письмом, чтобы исправить баг. Безусловно, инновационно.