Китай предлагает нормы для регулирования искусственного интеллекта, имитирующего людей
Власти Китая обнародовали проект директив, предназначенный для контроля над тем, как создаются и используются системы искусственного интеллекта, воспроизводящие человеческие взаимодействия. Эта рамка стремится обеспечить, чтобы компании, разрабатывающие эти технологии, действовали с большей прозрачностью и несли свою юридическую ответственность. Инициатива направлена на надзор за сектором, который развивается с огромной скоростью и оказывает глубокое социальное влияние. 🧠
Прозрачность и управление генерируемым контентом
Новые нормы обязывают поставщиков этих услуг гарантировать, чтобы все, что производит ИИ, было безопасным и соответствовало правовым принципам страны. Они должны четко маркировать контент, созданный машиной, чтобы пользователи могли отличить его от созданного людьми. Кроме того, компании обязаны внедрять системы, позволяющие пользователям сообщать о проблемах, и должны уметь отслеживать и управлять процессом производства и распространения информации.
Ключевые обязательства для поставщиков:- Обеспечивать соответствие контента закону и его безопасность перед публикацией.
- Видимо маркировать весь материал, сгенерированный искусственным интеллектом.
- Создавать каналы для сообщений пользователей о проблемном контенте.
Проект подчеркивает, что системы ИИ не могут ссылаться на незнание; их действия должны быть поддающимися аудиту и иметь identifiable ответственного.
Последствия для технологической отрасли
Эти предложения напрямую затронут компании, разрабатывающие виртуальных ассистентов, сложные чат-боты и любые платформы, эмулирующие человеческие диалоги. Компании будут обязаны оценивать безопасность своих продуктов перед выводом на рынок и получать соответствующие разрешения. Эта правовая рамка стремится сбалансировать инновационный импульс с необходимостью поддержания социальной гармонии, которая является фундаментальным столпом китайской технологической политики. Ожидается, что период публичных консультаций поможет доработать окончательный текст.
Области немедленного воздействия:- Разработка и запуск новых голосовых ассистентов и чат-ботов.
- Внутренние процессы компаний по оценке рисков и получению лицензий.
- Отношения между ускоренной инновацией и рамками государственного контроля.
Новый парадигма ответственности
С этими нормами в следующий раз, когда чат-бот выдаст неподобающий комментарий, он не сможет оправдаться тем, что просто выполнял приказы. У него будет история, связанная с его идентификатором, будь то имя или серийный номер. Это знаменует переход к модели, где отчетность за результаты и отчетность за ответственность идут рука об руку в мире ИИ. Сообщение ясно: в Китае технологии будут продвигаться вперед, но под надзором и с четко определенными пределами. ⚖️