Европейский союз планирует запретить чат-ботам имитировать эмоции или межличностные отношения при взаимодействии с любыми лицами младше 18 лет, поскольку блок пытается остановить развитие у детей эмоциональной зависимости от технологий.

Эти правила станут частью Закона о защите детей в ЕС (EU Kids Act), предложенного в четверг, который включает аналогичные ограничения на доступ несовершеннолетних к социальным сетям и платформам обмена видео.

Детям в возрасте до 13 лет будет запрещено пользоваться чат-ботами без присмотра опекунов, а цифровые платформы будут обязаны внедрить средства защиты детей в свои продукты под угрозой штрафов в размере до 6% от общего мирового оборота, согласно проекту документа, оказавшемуся в распоряжении WIRED.

Согласно новым правилам, чат-ботам, работающим в ЕС, также будет запрещено сохранять историю взаимодействий между отдельными сеансами связи, поскольку Комиссия опасается, что это может привести к накоплению системами конфиденциальных данных несовершеннолетних с течением времени и потенциальному закреплению вредных паттернов общения.

В предложенном законопроекте также отмечается, что поставщики онлайн-социальных сетей, видеоплатформ и игр не должны автоматически активировать или поощрять использование чат-ботов с ИИ на своих сервисах.

Это включает в себя запрет на закрепление компаньонов с ИИ и общих разговорных чат-ботов в верхней части списка контактов несовершеннолетнего, как это делалось, например, в Snapchat.

Предложение ограничивается компаньонами с ИИ и общими разговорными чат-ботами, которые, по мнению Комиссии, представляют серьезную угрозу для здоровья, безопасности и благополучия несовершеннолетних.

Симеон де Брауэр, политический советник брюссельской правозащитной организации European Digital Rights, приветствует меры в отношении чат-ботов, но заявляет WIRED: «Не имеет смысла ограничивать их только молодыми людьми».

«Разве мы все не заслуживаем защиты от ИИ, созданного для вызывания зависимости, от ИИ, который создает эмоциональные зависимости, или от функций ИИ, которые активируются и навязываются пользователям по умолчанию?»

В ЕС заявляют, что Закон о цифровой справедливости (Digital Fairness Act), который планируется представить позже в этом году, как ожидается, предложит более широкие меры против дизайна, вызывающего зависимость.

В документах, изученных WIRED, Европейская комиссия заявляет, что обеспокоена тем, что зависимость от чат-ботов может негативно повлиять на развитие ребенка и его отношения с другими людьми.

Она также выразила обеспокоенность тем, что чат-боты дают несовершеннолетним опасные советы, в том числе по вопросам психического здоровья и личностного развития, которые, по ее словам, могут формировать и поощрять рискованное поведение.

«Платформы играли в опасные игры с психическим здоровьем детей», — заявила президент Урсула фон дер Ляйен на пресс-конференции в четверг.

Около половины европейцев в возрасте от 11 до 25 лет обсуждали интимные или личные вопросы с чат-ботами на базе ИИ, согласно опросу Ipsos BVA, проведенному во Франции, Германии, Швеции и Ирландии.

И Австралия, и Великобритания пытаются ограничить доступ несовершеннолетних к чат-ботам посредством запретов на социальные сети.

В нем также подчеркивается вред дипфейков, создаваемых чат-ботами, на что фон дер Ляйен намекнула в среду в своей речи о положении дел в Союзе: «Мы не должны смиряться с тем, что фотографии девочек используются для создания сексуализированных изображений с помощью ИИ… Европа обладает силой действовать».

Хотя Закон ЕС об искусственном интеллекте требует маркировать синтетический контент как созданный с помощью ИИ с августа, в настоящее время эти правила распространяются только на дипфейки, созданные в коммерческих целях.

Комиссия также видит в цифровой отвлеченности причину снижения базовых навыков у молодежи.

Дети, которые говорят, что используют чат-боты с ИИ для учебы, показывают более низкие результаты тестов, чем те, кто их не использует, согласно исследованию Организации экономического сотрудничества и развития, охватившему 91 страну.

Обеспокоенность по поводу когнитивных последствий и утраты навыков «обнажает отсутствие учета прав детей при проектировании инструментов генеративного ИИ», написали исследователи из независимой сети EU Kids Online в своем отчете.