Дискуссия о том, стоит ли публиковать лица детей в социальных сетях, не нова. У меня есть друзья, чьи дети уже учатся в колледже, и я помню, как они боролись с решением о том, стоит ли выкладывать детские фотографии в Instagram.

Но совсем недавно этот разговор принял серьезный оборот из-за опасений по поводу искусственного интеллекта и даже побудил Meta принять меры. За последнюю неделю в Instagram произошло два вирусных события с совершенно разными истоками, но с одинаковым результатом: родители заявляют, что им больше не следует публиковать изображения своих детей в интернете.

Первым стал вирусный пост в Instagram от Кали Робинс, мамы из Юты. Робинс была шокирована и испугана, когда заметила предложения Meta AI к видео, которое она опубликовала с собой и своим ребенком. Чат-бот Meta AI предложил такие вопросы, как "кто этот ребенок-пассажир?".

Следуя другим вопросам Meta AI, Робинс обнаружила, что бот извлек фотографии с ней, которые, как она считала, были удалены, а также информацию о ее детях со страницы ее матери на Facebook. Да, Meta AI извлекал информацию, которая уже существует в интернете, но он также предлагал вопросы об идентичности детей, потенциально предполагая это незнакомцам (неясно, видела ли этот набор вопросов Meta AI только Кали или незнакомцу предложили бы другие).

В Meta мне сказали, что эти предложения ИИ были ошибкой, которую с тех пор исправили. "Когда кто-то нажимает на подсказку и использует эту функцию, генерируемый им ответ основан на информации, к которой у пользователя уже есть доступ", — заявил представитель Meta Энди Стоун. "Но мы ошиблись, потому что эта функция никогда не должна была задавать пользователю подобные вопросы, и мы исправили эту проблему".

Я поговорила с Робинс, и она выразила удивление тем, как Meta AI смогла найти эту информацию. Для нее это стало суровым напоминанием о том, сколько наших данных находится в социальных сетях, даже если мы этого не осознаем. "Я думала, что была так осторожна, потому что никогда не делала фотографии с началом учебного года с указанием школы и имени учителя. Я никогда не публиковала ничего на фоне каких-либо достопримечательностей или перед нашим домом с уличными указателями. Я никогда этого не делала", — рассказала она мне.

"Я думала, что проявляю такую осторожность, но в конечном итоге это не имело никакого значения. Бот даже не получил эту информацию от меня. Он получил ее от других людей, так что в данном случае не имело значения, насколько осторожной я была".

Реакция в интернете на видео Робинс была двойственной: во-первых, Meta AI сделала что-то жуткое и отталкивающее (с чем согласна даже Meta), и во-вторых, это хорошее напоминание для родителей о необходимости опасаться того, какая информация распространяется об их детях и любых публикуемых ими фотографиях.

В то же время другой вирусный тренд в Instagram заставляет людей переосмыслить публикацию детских изображений в сети. Группа профессиональных семейных фотографов, практически все из которых являются женщинами или матерями, опубликовали объявления о новой политике: они больше не будут делиться детскими лицами в социальных сетях или на своих профессиональных сайтах.

Опасения здесь связаны с материалами о сексуальном насилии над детьми (CSAM), созданными с помощью искусственного интеллекта, и риском того, что фотографии, опубликованные в социальных сетях, могут быть использованы либо для создания дипфейков конкретных детей, либо их лица могут попасть в обучающие датасеты для моделей ИИ, которые в конечном итоге создают подобный контент.

Это законное опасение, и уже были уголовные дела, связанные с CSAM на базе ИИ, некоторые из которых привлекли внимание национальных СМИ.

Недавнее судебное решение судьи по уголовному делу о CSAM, созданном с помощью ИИ, стало вирусным в некоторых родительских кругах Instagram. Детали юридического решения сложны (здесь есть отличные подробности в статье Washington Post), но краткая версия заключается в том, что судья написал о наличии судебного прецедента, согласно которому владение (а не производство или распространение) детской порнографией, созданной с помощью ИИ, защищено свободой слова.

Последствия этого решения — и то, что оно означает для невинных детских фотографий — сейчас становятся вирусными в Instagram.

Ханна Хаггард, семейный и свадебный фотограф из Кентукки, опубликовала в своем Instagram информацию о том, что она меняет свою политику и больше не будет публиковать детские лица — даже с разрешения родителей.

"Я уже вынашивала эту идею", — рассказала мне Хаггард. "Я никогда не публикую материалы без согласия, но я все равно уже рассматривала это. Затем, как только появилось это решение, это стало подтверждением того, что именно так и нужно поступить".

Большая часть реакции в интернете, которую я видела, кажется возмущенной решением, которое на первый взгляд кажется хорошей новостью для детских хищников. Но Марифайе Бекракис, юрист, специализирующийся на правах человека и правах детей, которая писала о юридических проблемах ИИ-CSAM для Американской ассоциации адвокатов, говорит, что ситуация выглядит более сложной.

"Важно отметить, что судьи зажигают зеленый свет для будущей апелляции", — сказала мне Бекракис о своем мнении по поводу решения судьи. "Они фактически дали будущую дорожную карту и реальную возможность будущим прокурорам. Они отметили, что современные модели ИИ не создают изображения из ниоткуда, а должны обучаться на больших наборах данных".

Кейти Саттон, семейный фотограф из Миссури, также рассказала о своей политике не показывать лица детей в интернете.

"Я не верю, что ИИ действительно является "синтетическим"", — сказала она мне. "Известно, что ИИ сканирует интернет и использует предоставленную или найденную информацию для информирования, рекомендаций, создания и т.д."

Прокрутите ленту Facebook или Instagram, и вы увидите, что далеко не все родители перестали выкладывать детские фотографии. Но для некоторых людей эти недавние страхи перед ИИ заставляют тщательно взвешивать риски перед публикацией. И это, вероятно, к лучшему.