Компания Meta заявляет, что вносит изменения в подсказки, предлагаемые ее ИИ-чат-ботом, после того как вирусное видео показало, как бот выискивает личную информацию о маленьких дочерях одной из пользовательниц, о чем ранее сообщал Futurism. В заявлении для The Verge официальный представитель Meta Дина Эль-Касабби сообщила, что компания «села в лужу» (дословно: «упустила цель»), добавив, что «эта функция никогда не должна была предлагать пользователю подобные вопросы».

На прошлой неделе пользовательница Instagram Кали Робинс опубликовала видео, в котором рассказала, как Meta AI выдал ей навязчивую подсказку после кросс-постинга клипа в Facebook. Под видео, где она и ее ребенок поют в машине, появилась подсказка ИИ: «Кто этот ребенок-пассажир?»

Когда она выбрала эту подсказку, по словам Робинс, Meta AI собрал воедино информацию о ее дочерях из ее предыдущих публикаций, а также из постов ее родственников. Бот предложил дополнительные подсказки с вопросами о возрасте детей и о том, где Робинс живет со своей семьей.

Робинс утверждает, что Meta AI также показал фотографии ее дочерей, опубликованные на платформе, в том числе ту, которую, по ее словам, она удалила много лет назад. Meta встроила своего ИИ-ассистента в Facebook, Instagram, WhatsApp и Messenger, где он может отвечать на вопросы, писать посты и генерировать изображения.

В июле компания убрала функцию, которая позволяла людям создавать ИИ-дипфейки других пользователей Instagram, после того как столкнулась с жесткой критикой. Представитель Meta Эль-Касабби теперь заявляет, что компания исправила проблему, из-за которой Meta AI предлагал подсказки, связанные с личными темами.

«Мы создали эту функцию, чтобы помочь людям получать больше информации о темах или публикациях, которые их интересуют», — говорит Эль-Касабби. «Когда кто-то нажимает на подсказку и использует эту функцию, генерируемый ответ основан на информации, к которой у пользователя уже есть доступ».

В данном случае Meta AI мог задействовать видео, на которых Робинс называла своих детей, согласно информации от Эль-Касабби.