Muse от Meta — это, по всей видимости, эффективный искусственный интеллект-помощник, но при этом немного жутковатый. Отчасти это связано с его новым приложением для Mac, которое может получать доступ к Сообщениям, Календарю и Заметкам.

Но при всей своей умности Muse на самом деле не умеет описывать сам себя. Джейсон Атен (Jason Aten), пишущий редактор в журнале Inc Magazine, опубликовал на Threads скриншоты своего диалога с Muse, в котором ассистент задает ему несколько вопросов о беседе, происходившей в Сообщениях.

Проблема заключается в том, что, по словам Атена, он не давал Muse доступ к своим сообщениям. На вопрос о том, откуда ИИ узнал содержимое его сообщений, Muse ответил: «Я видел предварительный просмотр уведомлений, а не историю ваших сообщений. Я не читал ваши тексты».

Атен продолжил настаивать и спросил, каким образом Muse получает предварительный просмотр сообщений, но внятного ответа не получил. «Честный ответ: я не могу назвать вам точное устройство, — заявил ассистент. — Что я знаю, так это то, что спаренное приложение для Mac предоставляет уведомления в качестве одной из своих возможностей, и они поступают ко мне через синхронизацию устройств».

Дэвид Синглтон (David Singleton) из Meta Superintelligence Labs подключился к обсуждению под постом, чтобы попытаться все объяснить. Сначала он перечислил все разрешения, необходимые Muse для чтения сообщений, включая предоставление приложения для Mac полного доступа к диску. Он подчеркнул, что эти функции являются необязательными и активируются по желанию.

Более интересная часть появляется ближе к концу ветки, где Синглтон говорит, что Muse «не следит за уведомлениями на вашем Mac, а скорее синхронизирует данные из Сообщений только после того, как пользователь специально разрешил доступ». Он предполагает, что проблема заключается вовсе не в том, что Muse несанкционированно читает тексты Атена, а просто в том, что Muse понятия не имеет, о чем говорит.

В разговоре с Muse на скриншотах Джейсона, когда Muse заявил, что синхронизирует «уведомления устройства», он запутался в том, как именно объяснить эту функцию, и дал неверное объяснение. «Это наша вина. Мы приносим извинения за некорректный ответ Muse и работаем над тем, чтобы улучшить понимание Muse своих собственных внутренних процессов, чтобы он более последовательно давал правильные ответы на вопросы о том, как он функционирует».

Это может не слишком успокаивать, но в то же время отчасти имеет смысл. Мы уже знаем, что чат-боты не станут раскрывать свои секреты, а вместо этого скажут вам то, что вы хотите услышать.