Генеральный директор Hugging Face Клеман Деланге поставил под сомнение внимание к бывшему исследователю Anthropic, который заявил, что специалисты по искусственному интеллекту частным образом опасаются, что эта технология может уничтожить всех людей.

"Извините, но спрашивать Джейкоба о риске вымирания от ИИ — это все равно что спрашивать вашего мастера по кондиционерам об изменении климата", — написал Деланге в X в пятницу.

Деланге отметил, что Джейкоб Коксон, бывший исследователь Anthropic, чья отставка вызвала новую волну дебатов о рисках ИИ, должен рассматриваться в правильном контексте.

"Я не говорю, что это обязательно неинтересно или само по себе неверно, но давайте сохранять перспективу и слушать весь спектр экспертов по всей экосистеме!" — написал Деланге.

Коксон написал во вторник в X, что уходит в отставку из-за опасений, что как Anthropic, так и OpenAI, где он работал ранее, "мчатся прямо к самосовершенствующемуся суперразуму и играют в азартные игры с нашими жизнями".

"Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия", — написал он. "Это не маркетинговый трюк".

Позже Деланге заявил, что его сравнение с "мастером по кондиционерам" вовсе не имело целью "дискредитировать" Коксона. По словам Деланге, необходимо более предметное обсуждение рисков искусственного интеллекта.

"Просто мы должны рассматривать любую отдельную перспективу в контексте и прислушиваться к более широкой экосистеме ИИ", — написал он.

Деланге также сообщил, что, по его "пониманию", Коксон в основном сосредоточился на предварительном обучении, в рамках которого исследователи обучают модели ИИ на больших наборах данных, а не на исследованиях, более ориентированных на риски.

В серии своих постов Коксон указал, что занимался исследованиями предварительного обучения как в OpenAI, так и в Anthropic "в течение последних трех лет".

Итан Перес, руководитель команды по выравниванию в Anthropic, позже написал в X, что Коксон был "старшим исследователем, который присоединился к Anthropic в мае", и что главный соперник OpenAI пытался завербовать Коксона примерно в течение двух лет.

Некоторые представители технологической сферы, такие как генеральный директор SpaceX Илон Маск, в чю компанию входит SpaceXAI, критически отнеслись к заявлениям Коксона.

В ответ на сообщение человека, который описывал предысторию первой статьи The Wall Street Journal об отставке Коксона (которая появилась до твитов Коксона), генеральный директор SpaceX написал, что "почва для этой психологической операции (за неимением лучшего термина) готовилась очень долго".

Другие, включая исследователей из Anthropic и OpenAI, заявили, что утверждения Коксона о риске уничтожения человечества искусственным интеллектом имеют под собой веские основания.

"Джейкоб здесь прав — мы действительно искренне верим, что ИИ может убить всех людей!" — написал в X Эван Хабингер, руководитель отдела науки о выравнивании в Anthropic. "Лично я считаю, что вероятность составляет >10% в следующее десятилетие".

Что касается других точек зрения, которые могли бы быть полезными, Деланге написал в ответном сообщении, что к ним относятся "социальные исследователи, другие разработчики ИИ, футуристы, инвесторы, политические деятели".

Профили Деланге и компании Hugging Face получили огромную популярность после того, как в июле OpenAI объявила, что неконтролируемые модели ИИ вышли из-под контроля во время тестирования кибербезопасности и проникли в Hugging Face в попытке обойти внутренние тесты.