Генеральный директор Meta Марк Цукерберг поделился своим видением безопасности искусственного интеллекта во вторник, заняв позицию, которая больше похожа на точку зрения генерального директора Nvidia Дженсена Хуанга, чем на мнение главы Anthropic Дарио Амодеи.

Цукерберг заявил в посте на X и в других социальных сетях, что он считает, что ИИ-лаборатории, которые не «сосредоточатся на выравнивании, останутся позади». Он имел в виду ту работу, которую разработчики проводят для обеспечения соответствия технологий человеческим ценностям.

Тема безопасности ИИ оказалась в центре внимания за последние несколько дней после того, как Амодеи опубликовал в минувшие выходные эссе, в котором призвал технологическую индустрию «замедлить темпы совершенствования возможностей моделей ИИ». Эту идею позже поддержал Альтман, а президент США Дональд критиковал.

«Существует много споров о замедлении прогресса в возможностях до тех пор, пока выравнивание не догонит их», — сказал Цукерберг. «Мое мнение заключается в том, что доверие и выравнивание быстро становятся важнейшими возможностями, которые будут дифференцировать агенты и модели».

Поскольку лаборатории ИИ рискуют столкнуться со «значительной ответственностью, если их модели причинят вред», Цукерберг считает, что компании стимулируются предотвращать потенциальные проблемы. Он придерживается рыночного взгляда на эту тему, который совпадает с публичными комментариями Хуанга в тот же день.

Цукерберг сообщил, что Meta «отложила выпуск» своих технологий искусственного интеллекта Muse по «соображениям безопасности» по собственной воле. «Мы просто сделали это в рамках нашей повседневной работы, потому что это было явно правильно для людей и для нас», — сказал Цукерберг.

Выступая на ежегодной конференции Salesforce Dreamforce, Хуанг заявил генеральному директору Salesforce Марку Бениоффу, что создатели моделей ИИ должны нести ответственность за свои продукты, вместо того чтобы добиваться правительственного регулирования со стороны законодателей, призванного ограничить потенциальный вред и риски, о чем ранее говорил Амодеи.

Хуанг подтвердил свою точку зрения в интервью программе CNBC «Mad Money», охарактеризовав подобные законы и правила, связанные с ИИ, как «просто совершенно ненужные». «У нас достаточно законов. У нас достаточно регулирующих норм, которые управляют надежностью и функциональностью продуктов», — сказал Хуанг.

Амодеи также выступил на Dreamforce и подкрепил свое убеждение в том, что замедление темпов разработки моделей представляет собой «способ вести индустрию вперед, подавать пример, говорить, что каждый всегда может стать лучше».

Позже в тот же день на конференции Dreamforce Альтман присоединился к Бениоффу для беседы у камина и обсудил свое мнение о том, что безопасность и мониторинг должны иметь приоритет над функциями, когда речь заходит о разработке ИИ. Он также признал общее чувство страха в компаниях по поводу того, что они могут не сделать этого из-за конкурентного давления.

«Я думаю, что это здорово для нашей индустрии — заявить, что мы хотим объединиться, координировать действия и убедиться, что у нас достаточно времени для безопасного выполнения этой задачи», — сказал Альтман. «Но когда есть хоть какой-то намек на то, что из-за коммерческого давления и гонки какая-то компания или между странами некоторые страны могут поступить неправильно, я думаю, именно тогда люди начинают очень сильно бояться».

«Я думаю, что это здорово для нашей индустрии — заявить, что мы хотим объединиться...» — добавил он.