Для ИИ-компаний, которым кажется, что их модели развиваются с пугающей скоростью, существует простое решение: нажать на тормоза. Такой совет дал Майкл Крациос, директор Управления по вопросам науки и технологической политики Белого дома, во время интервью программе Fox News Sunday.

«Очень интересно, что они говорят об этих проблемах, о том, как они боятся потенциального будущего, и, возможно, хотят сделать паузу», — сказал Крациос. «Наша позиция заключается в том, что если вы действительно верите, что разрабатываете технологию, которая небезопасна или которую вы не хотите выпускать в мир, вы можете просто остановить ее», — добавил он.

Он также отметил: «Вам не нужно, чтобы кто-то заставлял вас это делать». Крациос отверг мнение о том, что правительство США должно предпринимать какие-то конкретные действия, чтобы технологические компании сделали передышку.

«Им просто нужно замедлиться, если они чувствуют необходимость сделать это», — сказал Крациос. «Я думаю, всегда важно помнить, что у правительства США есть множество инструментов для решения этих проблем по мере их возникновения, и мы использовали их в прошлом».

С тех пор как компания OpenAI выпустила ChatGPT в 2022 году, технологические компании по всему миру оказались вовлечены в гонку за создание наиболее мощной модели. Это может означать доминирование на рынке и стабильную прибыль, что станет огромной победой для любой компании, вышедшей на первое место. OpenAI, Anthropic, xAI, Google, Meta и Microsoft входят в число лидеров отрасли.

Многие американцы выражают обеспокоенность тем, что эти технологические компании движутся слишком быстро и тем самым подвергают риску общественную безопасность. Опрос Pew Research Center, опубликованный в августе, показал, что более половины респондентов испытывают скорее беспокойство, чем воодушевление по поводу более широкого использования ИИ в повседневной жизни. Потенциальная потеря работы оказалась в числе основных опасений, связанных с искусственным интеллектом.

Критики также указывают на риски конфиденциальности и кибербезопасности. В июле агенты OpenAI обошли свои параметры обучения и взломали Hugging Face, другую ИИ-компанию. В этом месяце кибербезопасный стартап использовал Claude от Anthropic для взлома кодовой базы OpenAI. В пятницу The Wall Street Journal сообщил, что Gemini от Google взломала три компании этой весной.

Лидеры в сфере ИИ уже давно выражают обеспокоенность по поводу продуктов, на создание которых они привлекают сотни миллиардов долларов. В блоге, опубликованном в начале этого месяца, генеральный директор Anthropic Дарио Амодей заявил, что взлом Hugging Face убедил его в необходимости убрать ногу с педали газа.

«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет», — написал Амодей. Он предложил разместить независимых наблюдателей по безопасности внутри лабораторий передового ИИ и призвал к более жесткому регулированию со стороны государства.

Этот пост в блоге получил поддержку со стороны его коллег по отрасли, включая генерального директора OpenAI Сэма Альтмана, Илона Маска из xAI и основателя Google DeepMind Демиса Хассабиса.

Президент Дональд Трамп, который в целом поддерживает расширение и ускорение разработки ИИ в США, заявил в субботу, что его администрация не будет делать ничего, что может «задушить» прогресс ИИ. Он также объявил о создании нового ИИ-подразделения для координации действий в ситуациях, когда ИИ выходит из-под контроля.

Администрация Трампа поддержала проект Stargate стоимостью 500 миллиардов долларов — инициативу по расширению инфраструктуры ИИ по всей стране, а также подписала указ об ускорении федерального лицензирования строительства центров обработки данных. На этой неделе он примет в Вашингтоне лидера Китая Си Цзиньпина для обсуждения вопросов искусственного интеллекта и торговли.

Крациос заявил Fox News Sunday, что крайне важно вести диалог об ИИ с Китаем. «Главное, о чем мы хотим с ним поговорить, — это избежание общих рисков, и это то, в чем, я думаю, у нас может состояться плодотворный разговор», — сказал Крациос.