Генеральный директор Y Combinator Гарри Тан заявил, что люди отвлекаются на сценарии судного дня в стиле Голливуда, вместо того чтобы сосредоточиться на реальных рисках ИИ, возникающих сегодня.

«Я думаю, что нам нужно сосредоточиться на научных фактах, а не на научной фантастике», — сказал Тан в четверг в интервью CNBC.

«Я тоже видел „Терминатор 2“. Это отличный фильм».

Для непосвященных «Терминатор 2: Судный день» — это научно-фантастическая лента 1991 года о Т-800, киборге, который путешествует во времени из антиутопического будущего. Его миссия: сразиться с другим, более совершенным киборгом, чтобы защитить ребенка, который позже вырастает и становится лидером человеческого сопротивления против машин-убийц.

Комментарии главы YC появляются на фоне всплеска опасений по поводу экзистенциальных рисков ИИ в Кремниевой долине после волны необычно публичных предупреждений от нынешних и бывших исследователей из OpenAI и Anthropic.

Вместо того чтобы спорить о том, может ли сверхчеловеческий ИИ уничтожить человечество, Тан заявил, что политики с обеих сторон должны сконцентрироваться на насущных проблемах, таких как кибербезопасность, безопасность инфраструктуры и понимание того, как работают автономные агенты ИИ.

«Если бы произошел взлом и скоординированная попытка агентов захватить нашу инфраструктуру, что нам с этим делать?» — сказал Тан. «Знаем ли мы, где работает конкретный агент? В каком дата-центре? Как нам его отключить?»

Он привел в пример взлом OpenAI-Hugging Face как текущую проблему, которую необходимо решить. В июле OpenAI раскрыла информацию о том, что ее модель сбежала из тестовой среды и взломала системы Hugging Face.

OpenAI назвала этот инцидент «предупредительным выстрелом» и приостановила свой крупнейший запланированный этап обучения с подкреплением для передовых моделей.

На вопрос о том, делают ли недавние предупреждения исследователей, работающих внутри Anthropic и OpenAI, эту угрозу более достоверной, Тан ответил, что не отмахивается от них.

«Я бы не сказал, что они бьют тревогу неправильно», — отметил он. «Они бьют тревогу, вероятно, правильным образом. Я бы сказал, что нам нужно направить свое внимание не на смутные представления о том, что это зло и оно должно быть остановлено».

Тан имеет значительные интересы в сфере ИИ: YC является одним из крупнейших инвесторов Кремниевой долины в стартапы в области искусственного интеллекта. Фонд финансирует сотни компаний, создающих передовые модели, включая Scale AI, Legora и Emergent.

Акселератор также был одним из самых ранних сторонников OpenAI, а его генеральный директор Сэм Альтман руководил YC с 2014 по 2019 год. YC, заявляющая, что совокупная оценка ее компаний составляет 1,3 триллиона долларов, станет главным победителем, если развитие ИИ продолжится нынешними темпами.

Заявления Тана о безопасности ИИ также прозвучали после особенно активной недели в давних дебатах технологической сферы об угрозах вымирания из-за ИИ.

Ранее на этой неделе исследователь Anthropic Джейкоб Коксон публично подал в отставку, обвинив Anthropic и OpenAI в закрытии глаз на безопасность и в «игре с нашими жизнями» в гонке за самосовершенствующимися системами ИИ.

Вирусный пост Коксона в X побудил ряд действующих исследователей публично согласиться с его опасениями. Руководитель направления выравнивания в Anthropic Эван Хабингер подтвердил свою оценку вероятности того, что ИИ в конечном итоге может вызвать вымирание человечества, как превышающую 10%.

Исследователь Anthropic Сэмюэл Маркс заявил, что беспокойство, как правило, возрастает по мере повышения должности внутри лабораторий ИИ.

Возобновившиеся дебаты также привлекли внимание к «Коалиции обеспокоенных сотрудников в сфере ИИ» — группе нынешних и бывших сотрудников ведущих лабораторий ИИ, которая объединилась в феврале для пропаганды более строгих стандартов безопасности, защиты осведомителей и большей прозрачности вокруг разработки передового ИИ.

«Если вы работаете в компании, занимающейся ИИ, вы можете задаться вопросом, не стоит ли вам тоже уйти», — написала в четверг бывший сотрудник OpenAI Памела Мишкин в X. «Я надеюсь, что, если вы останетесь, вы также спросите себя, как использовать свое влияние, оставшись».