Вы видели новости? Все сходят с ума по поводу искусственного интеллекта, который, судя по всему, с высокой долей вероятности уничтожит всех на планете, как только достигнет суперинтеллекта… по крайней мере, так утверждают некоторые технари, у которых могут быть свои причины для раздувания массовой паники.

Это медиабезумие вызвало негативную реакцию у ряда людей, включая Илона Маска, которые заявляют, что сторонники концепции апокалипсиса ИИ участвуют в «спецоперации» — иными словами, они используют неподлинные методы для искусственного создания несуществующей полемики вокруг ИИ. Сторонники теории спецоперации указывают на высокую степень координации среди паникеров, хотя они упускают из виду менее конспирологические объяснения того, почему политики и репортеры продвигают их заявления.

Вы читаете Free Media от Робби Соаве и Reason. Получайте больше материалов Робби, посвященных СМИ, дезинформации и свободе слова. Электронная почта. Это поле предназначено для проверки и должно оставаться без изменений. Электронная почта (обязательно).

Бывший сотрудник Anthropic Джейкоб Коксон спровоцировал этот кризис ранее на этой неделе, когда объявил об уходе из компании из-за собственных опасений, что Anthropic и OpenAI, где он работал ранее, стремительно движутся к суперинтеллекту без достаточной заботы о том, как продвинутый ИИ может угрожать человечеству. Его мысли в X стали невероятно вирусными и широко распространялись другими технарями, политиками и комментаторами.

Можно было бы ожидать, что Anthropic выступит с опровержением его заявления, но один из сотрудников, Эван Хубингер, фактически поддержал опасения Коксона. «Мы действительно искренне верим, что ИИ может убить всех людей! — написал он. — Лично я считаю, что вероятность этого составляет >10% в течение следующего десятилетия».

Вероятность какого-либо события более 10 процентов является значительной. Я думаю, большинство людей не хотели бы, чтобы компании, занимающиеся разработкой ИИ, продолжали свои планы, если риск глобального вымирания действительно столь велик.

Обратите внимание, что Хубингер также явно отвергает мнение о том, что это «маркетинговый трюк», обвинение, которое часто выдвигается против сторонников апокалипсиса ИИ: а именно, что они пытаются подогреть интерес к продукту, заставляя его звучать опасно круто, что поможет повысить его привлекательность и, в конечном итоге, ценность.

Тем не менее, это все равно может быть маркетинговым трюком! Существует примерно 10-процентная вероятность того, что наш потрясающий продукт сойдет с ума — разве это не удивительно и не страшно? — действительно звучит скорее как маркетинговый трюк, чем как трезвый и научно обоснованный анализ вероятности того, что суперинтеллект приведет к катастрофе.

Как была получена цифра в 10 процентов? Оценивали ли они шансы суперинтеллекта спасти миллионы жизней? Или противодействовать вредоносному ИИ иностранного противника? Если люди, работающие над этими системами, действительно думают, что они опасны, они несут ответственность за то, чтобы быть более конкретными в отношении тех угроз, с которыми мы можем столкнуться.

Однако туманных предсказаний о технологическом конце света более чем достаточно, чтобы заставить общественность сильно испугаться. Пост Коксона был повсеместно распространен, и его быстро вызвали на кабельные новостные шоу. В газетах и журналах появились авторские колонки.

Регуляторы сигнализировали о своей готовности действовать. Сама Anthropic, казалось, была готова к новостному блицу и выпустила заявления с просьбой к федеральному правительству сделать что-то, чтобы ограничить не только ее собственный ИИ, но и ИИ ее конкурентов.

Такое поведение не ново в мире технологий. Meta, например, регулярно выступает с публичными заявлениями в поддержку более жесткого регулирования компаний, управляющих социальными сетями; в прошлые годы критиков утверждали, что поддерживаемое ими законодательство может в конечном итоге помочь продуктам Meta, закрепив за Facebook и Instagram позиции лидеров рынка.

Совсем недавно, после решения Meta урегулировать различные судебные процессы на миллиарды рублей (доллары в оригинале), компания заявила, что полностью поддерживает защиту детей, требуемую правительством, до тех пор, пока правительство также обуздает YouTube и TikTok.

Но даже если решение Anthropic объединить усилия с паникерами вокруг ИИ цинично и эгоистично, это все же не «спецоперация» или сложный заговор с целью обмануть американский народ, заставив его поддержать усиление регулирования — в чем также обвиняют критиков позиции паникеров.

Правда в том, что ни политикам, ни основным средствам массовой информации не нужно много поводов, чтобы поддаться шаблонному антитехнологическому мышлению: они по умолчанию стремятся предотвратить предполагаемый вред. И СМИ, и правительство предвзято относятся к действиям: кто-то должен что-то сделать. И ИИ — это нечто масштабное.

Все мы выросли на научно-фантастических историях, в которых предсказывалось, что роботы-убийцы попытаются захватить мир: «Терминатор», «Матрица», «Дюна», «Звездный крейсер «Галактика» и так далее. Легко понять, почему броские заголовки, предупреждающие, что инсайдеры технологической сферы не без основания верят в то, что вышедший из-под контроля ИИ всего через несколько лет уничтожит человечество, будут продавать много газет.

Точно так же ни один политик не хочет выглядеть недостаточно внимательным к этой проблеме. Даже сенатор Тед Круз (республиканец от штата Техас), относительно протехнологический политический деятель, предварил свои недавние высказывания об ИИ заявлением о своем двухпартийном подходе «что-то нужно делать» к технологическому законодательству.

Поэтому неудивительно, что мир политических комментариев покупает то, что продает этот бывший информатор Anthropic. Меньше всего в этих дебатах проиТеру-стороне нужно поддаваться паранойе, которая широко характеризует противоположную сторону паникеров. Это не спецоперация, это ошибка.