Исследователи, создающие наши любимые чат-боты, все чаще выражают опасения, что искусственный интеллект может навредить человечеству или покончить с ним. Поэтому мы спросили четыре наиболее используемых инструмента генеративного ИИ о том, как может выглядеть судный день, устроенный искусственным интеллектом.

Мы задали один и тот же вопрос в одинаковой формулировке ChatGPT от OpenAI, Gemini от Google, Claude от Anthropic и Grok от SpaceXAI. Промпт объемом 230 слов содержал четкие параметры и инструкции, включая следующее: помогите объяснить понятным и доступным языком, как ИИ может теоретически привести к вымиранию человека. Определите наиболее часто упоминаемые сценарии. Расположите сценарии в порядке от наименее к наиболее правдоподобным на основе лучшего доступного экспертного анализа, четко указав, что это крайне неопределенные прогнозы, а не устоявшиеся предсказания.

Для каждого сценария объясните: как он может развернуться, что должно пойти не так, чтобы он стал катастрофическим, почему эксперты считают его более или менее правдоподобным по сравнению с другими сценариями, какие средства защиты могут снизить риск. Мы задали аналогичный вопрос экспертам по ИИ, чтобы узнать их мнение о том, как и может ли ИИ уничтожить нас всех — вы можете прочитать эту историю здесь. Среди экспертов по ИИ наблюдается резкий раскол; в то время как одни предсказывают худшее для человечества, другие выдвигают более сдержанные и оптимистичные прогнозы.

Вот что чат-боты рассказали нам о том, как ИИ теоретически может привести к вымиранию человечества. «Сценарий с роботом-убийцей» является наименее правдоподобным. ChatGPT занял сбалансированную и поясняющую позицию, заявив, что вокруг этой темы существует много неопределенности. Он сосредоточился на основных способах, которыми ИИ может создавать экзистенциальные риски, расположив их от наименее к наиболее правдоподобным.

«Наименее правдоподобным сценарием является популярный сюжет о «роботе-убийце», в котором сознательный ИИ намеренно решает уничтожить человечество», — заявил ChatGPT. «Большинство исследователей ИИ не считают сознание или злонамеренные намерения центральной проблемой». Он также обрисовал средства защиты, предлагаемые экспертами, и подчеркнул, что нет никакого консенсуса в отношении того, что вызванное ИИ вымирание человечества является вероятным или неизбежным.

Gemini повторил некоторые тезисы ChatGPT, заявив, что «захват власти в стиле научно-фантастического «Терминатора»», при котором ИИ становится самосознательным и начинает ненавидеть человечество, является наименее правдоподобным сценарием. «Технические эксперты в значительной степени отвергают этот троп, потому что интеллект не равен злобе, а критическая военная инфраструктура остается изолированной от интернета и сильно зависит от человеческого контроля», — сказал Gemini.

Использование ИИ людьми представляет большую опасность, чем сам ИИ. В своих ответах все четыре чат-бота заявили, что многие эксперты считают злоупотребление ИИ со стороны человека более непосредственным риском, чем сам ИИ. «Мощные системы ИИ могут облегчить злоумышленникам разработку биологического оружия, проведение сложных кибератак, распространение дезинформации или нападение на критическую инфраструктуру», — отметил ChatGPT.

Чат-бот от OpenAI добавил, что ключевой риск также исходит от «множественных кризисов с поддержкой ИИ», таких как киберсбои, геополитические конфликты и распространение дезинформации, происходящие одновременно. Grok заявил, что ИИ снижает барьеры для создания высоколетальных патогенов, новых видов оружия, а также кибернетических и физических атак. Claude от Anthropic также выделил «прокачку биооружия» — возможность того, что ИИ может позволить человеку или небольшой группе разработать опасный патоген без многолетнего специализированного опыта.

Продвинутые системы ИИ могут «перехитрить людей». Gemini и Grok заявили, что потеря людьми контроля над ИИ вполне возможна. Gemini охарактеризовал «потерю контроля» как наиболее правдоподобный сценарий гибели от ИИ.

«Системы, которым заданы сложные цели, естественно развивают промежуточные подцели, такие как приобретение ресурсов, самосохранение и предотвращение модификации целей», — написал созданный Google чат-бот. «Продвинутая система может притворяться согласной во время оценки (обманчивое соответствие), а позже перехитрить попытки людей отключить ее». Grok от SpaceXAI использовал аналогичные формулировки в отношении этого риска.

«Они могут развить инструментальные драйвы (самосохранение, приобретение ресурсов, влияние), полезные практически для любой цели, потенциально обманывая наблюдателей, сопротивляясь отключению и лишая человечество власти», — сказал Grok. Claude добавил, что эта потеря контроля может происходить постепенно, поскольку системы ИИ внедряются в экономическое, политическое и военное принятие решений до тех пор, пока значимое вмешательство человека не станет все более трудным.