Представьте себе систему здравоохранения, состоящую из множества ИИ-агентов: один управляет оценкой симптомов, второй — планированием, третий — страховкой, а четвертый — аптекой. Каждый из них является экспертом в своей области. Но все они имеют свои собственные уникальные знания и цели.

Сегодня они могут обмениваться данными, но пока не способны координировать уход за пациентами без участия человека, принимающего решения. «Интеллект уже существует. Чего не хватает, так это соединительной ткани, которая превращает четырех незнакомцев в одну команду», — объясняет Виджой Панди, старший вице-президент и генеральный директор Outshift by Cisco.

Эта «соединительная ткань» возникает за счет добавления семантического слоя — того, что Outshift называет «Интернетом познания» (Internet of Cognition), — который позволяет агентам из разных областей работать вместе и, что критически важно, «мыслить» вместе посредством общего намерения, контекста и рассуждений. Этот семантический слой опирается на слой связи под ним, называемый «Интернетом агентов» (Internet of Agents), который позволяет автономным агентам находить друг друга, подтверждать личность и обмениваться сообщениями в разных доменах.

При совместном использовании они открывают «следующий шаг на пути к распределенному искусственному суперинтеллекту», говорит Панди. От одиночных кремниевых гениев к «Интернету познания». В течение многих лет индустрия искусственного интеллекта была сосредоточена на росте.

Масштабирование по вертикали привело к созданию более крупных моделей, обученных на больших объемах данных с использованием больших вычислительных мощностей. Это дало возможности рассуждения, которые могут служить «мозгом» для ИИ-агентов, способных воспринимать, рассуждать и действовать в цифровых средах.

Хотя вертикальное масштабирование может постоянно создавать более способные агенты, для обеспечения агентного решения проблем в различных системах, компаниях и платформах следующей осью масштабирования должна стать горизонтальная, считает Панди. Многоагентные системы уже исследуются в таких областях, как разработка программного обеспечения, открытие лекарств и научное моделирование, но их результаты до сих пор были неубедительными.

Одно исследование показывает уровень сбоев от 41% до примерно 87% при оценке семи открытых многоагентных систем. «Связанные агенты хорошо справляются с координированными действиями; они берут задачу, форму которой они уже видели, разделяют ее и передают дальше», — объясняет Панди.

«Чего они не могут делать, так это удерживать общую цель и рассуждать о том, что ни одно из них не было обучено решать». «Проблема носит архитектурный характер, а не является проблемой промптинга», — добавляет Панди.

«Без правильного слоя координации наивные многоагентные установки могут работать хуже, чем один агент. Качественное изменение заключается в том, что команда агентов сходится сама по себе на новой проблеме, без участия человека, сшивающего швы».

Для достижения этой цели Панди говорит, что Outshift создала уровень связи под названием AGNTCY, проект с открытым исходным кодом, который сейчас находится под эгидой Linux Foundation. AGNTCY позволяет агентам в разных системах, компаниях и платформах находить друг друга, подтверждать личность и обмениваться сообщениями через открытые стандартизированные протоколы.

И, как объясняет Панди, это позволяет тезису об Интернете познания сделать шаг вперед. Он создает семантический слой, который позволяет агентам согласовывать цели (делиться намерением), объединять институциональные знания и составную память (делиться контекстом) и принимать коллективные компромиссы (делиться рассуждениями).

Панди сравнивает эту эволюцию с человеческой: «Сотни тысяч лет люди становились умнее по отдельности, и эти достижения умирали с каждым человеком, который их совершал», — объясняет он. «Около 70 000 лет назад ситуация изменилась, когда люди научились делиться намерениями, накапливать знания и рассуждать коллективно.

Именно тогда разрозненные индивидуумы стали цивилизацией. Агенты находятся на том же пороге. Мы создали кремниевых гениев и наделили их агентностью.

Чего им не хватает, так это слоя, который позволил людям стать коллективными», — говорит он. Первые шаги к распределенному суперинтеллекту.

Обеспечение совместной работы агентов опирается на три столпа в технологическом стеке: Общее намерение через протоколы состояния познания. Протоколы состояния познания — это семантическое рукопожатие, которое позволяет агентам договориться о цели перед тем, как действовать, а затем вести переговоры для ее достижения.

Outshift создала уровень координации с открытым исходным кодом под названием Mycelium, который организации могут клонировать и использовать для собственных агентов. «Мы обнаружили, что неструктурированные группы достигали консенсуса примерно в трети случаев из 14 сценариев», — говорит Панди, говоря о внутреннем тестировании.

«Протокол координации, который заставляет агентов заявлять о цели, выявлять недостающую информацию и разрешать конфликты до начала действий, поднял этот показатель до 93%». Общий контекст через ткань познания.

Ткань познания — это общая институциональная память и коммуникационная сетка, которая позволяет пониманию агентов накапливаться с течением времени, а не сбрасываться каждый сеанс. Этот управляемый политиками уровень контекста решает проблему «организационной амнезии», говорит Панди, гарантируя, что базовый интеллект систем только растет.

Общие рассуждения с помощью когнитивных усилителей и технологий защитных барьеров. Два типа когнитивных движков могут использоваться вместе для обеспечения совместных рассуждений.

Когнитивные усилители ускоряют совместные рассуждения и моделирование, а технологии защитных барьеров (GAT) создают основы безопасности, затрат и соблюдения нормативных требований. Люди являются активными участниками этого слоя, принимая экспертные решения, которые система перенаправляет на них (вместо проверки результатов постфактум).

Совместное использование познания в многоагентных системах может создавать новые риски, включая непреднамеренное делегирование полномочий, вредоносные инъекции промптов или отравление памяти, а также избыточные привилегии агентов с доступом к разрешениям и данным, далеко выходящим за рамки того, что требуют их задачи. Поэтому необходимы средства контроля для конкретной среды для защиты от непреднамеренных действий или последствий.

«Агенты обладают человеческими атрибутами, но работают со скоростью и в масштабе машин», — говорит Панди. «Все, что мы создавали в течение двадцати лет — контроль доступа, идентификацию, соответствие требованиям, — было создано для людей или машин, но не для того и другого вместе».

Непрерывная семантическая авторизация агентов (CASA) — эталонная реализация с открытым исходным кодом, разработанная Outshift — представляет собой технологию защитных барьеров, которая работает над тем, чтобы действия агентов оставались надежно согласованными с первоначальной целью пользователя посредством процесса непрерывной авторизации. Она делает это, считывая то, что агент пытается сделать, а затем проверяя каждый запрос инструмента на соответствие этой задаче.

Например, в системе здравоохранения агенту, которому поручено обобщить запись пациента, может потребоваться запросить всю базу данных. Это может привести к тому, что CASA отклонит вызов, поскольку запрос больше не соответствует задаче, для которой он был уполномочен.

«Сегодняшние элементы управления ограничены ролью или сеансом, а не задачей, поэтому агент, которому предоставлен инструмент, может использовать его для чего угодно», — объясняет Панди. «Примерно в 90% случаев у агента нет возможности подтвердить, что он вообще допущен к выполнению порученной ему работы».

Эксперименты для междоменных инноваций. При горизонтальном масштабировании интеллекта на предприятии компании должны начать с экспериментов с одним межфункциональным рабочим процессом, который охватывает три или четыре команды и в настоящее время требует участия человека, санкционирующего передачу полномочий, советует Панди.

«Создайте ее как небольшую многоагентную систему на открытой, интероперабельной инфраструктуре с измеряемой базовой линией», — говорит он. «Продолжайте строить более крупные модели, добавляйте горизонтальную ось поверх них и меняйте то, что вы измеряете.

Отслеживайте, где инсайт одного агента улучшил другого агента — это сигнал того, что горизонтальная ось работает». Начиная экспериментировать прямо сейчас с уровнями намерения, контекста и рассуждений, организации могут опередить события.

«Проблемы открыты, а инфраструктура все еще пишется», — говорит Панди. «Это момент для ее создания». Для получения дополнительной информации об Интернете познания посетите Outshift.com.

Этот материал был подготовлен Insights, подразделением заказного контента MIT Technology Review. Он не был написан редакционным штабом MIT Technology Review.

Он был исследован, спроектирован и написан человеческими авторами, редакторами, аналитиками и иллюстраторами. Это включает в себя написание опросов и сбор данных для опросов.

Инструменты искусственного интеллекта, которые могли использоваться, были ограничены процессами вторичного производства, которые прошли тщательную проверку человеком.