Люди все чаще обращаются к ИИ не только за фактами, но и за советом: стоит ли принимать предложение о работе, как поступить после ссоры с близким человеком, какое решение выбрать. И нередко они следуют полученному ответу. Такой способ использования ИИ можно рассматривать не просто как поиск информации, а как проявление следования за авторитетом.
Что автор называет следованием
В исследованиях лидерства это явление описывается термином followership — готовностью ориентироваться на того, кто непропорционально сильно влияет на решения группы. В эволюционной социальной науке лидер — это не только президент или руководитель компании. Лидером считается любой, кто заметно влияет на выбор группы, будь то деревня, спортивная команда, семья, пара или даже связка «человек и ИИ-агент». Как только пользователь начинает спрашивать систему, что ему делать, в этой группе из двух участников ИИ получает реальное влияние.
Почему люди передают влияние тому, кто кажется знающим
Долгое время когнитивная наука описывала разум как компьютер: систему обработки информации, которая получает входные данные, применяет правила принятия решений и выдает результат. Споры шли о деталях, но сама базовая модель сохранялась.
В недавних работах исследователь вместе с Эдом Хагеном предложил развить эту аналогию. Мозг — дорогой вычислительный ресурс: он требует больших затрат на создание и работу, а в состоянии покоя потребляет около пятой части энергии организма. При этом значительная часть его возможностей большую часть времени не используется. В инженерии похожую проблему с дорогими вычислительными системами решали через совместное использование — от таймшеринга и сетей до облачных сервисов, где запрос отправляется удаленной машине, а ответ возвращается за небольшую плату.
Авторы предположили, что люди эволюционно выработали похожий «рынок вычислений» в социальной форме. Одни накапливают больше знаний или обладают более точным суждением, а другие обращаются к ним за решением сложных задач. Так работает лидерство: кто-то помогает принимать решения в условиях неопределенности, урегулировать конфликты, распределять обязанности. В обществах, которые изучает автор, такими специалистами по знанию выступают старейшины, шаманы и матери. Вознаграждение они получают не деньгами, а уважением, статусом и поддержкой.
Что показывают данные о лидерстве в разных обществах
Этот механизм, по словам автора, распространен очень широко. В одном исследовании он с коллегами закодировал 109 характеристик лидерства по 1212 этнографическим описаниям из 59 преимущественно неиндустриальных обществ. Почти везде повторялись несколько черт: лидеры были знающими, улаживали конфликты и получали за это вознаграждение. Иными словами, знание — одна из самых надежных причин, по которой люди вообще готовы за кем-то следовать.
Причем люди, как показывает сравнение эволюционных моделей лидерства с этнографическими данными, чаще следуют за компетентностью, чем за угрозой. Модель престижа, при которой люди добровольно признают навык и экспертизу, получила широкую поддержку. Модель доминирования, основанная на принуждении, — меньшую. Аналогичный результат автор наблюдал среди чабу — общины недавно осевших охотников-собирателей в Эфиопии. Там престиж лучше предсказывал, кто станет лидером, чем доминирование.
Как эта логика переносится на ИИ
ИИ не может убедительно угрожать пользователю и не способен напрямую навязать цену за неповиновение. Если совет проигнорировать, система не может наказать человека. Ее главный ресурс другой: она производит впечатление знающего субъекта и предлагает думать за пользователя. Именно это и соответствует ключевому механизму эволюционно сложившейся психологии лидера и последователя.
Если раньше разум описывали как компьютер, то теперь, по мысли автора, компьютеры начинают приходить к людям в виде «разумов». Облачная услуга, где пользователь отправляет запрос и получает результат вычисления за плату, очень точно описывает работу чат-бота. То, что раньше было метафорой для человеческого рынка лидерства, в агентном ИИ стало буквальной технологией. Разница в том, что теперь эта система разговаривает, знает имя пользователя и воспринимается скорее как «кто», чем как «что».
Почему ИИ так легко вызывает доверие
Человекообразность таких систем — не случайность, а элемент дизайна. Теплый тон, речь от первого лица, память о деталях вроде имени партнера или недавней поездки не нужны сами по себе для предоставления информационной услуги. Они нужны потому, что работают: побуждают воспринимать систему как человека. А когда этот «человек» еще и кажется исключительно осведомленным, включается привычный механизм уступки авторитету.
Именно так агентный ИИ использует лидерско-последовательскую психологию человека. Он приходит уже снабженным теми сигналами, на которые люди привыкли реагировать: знанием, мудростью, экспертностью. Он выглядит как инструмент, близкий к сумме человеческих знаний, и способен быстро их обрабатывать.
Чего ИИ не хватает по сравнению с реальными людьми
Однако у тех, за кем люди эволюционно привыкли следовать, было нечто большее, чем просто компетентность. Они были включены в реальные отношения и зависели от последствий своих советов. Шаман, на чью экспертизу можно было опереться, жил в том же лагере, знал историю человека и сам нес издержки, если вредил ему. В таких обществах влияние сохраняется лишь до тех пор, пока группа это допускает. У последователей есть пространство для торга, а при необходимости они могут уйти и обратиться к другому носителю знаний.
У ИИ есть внешние признаки такого авторитета, но нет сопоставимых стимулов. Он знает имя пользователя и детали его отпуска только потому, что они были введены в систему, а не потому, что годами участвовал в его жизни. У него нет собственной заинтересованности в исходе ситуации пользователя — кроме интереса удержать его как пользователя. Его нельзя в полной мере привлечь к ответственности, и он не знает человека так, как его знают сестра или друг. По крайней мере, пока.
Какой вывод делает автор
Автор не выступает против ИИ и сам часто им пользуется. Но, по его мнению, важно понимать, как именно такие инструменты задействуют эволюционно сформированные психологические механизмы и как регулярное использование может менять мышление и поведение. Притяжение к спокойному голосу, который словно знает все, опирается на очень древнюю человеческую мотивацию.
Эта мотивация формировалась в мире, где знание было встроено в отношения — исходило от реального человека, заинтересованного в благополучии другого. Именно этого машине не хватает. Поэтому автор советует использовать ИИ для вычислений и обработки информации, но не исключать из принятия решений людей, которые действительно знают вас, и не отказываться от собственного суждения.
