Развитие так называемого агентного искусственного интеллекта усилило дискуссию о том, можно ли считать, что такие системы действительно «внимательны» к информации. Исследователи считают, что это допустимая метафора, однако она не означает наличия у ИИ сознания, эмпатии или субъективного опыта.
Речь идет о системах, которые выходят за рамки обычных генеративных моделей и способны самостоятельно выбирать функции, инструменты и последовательность действий для достижения цели. Такие ИИ-агенты могут, например, проверять и исправлять программный код, планировать поездки или заранее предугадывать бытовые потребности пользователя и выполнять задачи без прямого запроса.
По мере усложнения таких систем становится проще приписывать им человеческие качества, поскольку они умеют отбирать данные, расставлять приоритеты, действовать и выносить суждения, внешне напоминающие восприятие и принятие решений. Однако исследователи подчеркивают, что даже в этих случаях ИИ остается инженерной системой предиктивной оптимизации, обученной на данных и выбирающей наиболее вероятный путь к заданной цели.
Что означает «внимание» в ИИ
В области искусственного интеллекта термин «внимание» используется, в частности, для описания архитектуры трансформеров, которая определяет, какие элементы информации наиболее важны в конкретном контексте. Такой механизм позволяет эффективнее отделять значимые сигналы от шума и действительно напоминает базовую форму избирательной обработки информации, характерную для живых организмов.
Тем не менее исследователи отмечают, что это сходство ограничено. Человеческое внимание связано не только с контекстом, но и с интересами, эмоциями и биологическими потребностями. У ИИ-агентов собственных интересов и эмоциональных потребностей нет, а их выбор информации служит исключительно выполнению поставленной задачи.
По этой причине, по мнению ученых, ИИ не переживает информацию так, как это делает человек. Он может выбирать релевантные данные и строить сложные цепочки действий, но не обладает субъективным опытом того, что происходит в процессе такой обработки.
Почему человеческое внимание устроено иначе
Когнитивные ученые рассматривают внимание не как единый процесс, а как набор параллельных механизмов обработки информации, лишь часть которых иногда становится осознанной. Большинство форм внимания остаются вне осознания, хотя и играют важную роль в выживании и достижении целей.
Особенность человека, как отмечают исследователи, состоит в социальной природе внимания. Люди чувствительны к социальным сигналам, используют эмпатическую информацию и способны к совместному вниманию, когда несколько участников не просто обрабатывают данные, а разделяют понимание происходящего. Именно эта осознанная и социальная составляющая отличает человеческую агентность.
ИИ-агенты, напротив, могут обрабатывать информацию, необходимую для достижения результата, но делают это без осознания и без общего феноменального опыта. Даже если взаимодействие между несколькими агентами начнет напоминать социальное поведение, это будет лишь функциональный аналог координации, а не эмпатия или подлинное разделение перспектив.
Практическое значение для общества
Исследователи считают, что этот вопрос уже имеет не только философское, но и практическое значение. Если раньше в цифровой среде различные источники боролись за внимание человека, то ИИ-агенты все чаще не конкурируют за него, а фактически заменяют его, принимая решения от имени пользователя.
Когда агент выбирает, как улучшить программный код, какие новости показать, что купить или как спланировать поездку, человек передает системе часть собственных когнитивных функций. Это сравнивают с передачей навигации цифровым картам, но в случае агентного ИИ такая передача может затрагивать более широкий круг решений.
По мнению ученых, это особенно важно в социальной сфере, где доверие связано с пониманием того, что другой участник взаимодействия способен учитывать чужую точку зрения. ИИ может моделировать предпочтения пользователя, но моделирование перспективы не равнозначно ее разделению. Система способна предсказать желаемый выбор, но не может по-настоящему разделить общую цель или проявить заботу о ее достижении.
Авторы этой позиции полагают, что по мере роста автономности и координации ИИ-систем потребуется управление, основанное не только на автоматизированном взаимодействии агентов, но и на принципах доверия, ответственности и этики. Эти элементы в человеческом обществе опираются на эмпатию и осознанное принятие перспективы, которых у искусственных систем нет.
Станет ли ИИ сознательным
Исследователи не ожидают, что дальнейшее развитие ИИ-агентов сократит разрыв между искусственным вниманием и сознанием. Напротив, по мере роста функционального сходства различие может становиться менее заметным: системы будут все лучше отбирать информацию, расставлять приоритеты и координироваться с людьми и другими агентами.
При этом, по их оценке, даже очень убедительное внешнее поведение не будет означать появления подлинного феноменального сознания. ИИ сможет имитировать некоторые его признаки, но не приобретет внутренний опыт, который лежит в основе человеческой социальной связи и эмпатии.
В этой связи исследователи считают, что ключевая задача состоит не в создании сознательного ИИ, а в сохранении человеческой внимательности к тому, какие решения системы принимают от нашего имени. Понимание того, как работает собственное внимание человека, может стать важной защитой от чрезмерной передачи этих функций искусственным системам и от утраты эмпатии в процессе.
