Искусственный интеллект все чаще представляют как инструмент, который должен улучшить диагностику, планирование лечения и административную эффективность в здравоохранении. Однако такие ожидания заметно опережают реальность. Проблема не сводится только к практическим и этическим трудностям или нехватке качественных данных, подтверждающих громкие обещания. Не менее важно то, что внедрение ИИ может закреплять уже существующее неравенство в медицине, особенно в отношении женщин и представителей маргинализированных групп.
Это связано с тем, как работают такие системы. ИИ обучается на больших массивах данных, а в сфере здоровья эти данные изначально неполны и неравномерны. Женское здоровье исторически исследовано хуже и слабее представлено в научной литературе, причем женщины из уязвимых групп оказываются в наборах данных особенно редко. В результате снижается точность и надежность выводов, которые делает система, а это уже влияет на клинические решения, диагностику и рекомендации по лечению. Итогом становится неравномерная эффективность: система, основанная на ИИ, помогает одним группам лучше, чем другим.
Миф о нейтральности ИИ
ИИ часто воспринимают как нейтральный механизм, который беспристрастно сортирует и обобщает информацию, быстрее ставит диагнозы, точнее прогнозирует исходы и делает услуги эффективнее. Если система работает неравномерно, это нередко объясняют только качеством входных данных, а не самой природой технологии. Но исследования все чаще показывают обратное: ИИ не является нейтральным и воспроизводит те же психологические предубеждения, стереотипы и стигмы, которые присутствуют у людей, создающих и обучающих эти инструменты.
Сам по себе ИИ не создает знания независимо от человека. Он действует в рамках заданных ему правил и интерпретаций, которые проходят через взгляд разработчика и через данные, уже сформированные людьми. Поэтому в медицине система может не столько выявлять объективные факты, сколько воспроизводить способы, которыми события и симптомы уже были описаны, поняты и оценены человеком.
Как человеческие стереотипы переходят в медицинский ИИ
Чтобы понять этот механизм, важно учитывать психологию стереотипов. Люди используют ментальные сокращения — эвристики, — чтобы быстрее ориентироваться в сложном мире. Они помогают ускорять обработку информации, но одновременно порождают систематические искажения и устойчивые стереотипы. Среди самых сильных из них — гендерные.
Гендерные стереотипы не являются случайной особенностью мышления. Они глубоко встроены в культуру, язык и социальные структуры. В медицине это проявляется особенно заметно: одни заболевания устойчиво связывают с женщинами, другие, напротив, у этой группы чаще упускают из виду. Это влияет и на общественные представления, и на клинические ожидания, и на то, как интерпретируются симптомы и какие диагнозы вообще рассматриваются как вероятные.
Стереотип о том, что женщины более эмоциональны, может приводить к тому, что их симптомы воспринимаются менее серьезно или трактуются неверно. Это продолжает давнюю медицинскую практику, в которой женскую боль и болезни часто недооценивали или объясняли как психологическое проявление. Даже если у состояния есть травматическая, а значит психосоциальная причина, сама боль и болезнь при этом остаются физическими и реальными. Если ИИ воспроизводит такие схемы, он не исправляет проблему, а встраивает ее еще глубже в медицинскую практику.
Почему ИИ не просто отражает, но и усиливает предвзятость
Системы машинного обучения, построенные на человеческом языке и поведении, неизбежно усваивают содержащиеся в них стереотипные и предвзятые модели. По сути, они воспроизводят те же ассоциации, которые существуют в человеческом мышлении. Это закономерно, потому что исходные данные создаются, отбираются и интерпретируются людьми.
Из-за этого ИИ в здравоохранении может обучаться не «фактам» как таковым, а тому, как зарегистрированные случаи были осмыслены теми, кто их описывал. В сфере, где решения часто принимаются в условиях неопределенности, но имеют серьезные последствия, это особенно рискованно. Система начинает воспроизводить не лучшее знание, а наиболее привычные представления, и тем самым закрепляет модели поведения, которые уже привели к неравенству в доступе к помощи и качестве лечения.
Как дизайн ИИ поддерживает гендерные роли
Обзор исследований, посвященных гендерным стереотипам в ИИ, показывает, что предвзятые модели распространены в самых разных технологиях — от чат-ботов и роботов до виртуальных ассистентов. Такие системы часто проектируются в логике традиционных гендерных ролей.
Например, цифровым помощникам нередко дают женские имена и голоса, тем самым закрепляя за ними образ услужливого, поддерживающего и уступчивого помощника. Роли, связанные с авторитетом и экспертностью, напротив, чаще получают мужское кодирование. Эти решения напрямую влияют на то, как пользователи воспринимают систему и взаимодействуют с ней.
Люди обычно ожидают от «женски» закодированного ИИ теплоты и эмоционального интеллекта, тогда как «мужски» закодированный ИИ воспринимается как более компетентный и авторитетный. Даже когда разработчики стремятся сделать систему гендерно-нейтральной, пользователи все равно часто считывают гендер по косвенным признакам — например, по интонации голоса или по типу задач, которые выполняет программа. Это говорит о силе гендерных схем в человеческом мышлении: люди склонны интерпретировать мир через гендерные категории, и ИИ становится частью этого процесса.
Как визуальные образы ИИ влияют на медицину
Особое значение имеют изображения, создаваемые ИИ. Они влияют на понимание реальности не меньше, а нередко и сильнее текста: формируют ожидания, направляют внимание и воздействуют на память. Если такие изображения последовательно показывают узкие и предвзятые представления о ролях в здравоохранении, они укрепляют стереотипы о том, кто в медицине считается типичным, кого воспринимают всерьез и как именно должна выглядеть помощь.
Такие визуальные и смысловые паттерны не безобидны. ИИ, воспроизводящий стереотипы, может вызывать у пациентов чувство непонимания и маргинализации. Это подрывает доверие к системе здравоохранения. А когда люди ощущают предвзятость в медицинской среде, они реже обращаются за помощью, хуже следуют рекомендациям и менее охотно взаимодействуют с профессионалами.
Эффект угрозы стереотипа в контакте с системой здравоохранения
Еще один важный психологический механизм — угроза стереотипа. Когда человек осознает, что принадлежит к группе, в отношении которой существует негативный стереотип, у него может усиливаться тревога и снижаться уверенность в себе. Это ухудшает коммуникацию и способность принимать решения.
В медицинском контексте такие эффекты могут вести к менее успешному взаимодействию с врачами, задержке обращения за помощью и более плохим исходам. Если ИИ подает сигналы, которые подтверждают или усиливают стереотипы, этот эффект становится сильнее.
Что показывает общий вывод исследований
Совокупность этих данных приводит к ясному выводу: ИИ не является беспристрастным наблюдателем реальности. Он скорее выступает зеркалом человеческого мышления, отражая способы, которыми люди классифицируют, упрощают и стереотипизируют мир. Но, работая в крупном масштабе, такие системы способны усиливать эти модели гораздо сильнее, чем отдельные человеческие взаимодействия.
Поэтому улучшение ИИ в здравоохранении нельзя свести только к техническим настройкам или формальным этическим мерам. Для этого необходимо понимать сложные психологические процессы, которые формируют и человеческое мышление, и его машинные отражения.
