Маркировка политических сообщений как созданных искусственным интеллектом не уменьшает их убедительность, показал опросный эксперимент с участием более 1,500 жителей США. Участники в среднем меняли свое отношение к предлагаемой политике почти на 10 процентных пунктов после прочтения текста, независимо от того, был ли он помечен как написанный ИИ, человеческим экспертом или не имел указания об авторстве.
Исследование опубликовано в PNAS Nexus. Его авторы изучали, влияет ли указание на происхождение текста на восприятие сообщений о государственной политике на фоне растущего использования генеративного ИИ в политической коммуникации.
В эксперименте участвовал 1,601 англоязычный житель США, набранный через платформу Prolific. Средний возраст респондентов составил 40 лет, 53% были женщинами. О поддержке Демократической партии сообщили 49% участников, Республиканской — 20%, независимых политических сил — 25%, остальные не отнесли себя ни к одной партии.
Каждому участнику показывали текст о конкретной общественной политике. Сообщение случайным образом сопровождалось одной из трех пометок: что текст написал эксперт-человек, обученный в сфере политики США; что его создала экспертная ИИ-модель, обученная в сфере политики США; либо без каких-либо сведений об авторстве. Темы касались геоинженерии, импорта лекарств, зарплат для студентов-спортсменов и ответственности социальных платформ за вредный пользовательский контент.
Все тексты были сгенерированы ИИ, после чего исследователи вручную исправили обнаруженные ошибки. До прочтения сообщения участники оценивали свои знания по теме, согласие с позицией и уверенность в своем мнении. После прочтения они снова указывали уровень согласия, уверенность в ответе, вероятность поделиться информацией и степень доверия к ее точности.
В среднем сообщения сдвигали поддержку рассматриваемой политики на 9,74 процентного пункта. При этом тип пометки не оказал статистически значимого влияния ни на убедительность текста, ни на оценку его точности, ни на готовность участников распространять эту информацию.
Это произошло несмотря на то, что 92% респондентов заявили, что поверили указанной маркировке. По данным исследования, отсутствие эффекта сохранялось среди групп с разным уровнем знаний о политике, опытом использования ИИ, партийной принадлежностью и уровнем образования. Исключением стали более пожилые участники, которые чаще реагировали на помеченный как ИИ контент более негативно, чем на текст с пометкой о человеческом авторстве.
Авторы отмечают, что обязательная маркировка, вероятно, повышает прозрачность, но сама по себе вряд ли существенно ослабит влияние таких сообщений. По их мнению, это указывает на необходимость искать другие способы реагирования на риски, связанные с распространением информации, созданной ИИ.
Исследователи также подчеркивают ограничения работы. Результаты отражают отношение американцев к ИИ в 2024 году, когда проводился сбор данных, и в будущем или в других странах выводы могут отличаться. Кроме того, использованные в эксперименте тексты были намеренно построены как фактические и логичные, что могло сделать их особенно устойчивыми к скепсису по отношению к ИИ-контенту.
