Скроллишь, веришь, устаёшь: как ИИ влияет на дезинформацию и меняет наше мышление

Ещё несколько лет назад фейки, созданные искусственным интеллектом, было легко распознать: шесть пальцев, странные глаза, неестественная мимика. Сегодня всё иначе. ИИ-контент стал качественнее, быстрее и массовее. Он уже не выглядит как плохо смонтированная подделка — он становится частью повседневного информационного потока.

Главный редактор VoxCheck Алина Тропинина рассказала редакции «Первого Криворожского», как искусственный интеллект меняет современную дезинформацию, почему пропаганда переходит от убеждения к манипуляции мышлением и как не потеряться в мире информационного шума.

От пропаганды к «слопаганде»

Сегодня всё чаще используют термин «слопаганда» — сочетание английского слова slop («мусор») и пропаганды.

Речь идёт не только о лжи. Главная проблема — массовое засорение информационного пространства дешёвым, быстрым и эмоциональным контентом, который бесконечно поглощает внимание людей.

Вертикальные короткие видео, бесконечный скроллинг, эмоциональные заголовки, ИИ-сгенерированные персонажи — всё это создаёт шум, в котором становится всё сложнее отличить правду от манипуляции.

«Если раньше пропаганда пыталась нас в чём-то убедить, то сейчас она пытается повлиять на то, как люди думают», — объясняет Алина Тропинина.

Дипфейки уже не только о политиках

Если в 2023 году главной темой ИИ-фейков были политики и военные, то теперь спектр значительно шире.

Среди новых тенденций — дипфейки священников, фальшивые «уличные опросы», вымышленные журналистские сюжеты и искусственно созданные конфликты на религиозной или социальной почве.

По словам Тропининой, в соцсетях активно распространяются видео, где якобы священники провоцируют религиозную вражду или озвучивают радикальные заявления. Но это полностью сгенерированный контент.

И если раньше пользователи ещё могли распознать искусственный интеллект по очевидным ошибкам, то сейчас это становится всё сложнее.

Как отличить фейк

Недавно главным признаком сгенерированных изображений были руки: лишние пальцы, искривлённые кисти, неестественные формы. Сегодня эти ошибки почти исчезли.

Вместо этого фактчекеры советуют обращать внимание на другие детали:

• текст и надписи на изображениях;

• странные наборы символов;

• эмблемы и логотипы;

• нашивки на форме военных;

• названия медиа;

• мелкие элементы на фоне.

Именно текстовые элементы ИИ до сих пор воспроизводит нестабильно. На вывесках могут появляться бессмысленные символы, а логотипы медиа — оказываться вымышленными.

Как искусственный интеллект удешевил дезинформацию

По словам Алины Тропининой, ИИ радикально удешевил производство дезинформации.

Раньше для масштабных информационных кампаний нужны были дизайнеры, редакторы, тролли, ботофермы, монтажёры, копирайтеры и другие специалисты. Теперь значительную часть этой работы выполняет искусственный интеллект.

ИИ генерирует тексты, создаёт фото и видео, озвучивает персонажей, имитирует активность в комментариях и даже поддерживает дискуссии от имени «обычных людей».

Отредактировать реальность

Один из самых абсурдных кейсов, который вспоминает Тропинина, — фотография людей с гуманитарной помощью, где ИИ заменил коробки на головы свиней.

Изображение распространяли как доказательство якобы «абсурдной гуманитарной помощи».
Другой популярный формат — редактирование фотографий детей или военных. Например, ИИ добавляет школьникам военные элементы на одежду, после чего это подаётся как «доказательство милитаризации детей».

Такие фейки особенно опасны, потому что основаны на реальных фотографиях.

«Даже если это ИИ — и что?»

Одна из самых тревожных тенденций — безразличие аудитории к самому факту подделки, отмечает Тропинина.

В комментариях под фейковыми видео всё чаще можно увидеть реакцию: «Даже если это искусственный интеллект, и что? Это всё равно правда».

Именно это, по мнению Тропининой, является главной целью современной пропаганды.

Речь уже не идёт о том, чтобы убедить человека в конкретном фейке. Цель — разрушить саму привычку проверять информацию. Человек устаёт от потока противоречивого контента. И именно тогда пропаганда выигрывает.

Мета-война за мышление

Современная информационная война всё больше напоминает борьбу за образ мышления людей.

Мета-война стремится дезориентировать, истощить и лишить желания анализировать.

Для этого используют:

• постоянный информационный шум;

• противоречивые версии событий;

• эмоциональные триггеры;

• массовое повторение одинаковых нарративов.

Особенно хорошо работают темы, которые затрагивают эмоции: религия, мигранты, военные, дети и другие.

Сегодня люди всё чаще начинают видеть ИИ даже там, где его нет. Например, обычные тексты могут называть «сгенерированными», потому что автор использует длинные тире или правильную структуру предложений. То есть общество постепенно переходит от чрезмерного доверия — к чрезмерной подозрительности.

Почему фейки работают

Алина отмечает, что человеческий мозг склонен верить тому, что видит часто. Это называют «иллюзией правды»: если человек постоянно сталкивается с одним и тем же сообщением в разных местах, оно начинает казаться правдивым.

ИИ позволяет масштабировать это явление до невиданных размеров. Тысячи постов, видео и комментариев могут одновременно продвигать один и тот же нарратив — и постепенно он становится частью информационной реальности.

Как не утонуть в информационном шуме

Главный совет фактчекеров звучит просто — остановиться.

Прежде чем распространять эмоциональную новость или видео, стоит:

• проверить источник;

• найти первоисточник;

• посмотреть, пишут ли об этом другие медиа;

• обратить внимание на детали;

• дать себе несколько минут на анализ.

Тропинина также советует сознательно контролировать собственное информационное потребление.

«Нам очень важно сохранить тот момент, когда мы ещё можем критически мыслить. Потому что если мы целый день потребляем огромное количество информации, этот ресурс истощается», — объясняет она.

Постоянный скроллинг истощает внимание. А уставший человек значительно легче поддаётся манипуляциям.

Чего ждать дальше

Алина говорит, что искусственный интеллект никуда не исчезнет. Он станет ещё глубже интегрированным в медиа, социальные сети, поисковые системы и повседневную жизнь. Поэтому главным вызовом становится умение сосуществовать с ИИ.

И, возможно, самый важный навык будущего — это способность не потерять здравый смысл в мире, где реальность всё чаще выглядит как сгенерированный контент.

Сможете ли вы выжить в океане информационного мусора?

Проверьте, умеете ли вы распознавать признаки ИИ-контента, понимаете ли, что такое «слопаганда», и знаете ли, как не попасть в ловушку манипуляций после просмотра материалов 1kr.ua. Пройдите этот короткий тест, который займет 3-5 минут вашего времени.