Странные ней­ро­арты про бога и детей: откуда они берутся и при чем тут заработок в соцсетях

«Посмотри, какая в Америке проблема с ожирением! Вот это реальная семья», — сказала мне бабушка, протянув телефон.

На экране было фото из «Фейсбука»* — бабушка любит проводить там свободное время. В кадре родители и двое детей обедают огромными порциями фастфуда в закусочной. Акцент явно сделан на том, что семья страдает от избыточного веса. Брюки персонажей вот-вот разойдутся по швам, а от рубашек оторвутся пуговицы. Только вот мне очевидно, что это никакая не фотография, а сгенерированная нейросетью картинка. А для бабушки это стало сюрпризом.

У поста огромное количество лайков и куча комментариев. В них разоблачения нейроарта терялись среди шуток и паники по поводу скорого вымирания американцев. Пост явно делался ради такой реакции, а люди старшего возраста как раз и были его целевой аудиторией. Оказывается, это не единичная шутка, а новая схема заработка в соцсетях. Расскажу, как это устроено.

Обычно на нейроартах изображают что-то необычное и часто невозможное в реальности. При этом они выглядят достаточно реалистично, чтобы убедить в их подлинности хотя бы какую-то аудиторию. Расскажу про два основных сюжета.

🙏 Религиозный мотив. На странных нейрортах часто изображают Иисуса Христа в самых неожиданных обстоятельствах, будь то бизнес-класс в самолете или джунгли. Причем часто рядом с героем можно увидеть стюардесс или морских животных.

В комментариях к таким постам пользователи часто пишут бесконечное «Аминь, аминь, аминь».

🔨👶 Талантливые дети. Такие нейроарты посвящены герою, который якобы «своими руками» сделал скульптуру из необычных материалов. Иногда в качестве автора фигуры изображают темнокожего ребенка.

По активности на страницах можно понять, что большая часть подобного контента проходит незамеченной. Но некоторые картинки вирусятся и набирают тысячи и даже миллионы реакций. А в комментариях «героя» хвалят и предрекают ему будущее великого инженера.

Кроме картинок авторы странного нейроконтента иногда используют рилсы*. Это раздел «Фейсбука»* с короткими роликами, как в «Инстаграме»*. Например, в одном видео Иисус просит делиться контентом, чтобы «напитать душу божьим благословением».

Странные нейроарты в таком количестве — феномен именно «Фейсбука»*. В «Тиктоке» и «Твиттере» часто встречаются насмешки над этим трендом и его обсуждения. Есть даже отдельный аккаунт «Безумный ИИ-шлак из „Фейсбука“*».

В «Инстаграме»*, «Вконтакте» и «Одноклассниках» я не нашла следов явного «ИИ-шлака». Зато обнаружила его на «Ютубе».

С ростом популярности ИИ-контента в интернете, в частности на «Ютубе», все чаще стали появляться инструкции о различных способах заработка на нем. Иногда нейроарты предлагают генерировать и продавать на Etsy — сайте для торговли сделанными вручную вещами и цифровыми товарами. Еще ИИ-картинки рекомендуют использовать для продвижения реальных товаров и услуг.

Но есть и еще один вариант — и он напрямую связан со странными нейроартами с Иисусом и детьми.

В «Фейсбуке»* есть бонусная программа, которая позволяет создателям контента зарабатывать на любых взаимодействиях аудитории с ним. Например, на лайках, комментариях и репостах. Размер бонуса может составлять больше 10 000 $⁣ (890 000 ₽) в месяц.

С помощью такой программы соцсеть заманивает к себе и популярных тиктокеров. Как говорит блогер Морганн Бук, с сентября 2022 года по июль 2023 года она получила 93 000 $⁣ (8 216 000 ₽), просто дублируя свои видео на «Фейсбук»*.

Получается, для заработка на публикациях достаточно генерировать под ними как можно больше активности. На «Ютубе» даже составляют инструкции, как построить бизнес на нейроарте в «Фейсбуке»*:

1. Выбрать нишу. Например, невероятные архитектурные идеи или дизайн ногтей.
2. Создать страницу и группу в «Фейсбуке»*.
3. Разработать контент-план — желательно запланировать от трех до десяти постов в день.
4. Начать публиковать нейроарты по вашей теме и создавать вокруг них активность. К примеру, такие публикации можно репостить в другие соцсети или просить знакомых активно лайкать и комментировать их. Или делать видеоподборки картинок в рилсы*.
5. Когда активность на странице станет регулярной, можно подать заявку на участие в бонусной программе.

Как утверждают авторы инструкций, «Фейсбук»* и сам будет помогать набрать активность, продвигая посты через систему рекомендаций. Это на руку нечестным пользователям. Они пренебрегают правилами маркировки ИИ-контента и превращают свои группы в спам-странички. Еще и обманывают подписчиков фальшивыми иллюстрациями с подписями в духе «Мое новое произведение, сделал своими руками».

«Ютуб» тоже платит деньги создателям контента за популярные публикации. В результате странный ИИ-контент проникает и на эту платформу.

🤖 В соцсетях может появиться еще больше «ИИ-шлака». Весной 2024 года исследователи проанализировали 120 страниц в «Фейсбуке»*, которые публикуют контент за авторством ИИ. Суммарно эти аккаунты получили сотни миллионов реакций на подобные посты. И среди них встречаются не только спамерские, но и мошеннические аккаунты. Например, некоторые профили украдены у реальных людей и организаций. Вероятно, чтобы использовать уже имеющуюся аудиторию для генерации трафика.

Зачастую на публикациях этих аккаунтов нет маркировки об использовании ИИ, хотя этого требуют правила соцсети. А пользователи старшего возраста, судя по комментариям, часто принимают такой контент за реальные фотографии. Чтобы создать видимость популярности постов, владельцы таких страниц «накручивают» комментарии. То есть используют ботов или платят реальным пользователям ради активности. На это указывают несколько признаков:

• формулировки комментаторов часто повторяются, к примеру «Отличная работа!», «Класс!»;
• иногда десятки комментариев публикуются почти одновременно, будто по команде;
• в комментариях встречаются подозрительные профили, владельцы которых на собственных страницах никак не взаимодействуют с другими людьми.

🥸 Злоумышленники могут использовать нейроарты, чтобы втереться в доверие. Иногда владельцы подозрительных аккаунтов заводят диалог с реальными людьми, которые случайно наткнулись на пост с нейроартом и решили его прокомментировать. Неизвестные предлагают собеседникам познакомиться и продолжить общение лично, в мессенджере. Вероятно, с помощью таких публикаций выявляют доверчивых и не подкованных технически пожилых людей, которые легко могут поверить цифровым мошенникам.

Помогает насмотренность: чем больше нейрокартинок вы видите, тем лучше ориентируетесь в том, что сгенерировано, а что нет. Вот по каким признакам можно понять, что перед вами фальшивое изображение.

🤨 Невозможные в реальности вещи. Люди из креветок, невероятные скульптуры из пластиковых бутылок или рыдающие коты — нейросеть может нафантазировать что угодно. Тут пригодится критическое мышление: оцените, какова вероятность, что удивительное платье из пластиковых крышечек могли сделать в реальности. Если возникли сомнения, скорее всего, это нейросети.

🔧 Артефакты — самый очевидный признак генеративных картинок. Кривые пальцы, косые глаза, искаженные границы предметов, неправильные тени, неестественное выражение лица. Объекты могут неправильно пересекаться, висеть в воздухе или быть просто неразличимым пятном. Эти особенности часто трудно заметить при беглом взгляде на картинку, но если присмотреться, они становятся очевидными.

⭐️ Мало деталей. На сгенерированных картинках обычно не хватает текстур. Кожа человека слишком гладкая, фон сильно размыт, поверхность предметов не соответствует материалу, из которого они должны быть сделаны. Цвета нереалистично яркие и насыщенные, без оттенков и подтонов.

📘 Кривой текст. Нейросети могут генерировать слова, но с полноценными предложениями им справляться сложнее. Алгоритмы обычно создают надписи с искаженными буквами или невпопад размещенными словами.

Если текст выглядит подозрительно, это указывает на то, что картинка сгенерирована.

Подробнее о том, как распознавать сгенерированные картинки, читайте в нашем гайде.

1. На ИИ-картинках часто показаны странные и сенсационные сцены, которые привлекают внимание пользователей. Доминируют религиозные мотивы и поделки одаренных детей.
2. Создатели нейроартов намеренно вводят в заблуждение, выдавая картинки за подлинные и не указывая, что они сгенерированы. Сообщения рассчитаны на взрослое поколение, среди которого может быть меньше технически подкованных пользователей.
3. Авторы этих картинок зарабатывают с помощью бонусной программы «Фейсбука»*, генерируя высокую активность под своими постами.
4. Распространение такого контента может привести к тому, что объем дезинформации и мошенничества будет расти, так как злоумышленники ищут доверчивых пользователей через комментарии в сообществах с нейроартом.