Apple добавила в iOS 17 защиту от нежелательных нюдсов. Мы проверили ее работу

На фотографиях, рисунках и мемах 18+
11
Apple добавила в iOS 17 защиту от нежелательных нюдсов. Мы проверили ее работу
Аватар автора

Артём Мазанов

познакомился с коллегами поближе

Страница автора

Apple расширила набор инструментов защиты пользователей от нежелательного контента. Они доступны в бета-версии iOS 17 и появятся на релизе.

Начиная с iOS 15.2 Apple защищает детей от неприемлемого или нецензурного контента. Алгоритмы автоматически размывали фотографии сексуального характера в личных сообщениях пользователей с установленным родительским контролем. Раньше это работало только для детей. Но с iOS 17 функцию открыли для всех владельцев Айфонов.

По задумке Apple, настройка должна уберечь пользователей от нежелательных нюдсов. Работает это теперь не только в «Сообщениях». Мы установили бета-версию iOS 17 для разработчиков и проверили систему.

Письма о технологиях и интернете
Помогут использовать технологии по полной и будут держать в курсе мемов и трендов. В вашей почте дважды в месяц. Бесплатно

Как включить функцию и где она работает

Отключение нежелательных нюдсов работает не только в «Сообщениях», но и при передаче файлов по AirDrop. Раньше возникали ситуации, когда людям отправляли откровенный контент в общественных местах, например, в метро. Также сексуальный контент алгоритмы проверяют в видеосообщениях — это новый формат кружков, которые можно отправить при неудачном вызове по FaceTime. Они тоже появятся в iOS 17.

Включить защиту от неприемлемого контента могут все пользователи. Для этого нужно зайти в настройки → «Конфиденциальность и безопасность» → «Предупреждение о нецензурном или неприемлемом контенте». Там же можно выбрать, где активировать систему, а где отключить ее.

Можно настроить поиск неприемлемых фотографий в одном из приложений или во всех сразу
Можно настроить поиск неприемлемых фотографий в одном из приложений или во всех сразу

Как работает функция

Для взрослых пользователей. Система сама выбирает, какие изображения считать приемлемыми, а какие нет. Ручного фильтра или другого способа повлиять на работу алгоритмов нет.

Неприемлемые фотографии в сообщениях размываются, а поверх них появляется надпись «Возможно, это нецензурно». Но пользователь может нажать на дополнительную кнопку и увидеть содержимое. Apple также предлагает получить помощь. Но пока ссылка ведет на неработающую страницу на сайте компании. Возможно, это изменится после релиза системы.

Если открыть фотографию, скрыть обратно ее уже не получится
Если открыть фотографию, скрыть обратно ее уже не получится

Apple не будет блокировать нецензурные фотографии в сторонних приложениях. Например, «Твиттере» и «Телеграме». Возможно, со временем компания расширит сканирование до других своих приложений.

Apple утверждает, что не получает доступа к фотографиям. Вся обработка изображений и видео выполняется на устройстве пользователя.

Для детей. Возможности сканирования расширили до AirDrop, FaceTime, а также новых персонализированных карточек контакта и стикеров. Кроме фотографий это коснется и видео. Но компания не уточнила, распространится ли это на видеозвонки.

Открыть неприемлемый контент детям сложнее, чем взрослым. Вместо просмотра, Apple предлагает ребенку заблокировать отправителя и связаться с родителями. Если он все же хочет ее открыть, компания предупредит о возможных последствиях. Например, что снимок может травмировать ребенка.

Предупреждение для детей при отправке и получения контента сексуального характера. Источник: Apple
Предупреждение для детей при отправке и получения контента сексуального характера. Источник: Apple

Эксперимент Т⁠—⁠Ж: смотрим, что Apple считает нюдсами

Мы проверили, какие фотографии Apple считает неприемлемыми или нецензурными. По понятным причинам мы не покажем картинки из эксперимента, но попробуем максимально безопасно их описать.

Алгоритмы сразу блокировали снимки, на которых присутствуют мужские или женские гениталии. При этом они должны быть явно видны: раздетых девушек и мужчин, которые чуть прикрывают гениталии, система определяла через раз. Иногда она не размывала изображение, но ставила предупреждающую пометку. При этом Apple не блокирует фотографии в нижнем белье или просто с сексуальным подтекстом.

Алгоритмы работают с рисунками, анимационными героями и мемами. Например, система не пропустила картинку Шрека с мужским половым органом и подписью «В глаза мне смотри». Она также распознала эротические изображения, сгенерированные нейросетями.

Периодически случалось странное. Например, система посчитала неприемлемым изображение Пита Дэвидсона в образе куклы Кена. При этом гениталий на картинке не было, а фото без цензуры размещали в американском журнале Paper.

Также система не стала размывать юмористические картинки с явным сексуальным подтекстом. Например, остров в виде полового органа, нарисованный банан, который раскрывает кожуру, или кактус необычной формы.

Как выглядит размытие фотографий в «Сообщениях»
Как выглядит размытие фотографий в «Сообщениях»

Совет Т⁠—⁠Ж, к которому мы пришли во время эксперимента

Когда тестируете новые функции, обновляйте не только Айфон. Пока мы пересылали друг другу NSFW-картинки, оказалось, что их скрывает бета iOS, но не актуальная версия watchOS. И нюдсы приходили на весь экран Apple Watch.

Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult

Артём МазановСталкивались с получением нежелательных откровенных фотографий? Расскажите, при каких обстоятельствах:
  • А как она понимает, какие нюдсы желательны, а какие нет? Вдруг абонент их так ждал, так ждал.10
  • Олег Мельник> Apple не будет блокировать нецензурные фотографии в сторонних приложениях. Черт. Буду ждать, когда научатся. А то по четвергам невозможно в Твиттер заходить.4
  • Артём МазановРоткив, если абонент их ждал, значит посмотрит, а нежелательные скипнет (или ради интереса тоже посмотрит)6
  • OРоткив, он вас предупреждает что фото может быть что-то нецензурное, а вы можете не открывать или открывать фото в зависимости от того насколько нюдсы вам желательны1
  • d1mmmkОлег, если с этим контентом не взаимодействовать: не кликать на такие твиты, по несколько секунд не рассматривать фото в полноэкранном режиме с использованием зума — ничего подобного показываться не будет, всегда можно пометить "этот твит мне не интересен". Иногда бывает, что проскакивает что-то подобное, отметил что не интересно — несколько недель/месяцев тишины.3
  • Cmmunication, значит, тут сразу две неточности. Если эпл не делает разницы между желательными и нежелательными фото, то заголовок "Apple добавила в iOS 17 защиту от нежелательных нюдсов" некорректен. А также получается, что эпл не защищает от нюдсов, а только скрывает их. Это разное, потому что во втором случае нюдс до пользователя доходит и ничто не мешает какому-нибудь там несовершеннолетнему его увидеть, просто еще один раз нажав на экран.1
  • Олег, я думал, в твиттер вообще невозможно заходить - и потому, что впн нужен, и вообще - что там делать, в твиттере.4
  • OРоткив, защита для детей уже была, а вот для взрослых нет. Если мне незнакомый аккаунт в каком-нибудь мессенджере пришлет дик-пик, я вынуждена буду его увидеть, если открою чат. А с новой функцией я буду знать что мне прислали что-то непристойное и смогу заблокировать аккаунт так и не увидев содержимое фото.3
  • LanaТЖ образовательный: пришлось загуглить мем со Шреком6
  • Sergey Zarubin0