Apple добавила в iOS 17 защиту от нежелательных нюдсов. Мы проверили ее работу
На фотографиях, рисунках и мемах 18+

Apple расширила набор инструментов защиты пользователей от нежелательного контента. Они доступны в бета-версии iOS 17 и появятся на релизе.
Начиная с iOS 15.2 Apple защищает детей от неприемлемого или нецензурного контента. Алгоритмы автоматически размывали фотографии сексуального характера в личных сообщениях пользователей с установленным родительским контролем. Раньше это работало только для детей. Но с iOS 17 функцию открыли для всех владельцев Айфонов.
По задумке Apple, настройка должна уберечь пользователей от нежелательных нюдсов. Работает это теперь не только в «Сообщениях». Мы установили бета-версию iOS 17 для разработчиков и проверили систему.
Как включить функцию и где она работает
Отключение нежелательных нюдсов работает не только в «Сообщениях», но и при передаче файлов по AirDrop. Раньше возникали ситуации, когда людям отправляли откровенный контент в общественных местах, например, в метро. Также сексуальный контент алгоритмы проверяют в видеосообщениях — это новый формат кружков, которые можно отправить при неудачном вызове по FaceTime. Они тоже появятся в iOS 17.
Включить защиту от неприемлемого контента могут все пользователи. Для этого нужно зайти в настройки → «Конфиденциальность и безопасность» → «Предупреждение о нецензурном или неприемлемом контенте». Там же можно выбрать, где активировать систему, а где отключить ее.

Как работает функция
Для взрослых пользователей. Система сама выбирает, какие изображения считать приемлемыми, а какие нет. Ручного фильтра или другого способа повлиять на работу алгоритмов нет.
Неприемлемые фотографии в сообщениях размываются, а поверх них появляется надпись «Возможно, это нецензурно». Но пользователь может нажать на дополнительную кнопку и увидеть содержимое. Apple также предлагает получить помощь. Но пока ссылка ведет на неработающую страницу на сайте компании. Возможно, это изменится после релиза системы.

Apple не будет блокировать нецензурные фотографии в сторонних приложениях. Например, «Твиттере» и «Телеграме». Возможно, со временем компания расширит сканирование до других своих приложений.
Apple утверждает, что не получает доступа к фотографиям. Вся обработка изображений и видео выполняется на устройстве пользователя.
Для детей. Возможности сканирования расширили до AirDrop, FaceTime, а также новых персонализированных карточек контакта и стикеров. Кроме фотографий это коснется и видео. Но компания не уточнила, распространится ли это на видеозвонки.
Открыть неприемлемый контент детям сложнее, чем взрослым. Вместо просмотра, Apple предлагает ребенку заблокировать отправителя и связаться с родителями. Если он все же хочет ее открыть, компания предупредит о возможных последствиях. Например, что снимок может травмировать ребенка.

Эксперимент Т—Ж: смотрим, что Apple считает нюдсами
Мы проверили, какие фотографии Apple считает неприемлемыми или нецензурными. По понятным причинам мы не покажем картинки из эксперимента, но попробуем максимально безопасно их описать.
Алгоритмы сразу блокировали снимки, на которых присутствуют мужские или женские гениталии. При этом они должны быть явно видны: раздетых девушек и мужчин, которые чуть прикрывают гениталии, система определяла через раз. Иногда она не размывала изображение, но ставила предупреждающую пометку. При этом Apple не блокирует фотографии в нижнем белье или просто с сексуальным подтекстом.
Алгоритмы работают с рисунками, анимационными героями и мемами. Например, система не пропустила картинку Шрека с мужским половым органом и подписью «В глаза мне смотри». Она также распознала эротические изображения, сгенерированные нейросетями.
Периодически случалось странное. Например, система посчитала неприемлемым изображение Пита Дэвидсона в образе куклы Кена. При этом гениталий на картинке не было, а фото без цензуры размещали в американском журнале Paper.
Также система не стала размывать юмористические картинки с явным сексуальным подтекстом. Например, остров в виде полового органа, нарисованный банан, который раскрывает кожуру, или кактус необычной формы.

Совет Т—Ж, к которому мы пришли во время эксперимента
Когда тестируете новые функции, обновляйте не только Айфон. Пока мы пересылали друг другу NSFW-картинки, оказалось, что их скрывает бета iOS, но не актуальная версия watchOS. И нюдсы приходили на весь экран Apple Watch.
Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult
09.06, 09:57
А как она понимает, какие нюдсы желательны, а какие нет? Вдруг абонент их так ждал, так ждал.
09.06, 10:02
Роткив, если абонент их ждал, значит посмотрит, а нежелательные скипнет (или ради интереса тоже посмотрит)
18.09, 21:49
09.06, 10:03
Роткив, он вас предупреждает что фото может быть что-то нецензурное, а вы можете не открывать или открывать фото в зависимости от того насколько нюдсы вам желательны
09.06, 10:10
Cmmunication, значит, тут сразу две неточности.
Если эпл не делает разницы между желательными и нежелательными фото, то заголовок "Apple добавила в iOS 17 защиту от нежелательных нюдсов" некорректен.
А также получается, что эпл не защищает от нюдсов, а только скрывает их. Это разное, потому что во втором случае нюдс до пользователя доходит и ничто не мешает какому-нибудь там несовершеннолетнему его увидеть, просто еще один раз нажав на экран.
09.06, 10:59
Роткив, защита для детей уже была, а вот для взрослых нет. Если мне незнакомый аккаунт в каком-нибудь мессенджере пришлет дик-пик, я вынуждена буду его увидеть, если открою чат. А с новой функцией я буду знать что мне прислали что-то непристойное и смогу заблокировать аккаунт так и не увидев содержимое фото.
09.06, 15:53
ТЖ образовательный: пришлось загуглить мем со Шреком
09.06, 09:58
> Apple не будет блокировать нецензурные фотографии в сторонних приложениях.
Черт. Буду ждать, когда научатся. А то по четвергам невозможно в Твиттер заходить.
09.06, 10:11
Олег, я думал, в твиттер вообще невозможно заходить - и потому, что впн нужен, и вообще - что там делать, в твиттере.
09.06, 10:06
Олег, если с этим контентом не взаимодействовать: не кликать на такие твиты, по несколько секунд не рассматривать фото в полноэкранном режиме с использованием зума — ничего подобного показываться не будет, всегда можно пометить "этот твит мне не интересен". Иногда бывает, что проскакивает что-то подобное, отметил что не интересно — несколько недель/месяцев тишины.