Apple добавила в iOS 17 защиту от нежелательных нюдсов. Мы проверили ее работу

На фотографиях, рисунках и мемах 18+

11
Apple добавила в iOS 17 защиту от нежелательных нюдсов. Мы проверили ее работу

Apple расширила набор инструментов защиты пользователей от нежелательного контента. Они доступны в бета-версии iOS 17 и появятся на релизе.

Начиная с iOS 15.2 Apple защищает детей от неприемлемого или нецензурного контента. Алгоритмы автоматически размывали фотографии сексуального характера в личных сообщениях пользователей с установленным родительским контролем. Раньше это работало только для детей. Но с iOS 17 функцию открыли для всех владельцев Айфонов.

По задумке Apple, настройка должна уберечь пользователей от нежелательных нюдсов. Работает это теперь не только в «Сообщениях». Мы установили бета-версию iOS 17 для разработчиков и проверили систему.

Письма о технологиях и интернете
Помогут использовать технологии по полной и будут держать в курсе мемов и трендов. В вашей почте дважды в месяц. Бесплатно

Как включить функцию и где она работает

Отключение нежелательных нюдсов работает не только в «Сообщениях», но и при передаче файлов по AirDrop. Раньше возникали ситуации, когда людям отправляли откровенный контент в общественных местах, например, в метро. Также сексуальный контент алгоритмы проверяют в видеосообщениях — это новый формат кружков, которые можно отправить при неудачном вызове по FaceTime. Они тоже появятся в iOS 17.

Включить защиту от неприемлемого контента могут все пользователи. Для этого нужно зайти в настройки → «Конфиденциальность и безопасность» → «Предупреждение о нецензурном или неприемлемом контенте». Там же можно выбрать, где активировать систему, а где отключить ее.

Можно настроить поиск неприемлемых фотографий в одном из приложений или во всех сразу
Можно настроить поиск неприемлемых фотографий в одном из приложений или во всех сразу

Как работает функция

Для взрослых пользователей. Система сама выбирает, какие изображения считать приемлемыми, а какие нет. Ручного фильтра или другого способа повлиять на работу алгоритмов нет.

Неприемлемые фотографии в сообщениях размываются, а поверх них появляется надпись «Возможно, это нецензурно». Но пользователь может нажать на дополнительную кнопку и увидеть содержимое. Apple также предлагает получить помощь. Но пока ссылка ведет на неработающую страницу на сайте компании. Возможно, это изменится после релиза системы.

Если открыть фотографию, скрыть обратно ее уже не получится
Если открыть фотографию, скрыть обратно ее уже не получится

Apple не будет блокировать нецензурные фотографии в сторонних приложениях. Например, «Твиттере» и «Телеграме». Возможно, со временем компания расширит сканирование до других своих приложений.

Apple утверждает, что не получает доступа к фотографиям. Вся обработка изображений и видео выполняется на устройстве пользователя.

Для детей. Возможности сканирования расширили до AirDrop, FaceTime, а также новых персонализированных карточек контакта и стикеров. Кроме фотографий это коснется и видео. Но компания не уточнила, распространится ли это на видеозвонки.

Открыть неприемлемый контент детям сложнее, чем взрослым. Вместо просмотра, Apple предлагает ребенку заблокировать отправителя и связаться с родителями. Если он все же хочет ее открыть, компания предупредит о возможных последствиях. Например, что снимок может травмировать ребенка.

Предупреждение для детей при отправке и получения контента сексуального характера. Источник: Apple
Предупреждение для детей при отправке и получения контента сексуального характера. Источник: Apple

Эксперимент Т⁠—⁠Ж: смотрим, что Apple считает нюдсами

Мы проверили, какие фотографии Apple считает неприемлемыми или нецензурными. По понятным причинам мы не покажем картинки из эксперимента, но попробуем максимально безопасно их описать.

Алгоритмы сразу блокировали снимки, на которых присутствуют мужские или женские гениталии. При этом они должны быть явно видны: раздетых девушек и мужчин, которые чуть прикрывают гениталии, система определяла через раз. Иногда она не размывала изображение, но ставила предупреждающую пометку. При этом Apple не блокирует фотографии в нижнем белье или просто с сексуальным подтекстом.

Алгоритмы работают с рисунками, анимационными героями и мемами. Например, система не пропустила картинку Шрека с мужским половым органом и подписью «В глаза мне смотри». Она также распознала эротические изображения, сгенерированные нейросетями.

Периодически случалось странное. Например, система посчитала неприемлемым изображение Пита Дэвидсона в образе куклы Кена. При этом гениталий на картинке не было, а фото без цензуры размещали в американском журнале Paper.

Также система не стала размывать юмористические картинки с явным сексуальным подтекстом. Например, остров в виде полового органа, нарисованный банан, который раскрывает кожуру, или кактус необычной формы.

Как выглядит размытие фотографий в «Сообщениях»
Как выглядит размытие фотографий в «Сообщениях»

Совет Т⁠—⁠Ж, к которому мы пришли во время эксперимента

Когда тестируете новые функции, обновляйте не только Айфон. Пока мы пересылали друг другу NSFW-картинки, оказалось, что их скрывает бета iOS, но не актуальная версия watchOS. И нюдсы приходили на весь экран Apple Watch.

Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult

Сталкивались с получением нежелательных откровенных фотографий? Расскажите, при каких обстоятельствах:
Комментарии проходят модерацию по правилам журнала
Загрузка

Сообщество