Apple добавила в iOS 17 защиту от нежелательных нюдсов. Мы проверили ее работу

Apple расширила набор инструментов защиты пользователей от нежелательного контента. Они доступны в бета-версии iOS 17 и появятся на релизе.

Начиная с iOS 15.2 Apple защищает детей от неприемлемого или нецензурного контента. Алгоритмы автоматически размывали фотографии сексуального характера в личных сообщениях пользователей с установленным родительским контролем. Раньше это работало только для детей. Но с iOS 17 функцию открыли для всех владельцев Айфонов.

По задумке Apple, настройка должна уберечь пользователей от нежелательных нюдсов. Работает это теперь не только в «Сообщениях». Мы установили бета-версию iOS 17 для разработчиков и проверили систему.

Отключение нежелательных нюдсов работает не только в «Сообщениях», но и при передаче файлов по AirDrop. Раньше возникали ситуации, когда людям отправляли откровенный контент в общественных местах, например, в метро. Также сексуальный контент алгоритмы проверяют в видеосообщениях — это новый формат кружков, которые можно отправить при неудачном вызове по FaceTime. Они тоже появятся в iOS 17.

Включить защиту от неприемлемого контента могут все пользователи. Для этого нужно зайти в настройки → «Конфиденциальность и безопасность» → «Предупреждение о нецензурном или неприемлемом контенте». Там же можно выбрать, где активировать систему, а где отключить ее.

Для взрослых пользователей. Система сама выбирает, какие изображения считать приемлемыми, а какие нет. Ручного фильтра или другого способа повлиять на работу алгоритмов нет.

Неприемлемые фотографии в сообщениях размываются, а поверх них появляется надпись «Возможно, это нецензурно». Но пользователь может нажать на дополнительную кнопку и увидеть содержимое. Apple также предлагает получить помощь. Но пока ссылка ведет на неработающую страницу на сайте компании. Возможно, это изменится после релиза системы.

Apple не будет блокировать нецензурные фотографии в сторонних приложениях. Например, «Твиттере» и «Телеграме». Возможно, со временем компания расширит сканирование до других своих приложений.

Apple утверждает, что не получает доступа к фотографиям. Вся обработка изображений и видео выполняется на устройстве пользователя.

Для детей. Возможности сканирования расширили до AirDrop, FaceTime, а также новых персонализированных карточек контакта и стикеров. Кроме фотографий это коснется и видео. Но компания не уточнила, распространится ли это на видеозвонки.

Открыть неприемлемый контент детям сложнее, чем взрослым. Вместо просмотра, Apple предлагает ребенку заблокировать отправителя и связаться с родителями. Если он все же хочет ее открыть, компания предупредит о возможных последствиях. Например, что снимок может травмировать ребенка.

Мы проверили, какие фотографии Apple считает неприемлемыми или нецензурными. По понятным причинам мы не покажем картинки из эксперимента, но попробуем максимально безопасно их описать.

Алгоритмы сразу блокировали снимки, на которых присутствуют мужские или женские гениталии. При этом они должны быть явно видны: раздетых девушек и мужчин, которые чуть прикрывают гениталии, система определяла через раз. Иногда она не размывала изображение, но ставила предупреждающую пометку. При этом Apple не блокирует фотографии в нижнем белье или просто с сексуальным подтекстом.

Алгоритмы работают с рисунками, анимационными героями и мемами. Например, система не пропустила картинку Шрека с мужским половым органом и подписью «В глаза мне смотри». Она также распознала эротические изображения, сгенерированные нейросетями.

Периодически случалось странное. Например, система посчитала неприемлемым изображение Пита Дэвидсона в образе куклы Кена. При этом гениталий на картинке не было, а фото без цензуры размещали в американском журнале Paper.

Также система не стала размывать юмористические картинки с явным сексуальным подтекстом. Например, остров в виде полового органа, нарисованный банан, который раскрывает кожуру, или кактус необычной формы.

Когда тестируете новые функции, обновляйте не только Айфон. Пока мы пересылали друг другу NSFW-картинки, оказалось, что их скрывает бета iOS, но не актуальная версия watchOS. И нюдсы приходили на весь экран Apple Watch.