Apple виявлятиме випадки насилля на фото користувачів

Спеціаліст по криптографії і професор в Університеті Джона Хопкінса Метью Грін отримав інформацію від декількох людей, що Apple готує систему автоматичного виявлення жорстокого поводження з дітьми в локальній бібліотеці фотографій на пристроях компанії.

Про це стало відомо у Твіттері Метью Гріна.

Як працюватиме новий функціонал

Інструмент буде сканувати фотографії, що зберігаються на iPhone користувачів, за допомогою алгоритмів хешування. На пристрій завантажується набір відбитків, відповідних відомому незаконному контенту, потім він за допомогою хешів порівнюється з тим, що зберігається на смартфоні.

Знімки не будуть відправлятися в хмару заради збереження конфіденційності користувачів. Apple раніше заявляла, що схожа система працює при завантаженні фотографій в iCloud. Тепер вона буде розгорнута на стороні клієнта.

Очевидна проблема, яка одразу привертає увагу – помилкові спрацювання нового алгоритму. Їх точно не уникнути, тож цікаво, як Apple працюватиме з такими ситуаціями.

На це звертає увагу і Грін. Він відзначає, що алгоритми хешування не є повністю надійними і можуть давати помилкові спрацьовування. Якщо Apple дозволить урядам регулювати базу забороненого контенту, то ті можуть завантажувати в неї дані, наприклад, для придушення політичної активності.

Офіційно Apple не анонсувала запуск функції.