Абстрактний постер зробив людину невидимим для машинного зору

Група дослідників з Левенского католицького університету (Бельгія) знайшла спосіб зробити людину невидимою для систем розпізнавання візуальних образів. Щоб добитися необхідного ефекту, вони створили спеціальне абстрактне зображення і розмістили його на постері 40×40 див.

Василь Парфьонов

Розпізнавання образів у реальному часі — перспективна технологія, яка вже знаходить застосування в охоронних комплексах і системах пошуку конкретних людей в натовпі. Для виконання цього завдання використовуються згорткові нейронні мережі, які здатні з високою швидкістю і точністю виділяти необхідні творцеві образи з усієї картинки. В силу особливостей навчання таких алгоритмів, вони вразливі до атаки через змагальні приклади — зображення, для людини практично ідентичні цільовим, але визначаються як зовсім інший клас об’єктів нейромережею.

Бельгійські вчені Сімен Тюс (Simen Thys), Вайбе Ван Ранст (Wiebe Van Ranst) і Тун Гедеме (Toon Goedeme) задалися метою створити універсальне зображення, яке виведе людину з «поля зору» нейромережі. Наукова робота, присвячена цій темі, буде представлена на конференції «Світлі і темні сторони комп’ютерного зору» в Каліфорнії, США, влітку 2019 року, а текст вже доступний на сайті arxiv.org.

Приклад візуалізації роботи алгоритму YOLOv3

Дослідники перевіряли свій метод на нейромережі з відкритим вихідним кодом Darknet, яка використовує модель розпізнавання YOLO («ти дивишся лише одного разу»). Це одна з найшвидших і ефективних систем штучного інтелекту для роботи з зображеннями, доступна кожному. Як показує результат команди з Левенского католицького університету, їх змагальний приклад майже завжди обманює машинне зір. Надалі планується робота над покращенням зображення, щоб його можна було надрукувати на одязі.

Проблема атак на нейромережеві алгоритми розпізнавання образів за допомогою змагальних прикладів відома давно і до цих пір не була серйозною загрозою для них — достатньо трохи повернути зразок і алгоритм знову сприймає його «правильно». Однак у 2017 році дослідниками з Массачусетського технологічного інституту була створена програма, яка дозволяє створювати тривимірні образи, гарантовано обманюють машинне зір. Завданням бельгійських вчених було створити патерн, який замаскує настільки легку для розпізнавання мішень як людина.

Источник