Група дослідників з Мерилендського університету в Коледж-Парку, яка працює зі штучним інтелектом Facebook, розробила “светр-невидимку”, який може приховати людину від систем розпізнавання.
Спочатку команда зосередилася на моделюванні атак: створенні “змагального шаблону”, який можна було б застосувати до виявлених об’єктів на зображенні, а нейромережа не змогла б їх розпізнати. Дослідники спробували створити універсальний протиборчий патч – єдиний шаблон, який можна застосувати на будь-якому об’єкті та приховати його від системи ШІ.
Попередні спроби змагальних атак на нейромережі переважно були зосереджені на класифікаторах (надають цілісну мітку всьому зображенню), але цього разу дослідники взялися за детектори (локалізують об’єкти на зображенні).
“Детектори працюють, розглядаючи тисячі попередніх зображень з різними розташуваннями, розмірами та співвідношеннями сторін об’єкта. Щоб обманути детектор об’єктів, змагальний шаблон має змінити і всі попередні зображення, що набагато складніше, ніж обдурити єдиний висновок класифікатора”, – йдеться у дослідженні.
Дослідники довели, що складніше – не означає неможливо. У рамках широкого дослідження змагальних атак на детектори команді вдалося створити потрібний патч. Команда надрукувала 10 шаблонів на плакатах і розмістила їх у 15 місцях – усі вони знизили продуктивність детекторів у зображеннях.
“Цей стильний светр – чудовий спосіб зігрітися цієї зими. Він оснащений непромокаючою підкладкою з мікрофлісу, має сучасний крій і візерунки, які допоможуть сховатися від детекторів об’єктів. У нашій демонстрації детектор YOLOv2 вдалося обдурити за допомогою шаблону, навченого на наборі даних COCO із ретельно сконструйованою метою”, – зазначає команда дослідників.
