edu.robogeek.ru

все об обучении робототехнике

prom.robogeek.ru

все о промышленной робототехнике

Основное меню
Категории новостей

Красочное печатное полотнище cделает вас почти невидимым для ИИ (+видео)

Большую тревогу порой вызывают новости о новых вариантах использования искусственного интеллекта. Возможность государственных органов в массовом порядке отслеживать и идентифицировать людей может лишить граждан общественной анонимности. Но, как показали новые исследования, есть все-таки еще способы обмануть такие системы.

Последним примером стала работа группы будущих инженеров из Левенского католического университета в Бельгии. В статье, опубликованной на прошлой неделе на сервере препринтов arXiv, эти студенты показывают, как простые печатные шаблоны могут обмануть систему ИИ, предназначенную для распознавания людей на изображениях.

Если вы распечатаете один из плакатов, специально разработанных студентами, и повесите его себе на шею, то с точки зрения ИИ, вы, вероятно, накрылись плащом-невидимкой.

Возможно это выглядит странным, но на самом деле данное явление совсем не новость в мире искусственного интеллекта. Такие шаблоны известны как состязательные примеры и они используют эффект хрупкого интеллекта систем компьютерного зрения, чтобы обмануть их, заставив увидеть то, чего нет на самом деле.

Прежде состязательные примеры использовались для того, чтобы обмануть системы распознавания лиц (просто наденьте особенные очки, и ИИ примет вас за какого-нибудь известного артиста). Они были превращены в наклейки, напечатаны на 3D-объектах, и даже использовались для создания предметов искусства, которые могут обмануть алгоритмы.

Многие исследователи предупреждают, что состязательные примеры могут быть опасными. Их можно использовать, например, для того, чтобы обмануть роботизированные автомобили, чтобы они читали знак остановки в качестве фонарного столба. В другом случае они могли обмануть системы ИИ, предназначенные для выявления заболеваний. Это может быть сделано в целях медицинского мошенничества или даже для преднамеренного причинения вреда.

Но в случае с состязательным плакатом, разработанным студентами, он может обмануть только один конкретный алгоритм YOLOv2. Он не работает даже с известными системами компьютерного зрения, разработанными Google или другими техническими компаниями и, конечно, он не работает для человека, который на него смотрит.

Это означает, что идея футболки, которая делает вас невидимым для всех систем наблюдения, остается в сфере фантастики, по крайней мере, на данный момент. Однако, по мере того, как контроль за использованием ИИ распространяется по всему миру, все больше и больше людей могут стремиться к собственной анонимности.

Теги: ИИ

Комментарии

(0) Добавить комментарий


Ищите команду разработчиков? Не можете найти робота для своих нужд? Пишите нам!

Для обратной связи укажите ваш E-mail, он будет доступен только администратору. Так вы сможете оперативно узнать, когда ответ на ваш вопрос будет опубликован

Новые комментарии

Первая демонстрация БПЛА палубного базирования «SeaDrone – MG» разрабатываемого для Роснефти и Газпрома
Гость
15.09.2019
08:24:06
Изобрети велосипед! Беспилотный конвертоплан "ЭРА " ( Россия ) , Видео прошлого года, взлет и посадка в автоматическом режиме на движущуюся площадку...
Новый робот с мягкими пальцами сможет бережно ловить медуз
Гость
02.09.2019
09:28:59
Я сначала читала думала, что за бред? А потом дочитала, а тут про медуз!😊 Как же здорово!Учусь в универе на системное администрирование, но думаю...