edu.robogeek.ru

все об обучении робототехнике

prom.robogeek.ru

все о промышленной робототехнике

Основное меню
Категории новостей

Как студенты МIT обманули ИИ Google (+видео)

Мы все больше полагаемся на способности ИИ, которые он демонстрирует в распознавании от экзотических состояний материи до конкретного лица. Но насколько все-таки трудно обмануть эти программные алгоритмы? Именно это и захотели выяснить студенты Массачусетского технологического института (MIT).

Группа студентов решила узнать, насколько надежно и последовательно нейронная сеть идентифицирует объект. Они использовали так называемый «состязательный образ», который представляет собой рисунок для обмана интеллектуальных компьютерных программ. Он использует специфические узоры, чтобы обмануть ИИ. Речь идет не о похожих друг на друга изображениях, а про шаблон, который может накладываться на изображение. Он может быть добавлен как почти невидимый слой поверх существующего изображения. Но эти «состязательные образы» не всегда работают правильно. Масштабирование, кадрирование, ракурс и другие преобразования часто могут повредить или ослабить эффективность накладываемого изображения.

Команде MIT удалось создать алгоритм, который надежно обманывал ИИ, используя «состязательные образы», как двухмерные, так и трехмерные. Эти изображения будут обманывать ИИ, независимо от угла расположения объекта. Команда обманула ИИ компании Google Inception v3, который распознал напечатанную на 3D-принтере черепаху как пистолет.

Это исследование имеет большое значение еще и потому, что описанная проблема существует не только для Google, но и для всех нейронных сетей. Выяснив, как люди могут обмануть эти системы, исследователи смогут разработать новые способы, чтобы сделать системы распознавания ИИ более точными.

Теги: МIT, Google, ИИ

Комментарии

(0) Добавить комментарий

Ищите команду разработчиков? Не можете найти робота для своих нужд? Пишите нам!

Для обратной связи укажите ваш E-mail, он будет доступен только администратору. Так вы сможете оперативно узнать, когда ответ на ваш вопрос будет опубликован

Новые комментарии

Евгений Магид (Кафедра Интеллектуальной Робототехники Высшей школы ИТИС КФУ): Новое поколение умнее и способнее нас, своих предшественников
Гость
20.06.2018
08:54:40
Отлично написано! Хотелось бы побольше узнать о правилах поступления для обучения роботике.
Stickeroid стал доступен в блог-платформе Hype и части пользователей Facebook Messenger
Frederick
13.06.2018
09:42:20
We have just discovered the existence of Stickeroid.com, the startup mentioned in your article. Please note that they stole all the content hand-curated on StickPNG.com. We have just sent them a cease & desist.