robogeek.ru

все о роботах и робототехнике

edu.robogeek.ru

все об обучении робототехнике

Как студенты МIT обманули ИИ Google (+видео)

Мы все больше полагаемся на способности ИИ, которые он демонстрирует в распознавании от экзотических состояний материи до конкретного лица. Но насколько все-таки трудно обмануть эти программные алгоритмы? Именно это и захотели выяснить студенты Массачусетского технологического института (MIT).

Группа студентов решила узнать, насколько надежно и последовательно нейронная сеть идентифицирует объект. Они использовали так называемый «состязательный образ», который представляет собой рисунок для обмана интеллектуальных компьютерных программ. Он использует специфические узоры, чтобы обмануть ИИ. Речь идет не о похожих друг на друга изображениях, а про шаблон, который может накладываться на изображение. Он может быть добавлен как почти невидимый слой поверх существующего изображения. Но эти «состязательные образы» не всегда работают правильно. Масштабирование, кадрирование, ракурс и другие преобразования часто могут повредить или ослабить эффективность накладываемого изображения.

Команде MIT удалось создать алгоритм, который надежно обманывал ИИ, используя «состязательные образы», как двухмерные, так и трехмерные. Эти изображения будут обманывать ИИ, независимо от угла расположения объекта. Команда обманула ИИ компании Google Inception v3, который распознал напечатанную на 3D-принтере черепаху как пистолет.

Это исследование имеет большое значение еще и потому, что описанная проблема существует не только для Google, но и для всех нейронных сетей. Выяснив, как люди могут обмануть эти системы, исследователи смогут разработать новые способы, чтобы сделать системы распознавания ИИ более точными.

Теги: МIT, Google, ИИ

Комментарии

(0) Добавить комментарий

Ищите команду разработчиков? Не можете найти робота для своих нужд? Пишите нам!

Для обратной связи укажите ваш E-mail, он будет доступен только администратору. Так вы сможете оперативно узнать, когда ответ на ваш вопрос будет опубликован

Новые комментарии

Пять занятий, которые оставят людям роботы, когда они заполонят мир
Гость
16.11.2017
12:01:40
Еще нужно специальное министерство которое будет следить чтобы роботы не захватили мир
10 основных навыков, необходимых для робототехников
Гость
15.11.2017
04:03:27
Довольно полезная информация для таких как я 😃