robogeek.ru

все о роботах и робототехнике

edu.robogeek.ru

все об обучении робототехнике

Новый алгоритм позволит сделать «глубинное обучение» эффективнее

Исследователям из Университета Райса удалось адаптировать распространенную технологию быстрого поиска данных, чтобы сократить количество вычислений в рамках глубинного машинного обучения. Метод применим к любой архитектуре, при этом, чем больше нейросеть, тем значительнее можно сократить затраты на вычисления.

Новый метод особенно актуален для технологических гигантов, таких как Google, Facebook и Microsoft, которые работают с огромным количеством данных при разработке автономных машин, переводчиков и систем автоматических ответов на электронные письма.

Предлагаемый командой из Университета Райса метод основан на традиционном «хэшировании», превращающим данные в небольшие числа, с которыми легко работать. Эти хэши сохраняются в таблицах, которые можно сравнить с оглавлением книги. Такой подход позволяет сократить затраты на вычисления без значительной потери точности – по результатам исследований количество вычислений удалось сократить на 95%, тогда как точность изменилась всего на 1%.

Основной элемент сети глубинного обучения – это искусственный нейрон, математическая функция, превращающая исходные данные в некоторый результат. В ходе машинного обучения все нейроны изначально одинаковы, но специализируются в процессе. Системе «демонстрируют» большие объемы данных, и каждый нейрон распознает отдельные ее части и закономерности. Нейроны нижнего уровня выполняют простейшие задачи, передавая результаты работы нейронам более высокого уровня. Системы с всего несколькими уровнями нейронов могут научиться распознавать на изображениях лица, собак, дорожные знаки и другое.

Чем больше в системе нейронов, тем больше у нее возможностей – сегодня единственным ограничением являются доступные вычислительные ресурсы, поскольку разработанные 30-50 лет назад алгоритмы просто не рассчитаны на такой уровень сложности. Новая разработка позволяет сократить количество необходимых вычислительных ресурсов – чем больше нейросеть, тем значительнее экономия. Согласно математическим моделям, в нейросети из миллиарда нейронов экономия может составить более 99% процентов.

Комментарии

(0) Добавить комментарий

Ищите команду разработчиков? Не можете найти робота для своих нужд? Пишите нам!

Для обратной связи укажите ваш E-mail, он будет доступен только администратору. Так вы сможете оперативно узнать, когда ответ на ваш вопрос будет опубликован

Новые комментарии

Роботы смогут стать частью муравьиной колонии
Гость
11.10.2017
10:36:42
В своем следующем проекте исследователям следует сфокусироваться на повышении качества жизни у тараканов - они (тараканы) намного более близки...
Мой друг – робот. Социокультурные аспекты социальной робототехники
Татьяна
01.10.2017
02:03:46
Отличный курс, очень интересный!