edu.robogeek.ru

все об обучении робототехнике

prom.robogeek.ru

все о промышленной робототехнике

Основное меню
Категории новостей

Кто сможет правильно настроить ИИ?

Опасность ИИ таится не в том, что он сможет стать умнее людей и подчинить их своей воле, а в нашей неспособности отлаживать его, предупреждает Бен Хоровиц, соучредитель известного венчурного фонда Andreessen Horowitz.

Выступая на этой неделе в Токио на «Новом экономическом саммите», Хоровиц назвал «спекулятивными» опасения о превосходстве ИИ над человеком. Он отметил, что до сих пор не существует обладающей сознанием технологии ИИ.

Идея о том, что ИИ может стать хозяином в этом мире была растиражирована некоторыми из выдающихся техно-гиков, в частности, харизматическим предпринимателем Элоном Маском. По данным Wall Street Journal, Маск даже создал компанию под названием Neuralink, целью которой являются работы по соединению человеческого мозга с компьютером, как способ расширения возможностей мозга, чтобы он мог конкурировать со сверх умным ИИ.

«Никто еще не представил программное обеспечение с ИИ, которое реализовало бы какое-либо намерение или волю», - сказал Хоровиц, ссылаясь на Интернет в качестве примера новой технологии, которая вначале вызывала страх, но позже стала необходимой для повседневной жизни. Все опасались проблем с информационной безопасностью, кибертерроризма и кибервойн. Это сегодня происходит. Но мы все равно пользуемся интернетом».

Хоровиц, однако, предупредил о том, что существует более явная опасность. Если что-то с ИИ пойдет не так, люди не сразу смогут понять, что случилось. ИИ, пояснил он, развивается сегодня посредством процесса, называемого глубоким обучением, который требует компьютеров для обработки больших объемов данных.

Хоровиц привел пример: «На начальном этапе развития ИИ была создана шахматная программа, в которой программист допустил ошибку. Как результат, программа была оптимизирована для проигрыша, а не для победы. В действительности, очень трудно было понять, в чем причина постоянных проигрышей, которые, оказывается, были целью программы. Это реальная опасность».

Комментарии

(0) Добавить комментарий


Ищите команду разработчиков? Не можете найти робота для своих нужд? Пишите нам!

Для обратной связи укажите ваш E-mail, он будет доступен только администратору. Так вы сможете оперативно узнать, когда ответ на ваш вопрос будет опубликован

Новые комментарии

Автономный подводный робот выходит на охоту за крылатками
Редакция Robogeek.ru
29.08.2018
12:30:43
В данной статье речь идет о крылатках. Просим прощения у наших читателей за некорректные данные в материале - ошибка уже исправлена.
Инвалиды научатся управлять роботизированными конечностями силой мысли
Гость
20.08.2018
10:25:50
здравствуйте, у меня вопрос - а можно сделать для инвалидов с дцп управление при помощи силой мысли для тех, кто не может управлять руками и ногами.