edu.robogeek.ru

все об обучении робототехнике

prom.robogeek.ru

все о промышленной робототехнике

Основное меню
Категории новостей

Кто сможет правильно настроить ИИ?

Опасность ИИ таится не в том, что он сможет стать умнее людей и подчинить их своей воле, а в нашей неспособности отлаживать его, предупреждает Бен Хоровиц, соучредитель известного венчурного фонда Andreessen Horowitz.

Выступая на этой неделе в Токио на «Новом экономическом саммите», Хоровиц назвал «спекулятивными» опасения о превосходстве ИИ над человеком. Он отметил, что до сих пор не существует обладающей сознанием технологии ИИ.

Идея о том, что ИИ может стать хозяином в этом мире была растиражирована некоторыми из выдающихся техно-гиков, в частности, харизматическим предпринимателем Элоном Маском. По данным Wall Street Journal, Маск даже создал компанию под названием Neuralink, целью которой являются работы по соединению человеческого мозга с компьютером, как способ расширения возможностей мозга, чтобы он мог конкурировать со сверх умным ИИ.

«Никто еще не представил программное обеспечение с ИИ, которое реализовало бы какое-либо намерение или волю», - сказал Хоровиц, ссылаясь на Интернет в качестве примера новой технологии, которая вначале вызывала страх, но позже стала необходимой для повседневной жизни. Все опасались проблем с информационной безопасностью, кибертерроризма и кибервойн. Это сегодня происходит. Но мы все равно пользуемся интернетом».

Хоровиц, однако, предупредил о том, что существует более явная опасность. Если что-то с ИИ пойдет не так, люди не сразу смогут понять, что случилось. ИИ, пояснил он, развивается сегодня посредством процесса, называемого глубоким обучением, который требует компьютеров для обработки больших объемов данных.

Хоровиц привел пример: «На начальном этапе развития ИИ была создана шахматная программа, в которой программист допустил ошибку. Как результат, программа была оптимизирована для проигрыша, а не для победы. В действительности, очень трудно было понять, в чем причина постоянных проигрышей, которые, оказывается, были целью программы. Это реальная опасность».

Комментарии

(0) Добавить комментарий


Ищите команду разработчиков? Не можете найти робота для своих нужд? Пишите нам!

Для обратной связи укажите ваш E-mail, он будет доступен только администратору. Так вы сможете оперативно узнать, когда ответ на ваш вопрос будет опубликован

Новые комментарии

Солдаты США в Афганистане испытают персональных дронов в боевых условиях (+видео)
Николай
04.07.2019
07:57:18
Возможно, такие дроны смогут использовать миротворческие подразделения в зонах урегулирования конфликтов.
Робот Бадди хочет стать компаньоном вашей семьи (+ видео)
Админ
01.07.2019
10:36:25
На начало 2018 цена Бадди составляла 1550$, по данным различных иностранных СМИ. Плюс доставка из Парижа. ...