robogeek.ru

все о роботах и робототехнике

edu.robogeek.ru

все об обучении робототехнике

Кто сможет правильно настроить ИИ?

Опасность ИИ таится не в том, что он сможет стать умнее людей и подчинить их своей воле, а в нашей неспособности отлаживать его, предупреждает Бен Хоровиц, соучредитель известного венчурного фонда Andreessen Horowitz.

Выступая на этой неделе в Токио на «Новом экономическом саммите», Хоровиц назвал «спекулятивными» опасения о превосходстве ИИ над человеком. Он отметил, что до сих пор не существует обладающей сознанием технологии ИИ.

Идея о том, что ИИ может стать хозяином в этом мире была растиражирована некоторыми из выдающихся техно-гиков, в частности, харизматическим предпринимателем Элоном Маском. По данным Wall Street Journal, Маск даже создал компанию под названием Neuralink, целью которой являются работы по соединению человеческого мозга с компьютером, как способ расширения возможностей мозга, чтобы он мог конкурировать со сверх умным ИИ.

«Никто еще не представил программное обеспечение с ИИ, которое реализовало бы какое-либо намерение или волю», - сказал Хоровиц, ссылаясь на Интернет в качестве примера новой технологии, которая вначале вызывала страх, но позже стала необходимой для повседневной жизни. Все опасались проблем с информационной безопасностью, кибертерроризма и кибервойн. Это сегодня происходит. Но мы все равно пользуемся интернетом».

Хоровиц, однако, предупредил о том, что существует более явная опасность. Если что-то с ИИ пойдет не так, люди не сразу смогут понять, что случилось. ИИ, пояснил он, развивается сегодня посредством процесса, называемого глубоким обучением, который требует компьютеров для обработки больших объемов данных.

Хоровиц привел пример: «На начальном этапе развития ИИ была создана шахматная программа, в которой программист допустил ошибку. Как результат, программа была оптимизирована для проигрыша, а не для победы. В действительности, очень трудно было понять, в чем причина постоянных проигрышей, которые, оказывается, были целью программы. Это реальная опасность».

Комментарии

(0) Добавить комментарий

Новые комментарии

AeroScope позволит идентифицировать и отслеживать летающие дроны
Гость
20.10.2017
10:55:34
Во первых уже сделали давно. А во вторых очень приятно кому то будет получить по голове этим свертком в последствии. Идея на уровне пещерных людей.
Робот-садовод поливает и охраняет растения (+видео)
Гость
20.10.2017
10:38:23
Солнечную батарею надо заменить на мини-турбину работающую от напора воды. Умный водомет-неплохая идея, надо увеличить мощность и отгонять бомжей.