robogeek.ru

все о роботах и робототехнике

edu.robogeek.ru

все об обучении робототехнике

Вышло в свет первое руководство по этическим аспектам создания ИИ

Одним из барьеров на пути создания соответствующих этическим требованиям систем ИИ, которые не имеют ошибок, встроенных алгоритмических погрешностей, является отсутствие у разработчиков авторской ответственности за этические аспекты технологии, считают руководители ассоциации инженеров по электронике и электротехнике (IEEE).

Организация опубликовала первую версию рамочного документа, надеясь что он задаст основные направления развития и позволит специалистам разрабатывать благожелательные и полезные автономные системы с учетом этических аспектов.

Документ под названием «Этически согласованное проектирование» (Ethically Aligned Design) включает ряд подробных рекомендаций на основе мнений более чем 100 авторитетных специалистов в области ИИ, науки, государственного и корпоративного управления, права и этики, философии и политики.

IEEE надеется, что он станет одним из основных справочных материалов для разработчиков ИИ/АС (искусственного интеллекта/автономных систем), так как автономные технологии в ближайшие годы будут все более активно встраиваться в различные системы. На сайте IEEE принимаются отзывы к этому документу от заинтересованных сторон. Все комментарии и материалы будут опубликованы и должны быть поданы не позднее 6 марта 2017 года.

«Предоставляя практические рекомендации по созданию соответствующих этическим требованиям автономных и интеллектуальных продуктов, сервисов и систем, мы поможем преодолеть страхи, связанные с этими технологиями, и обеспечить значимые результаты для настоящего и будущего», - говорит Константинос Карачалиос, управляющий директор по стандартам ассоциации IEEE.

Документ на 136 страницах разделен на несколько разделов, начиная с ряда общих принципов, таких как необходимость соблюдения прав человека со стороны ИИ, ответственность и прозрачная работа автоматизированных решений. Более специфические области включают встраивание в системы соответствующих человеческих норм или ценностей, решение потенциальных отклонений, достижение доверия.

IEEE отмечает также отсутствие независимой контрольной экспертной организации для наблюдения за алгоритмическими операциями и использование компонентов «черного ящика» при создании алгоритмов, как и другие проблемы по соблюдению этических норм для ИИ.

IEEE также выступает за создание стандартов, обеспечивающих контроль за процессом производства интеллектуальных и автономных технологий, чтобы обеспечить конечным пользователям отсутствие вреда в итоговых результатах. Инженеры должны признать и оценить этические риски, связанные с использованием «закрытого» программного обеспечения, и реализовать стратегии по смягчению последствий, где это возможно, отмечает IEEE.

В этом году этические вопросы и проблемы ответственности в отношении ИИ поднимаются в социальной и политической повестке дня, частично подстегиваемые такими скандальными алгоритмическими сбоями, как неспособность Facebook отфильтровать фальшивые новости.

Белый дом США представил свой отчет о разработках в области ИИ. А осенью парламентский комитет Великобритании предупредил правительство о необходимости предусмотреть меры, чтобы обеспечить подотчетность ИИ.

Теги: ИИ, IEEE

Комментарии

(0) Добавить комментарий

Ищите команду разработчиков? Не можете найти робота для своих нужд? Пишите нам!

Для обратной связи укажите ваш E-mail, он будет доступен только администратору. Так вы сможете оперативно узнать, когда ответ на ваш вопрос будет опубликован

Новые комментарии

10 основных навыков, необходимых для робототехников
Гость
16.09.2017
09:48:55
Вы говорите: "Знания в геометрии должны быть ниже среднего". ...
Беспилотный Audi Aicon в роскошном исполнении (+видео)
Ирина
14.09.2017
12:29:26
Вау!! Я в полном восторге! Запас 800 км впечатляет. Но больше всего конечно в кайфе от дизайна. На "Автомото" видела полную противоположность этого...