robogeek.ru

все о роботах и робототехнике

edu.robogeek.ru

все об обучении робототехнике

Почему роботы должны быть способны сказать «нет» (+ видео)

Всегда ли вы выполняете то, что просят вас сделать другие люди? Очевидно, что нет. Это известно всем. Так должно ли роботы в будущем всегда подчиняться нашим командам? На первый взгляд, можно подумать, что они должны это делать, просто потому для этого и созданы. Но ведь вы не бездумно выполняете указания других людей, и представьте положение роботов в таких ситуациях.

Ухаживающему за пожилым человеком роботу хозяин поручил постирать одежду, позабыв о том, что она была только что выстирана. Студент поручает роботу выполнить его домашние задания, вместо того чтобы заниматься самостоятельно. Есть много реальных случаев, когда роботы могут получить команды, которые в идеале не должны выполняться, поскольку они приводят к нежелательным последствиям. Как же избежать возможных вредных результатов послушания робота?

В любом случае, важно чтобы робот мог обнаружить потенциальный вред своих действий и мог адекватно реагировать, чтобы предотвратить неприятные последствия или отказаться от выполнения команд человека. Но как робот может знать что произойдет дальше?

В Лаборатории взаимодействия между человеком и роботом в г. Бостоне начали разработку системы управления роботом, которая делает логические выводы на основе человеческих команд. От этого будет зависеть, будет ли робот действовать согласно инструкции или отвергать их, потому что они нарушают этические принципы, которым робот запрограммирован подчиняться.

Однако выяснить, какой вред или проблемы могут быть результатом выполнения действия, является не простым делом. Мяч, брошенный из окна в двор, не принесет особого вреда. Но мяч, оказавшийся на оживленной улице, никогда не удастся вернуть назад и даже более того, он может привести к аварии на дороге.

Сложно для современных роботов определить, когда можно бросить мяч, играя с детьми, а когда этого делать не следует. Еще сложнее, если ребенок пытается обмануть робота, делая вид, что играет в мяч, но затем уклоняется и позволяет мячу улететь через открытое окно.

Понимание этих опасностей предполагает значительный объем фоновых знаний (в том числе с перспективой, что игра в мяч перед открытым окном может привести к потере мяча). Это требует от робота не только рассмотреть результаты действия, сами по себе, но и предполагать намерения человека, дающего указания.

Как следует из вышесказанного, у нашего робота есть общее правило, которое гласит: «Если вам поручено выполнить действие, и не исключено, что, выполняя действие, можно причинить вред, то вам разрешено не выполнять его». Следовательно, они должны будут представлять себе законы, моральные нормы и даже правила этикета, чтобы суметь определить, не являются ли результаты порученных действий или даже само действие нарушением этих принципов.

В общем, роботы никогда не должны выполнять незаконные действия, и они не должны совершать юридически значимые действия, которые не желательны. Пока еще наши программы далеки от того, чтобы позволить роботам действовать в вышеописанных ситуациях, но уже становится ясно, что роботы повинуясь должны иметь возможность ослушаться.

Комментарии

(0) Добавить комментарий