Источником концепции стали произведения знаменитого писателя-фантаста Айзека Азимова. Именно он сформулировал базовые принципы, которые легли в основу теоретической робототехники. Впервые они были подробно представлены в его знаменитых книгах, определивших вектор развития жанра.
Оглавление
Классические три закона Айзека Азимова
В мире фантастической литературы правила безопасности роботов имеют строгую иерархию. Они выглядят следующим образом:
- Первый закон: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Второй закон: Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
- Третий закон: Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Позже писатель добавил еще одно, фундаментальное правило, которое стояло над всеми остальными и регулировало отношение машин ко всему человечеству в целом.
Нулевой закон робототехники
Высшая ступень абстракции звучит так: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред». Это правило заставляет искусственный интеллект мыслить глобально, оценивая угрозы для всей цивилизации, а не для отдельного индивидуума.
Актуальность законов в современности
Появление автономного транспорта, дронов и военных человекоподобных роботов ставит перед обществом новые сложные задачи. Кто несет ответственность за ошибку машины? Как запрограммировать мораль в кремниевый процессор? На эти вопросы человечеству еще предстоит найти окончательные ответы.
