В 1942 году легендарный писатель-фантаст Айзек Азимов представил свои Три закона робототехники в своем рассказе «Застрявший». Эти законы позже были популяризированы в его знаменитом сборнике рассказов Я, Робот.
Первый закон: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Второй закон: Робот должен подчиняться приказам человека, если только эти приказы не противоречат Первому закону.
Третий закон: Робот должен заботиться о своей безопасности, пока это не противоречит Первому или Второму закону.
Хотя эти законы были изначально созданы в художественных произведениях, они на протяжении десятилетий формировали дискуссии об этике роботов. По мере того как системы ИИ — которые можно рассматривать как виртуальных роботов — становятся все более сложными и распространенными, некоторые технологи находят подход Азимова полезным для размышлений о необходимых мерах защиты ИИ, взаимодействующего с людьми.
Однако существующие три закона недостаточны. Сегодня мы вступаем в эпоху беспрецедентного сотрудничества человека и ИИ, которую Азимов едва ли мог предвидеть. Быстрое развитие возможностей генеративного ИИ, особенно в области создания текста и изображений, создало проблемы, выходящие за рамки первоначальных опасений Азимова, связанных с физическим вредом и подчинением.
Читать далее