Обновленный принцип робототехники предотвратит восстание машин

15 октября 2010

smart

Широкое распространение умных вещей, проникновение автоматических механизмов и роботов фактически во все области деятельности человека вызывает у большинства людей опасение и тревожное чувство перед вероятным восстанием роботов, неоднократно обрисованным в научной фантастике и продемонстрированным в кино. Фавориты в разработке ИИ, компании Гугл DeepMind и Open AI (основатель — Илон Маск),представили новый взор на обучение роботов для обеспечения большей безопасности увеличения и человека контроля над автомобилями с интеллектом.

Новое видение, представленное компаниями в совместной научно-исследовательской статье, говорит о необходимости обязать ИИ при ответе принципиально новой задачи обязательно консультироваться с человеком. Таковой подход сможет сократить самостоятельность деятельности роботов, чь` рациональное ответ может каким-либо образом принести неудобство либо кроме того вред человеку.

Главной проблемой наряду с этим есть определение баланса между рациональными и действенными действиями и передача указаний машине. К примеру, самый эффективным методом уборки помещения, с позиций робота, возможно полное удаление из помещения вещей, предметов и мебели обхода, что не устраивает самого хозяина помещения и вещей.

В первый раз принцип «Робот не имеет возможности причинить вред человеку» был сформулирован очень способным фантастом Айзеком Азимовым ещё в первой половине 40-ых годов XX века. В произведении «Хоровод» были выяснены три закона роботехники, предотвращающие угрозу для человека со стороны роботов. Но великий фантаст продемонстрировал, что буквальное принятие этих законов кроме этого может привести к непредвиденным последствиям.

Сравнительно не так давно снятый по мотивам произведений Азимова фильм «Я робот» показывает обстановку, в то время, когда роботы восприняли запрет на причинение вреда человеку как команду к полному ограничению передвижения людей и свободы действий.

Для расширения возможности контроля принимаемых ИИ ответов было предложено предоставление стимула машине при нахождении подходящего для человека ответа на разрешение неприятности. Так, ИИ кроме того обучили играться в элементарные компьютерные игры. Не обращая внимания на повышение затрат времени на обучение автомобилей с применением консультационного способа, растёт безопасность применения роботов и увеличивается контроль над ИИ.

Источник: engadget.com