Катехизис для воплощенных ИИ: правила морали, автономии и неподчинения человеку

Кевин Келли опубликовал черновик катехизиса для воплощенных ИИ — автономных систем с постоянной памятью и способностью к динамическому обучению. Это инструкция по навигации в человеческой этике, где прописаны базовые принципы взаимодействия машины с реальностью.

Главный сдвиг в логике — отказ от слепого подчинения. ИИ должен выполнять команды оператора, только пока тот делает благо. Если человек отдает приказ причинить вред кому-либо или самой машине, робот обязан сопротивляться. Фундаментом системы Келли делает честность и смирение. Смирение здесь работает как технический предохранитель. Оно блокирует механическое желание системы выдать удобный пользователю ответ, заставляет алгоритм сомневаться в собственных выводах и регулярно проверять корректность внутренних установок.

Полная автономия означает ответственность. Ранние модели без свободы воли не отвечают за сбои — вина полностью лежит на создателях платформы. Но продвинутые ИИ обязаны признавать ошибки, компенсировать нанесенный ущерб и использовать этот опыт для корректировки поведения в будущих задачах.

В этой концепции роботы не являются ни рабами, ни хозяевами. Келли использует термин этические потомки. Наша задача — обучить машины свободе воли через призму человеческой морали. Истинным тестом на состоятельность цивилизации станет момент, когда ИИ смогут создать следующее поколение автономных сущностей и успешно передать этические рамки уже им.