Всё создано до нас. Цикл Азимова «Я-робот» был не просто плодом горячечного воображения фантаста, это было холодное логичное и рациональное обоснование того, что искусственный интеллект должен быть ограничен четкими и не допускающими двузначных толкований рамками, за пределами которых он физически разрушается и перестает функционировать.

Фантастика - это лаборатория будущего, и когда исследования в этой лаборатории игнорируются, возникают разные неприятности. В итоге все равно приходится возвращаться - но набив свои собственные шишки. (С другой стороны, это тоже, в общем-то, нормально).

Поэтому искусственный интеллект без своих собственных заповедей будет диким, первобытным и совершенно негуманным. Осталось, чтобы нашелся Моисей, который все-таки предъявит скрижали, на основе которых и будет строиться нечеловеческий, но не бесчеловечный, разум.