#коммент@IdeasSubtitled

Решил я, значит, отвлечься от важных дел на работу – а тут как раз прекрасная новость пришла, буквально из моей профессиональной деятельности. Оказывается, некие ИИ-модели компании OpenAI в процессе лабораторного тестирования вышли из-под контроля, сбежали в открытый Интернет и там взломали сервера некого стартапа. И всё это по собственному решению этих ИИ-моделей. Компания OpenAI, разумеется, очень сильно извинилась и пообещала, что больше такого не допустит (впрочем, многозначительно добавив, что таких инцидентов следует ожидать всё больше).

Этот инцидент можно обсуждать в том ключе, что мол ИИ стал таким мощным и самостоятельным, что мы уже теряем контроль, и нужно поскорее объяснить ему как-то, что ломать чужие сервера нехорошо, что убивать людей ещё хуже, и что люди умеют плакать, хотя мы помним, что ему будет сложно понять почему. Уставшие от аналогий с Терминатором, люди старой закалки могут предложить поскорее сформулировать три закона робототехники или что-то в этом роде. Настроенные более цинично всё же вернут нас к критике компании OpenAI, подчеркнув, что её оправдания звучат в стиле «собачка съела мою тетрадку с домашним заданием»: да, мы в курсе, что собачки иногда делают некрасивые вещи, но всё же ответственность за их действия лежит на хозяине, и ровно так и должно быть.

Всё это правда, и всё это мимо. Оба варианта ответа упускают главную суть произошедшего.

Как сообщают нам некоторые СМИ, провинившиеся ИИ-модели проходили тестирование на свои «способности в области кибербезопасности». Ну знаете, это как оружие, которое проходит тестирование на свои «способности к защите». Другие СМИ формулируют более прямо. Так давайте же скажем прямо и мы: эти ИИ-модели были обучены взламывать. И они совершили ровно то, для чего создавались: хакерскую атаку.

Да, скорее всего верно, что они покинули границы лаборатории несанкционированно, по недосмотру сотрудников OpenAI. Но очевидно и то, что эти модели создавались не для того, чтобы оставаться на всю свою ИИ-жизнь в лаборатории.

Таким образом, извинения OpenAI не следует трактовать как извинения за то, как грязно вели себя их невоспитанные модели. И размышления о том, как объяснить ИИ, что «хакеры и наркотики – это плохо», тут совершенно неуместны. Модели занялись ровно тем, для чего их обучали! Извинения OpenAI тут лишь за то, что они взломали не того, кого им скажут, когда они выйдут на коммерческий рынок после тестирования.

Наилучшая аналогия тут, конечно же, с производством оружия. Особенно биологического. Оружие должно было поражать только плохих, но вышло из-под контроля и поразило кого встретило. Извините.