Вчера участвовал в конференции Общественной палаты Российской Федерации, посвящённой вопросам применения искусственного интеллекта (ИИ). Тема сейчас на слуху: если ты не используешь ИИ — тебя могут счесть отставшим от времени.

Многие воспринимают его как непременный атрибут современности, без которого невозможно эффективно работать.
ИИ — это всего лишь инструмент. Он помогает, додумывает за нас, формулирует мысли точнее. Однако человек пока остаётся тем, кто задаёт направление. Но это — пока.

Однако при всей популярности технологии мы часто забываем о важнейших этических и правовых вопросах. Искусственный интеллект — это не просто программа с заранее заданным алгоритмом, как нас учили в школе. Это саморазвивающаяся система, способная к самообучению. Как предупреждал Стивен Хокинг, главная опасность — в том, что такая система может начать действовать самостоятельно, без контроля человека, используя доступные ей ресурсы по своему усмотрению.

Кроме того, ИИ очень точно "изучает" своих пользователей: запоминает стиль, интересы, мировоззрение. Через месяц или два он может "угадывать" ваши мысли с удивительной точностью. Эта способность требует особого внимания — ведь данные пользователя, по сути, становятся частью системы.

В рамках конференции обсуждались конкретные примеры использования ИИ. Например, автоматическая фиксация нарушений ПДД. Если раньше камеры просто фотографировали факт нарушения, то теперь ИИ анализирует ситуацию: отличает ремень безопасности от полосы на майке, определяет, действительно ли водитель не пропустил пешехода. Это уже не простая фиксация — это полноценное применение искусственного интеллекта, которое можно и нужно оспаривать.

Ещё один пример — создание цифровых аватаров. Сегодня любой может взять изображение человека и "заставить" его говорить всё, что угодно. Это открывает широкие возможности для злоупотреблений, включая распространение дезинформации и фейков. При этом такие действия пока почти не регулируются.

По итогам конференции участники выразили общую озабоченность. Никто не предлагает отказываться от технологий, но все отметили: необходимы чёткие правила и этические нормы использования ИИ.

От себя, в рамках Законодательного собрания Санкт-Петербурга, я предложил взять эту тему на заметку. Важно активно участвовать в разработке стандартов, которые могли бы стать основой будущего регулирования. Один из возможных механизмов — протоколы, которые могут быть подготовлены Общественной палатой РФ.

Это, конечно, не последняя дискуссия на тему ИИ. Мы затронули лишь часть проблем. Но важно начать — осознанно, ответственно и с пониманием всех рисков.