Как Сэм Альтман учит людей цифровой халатности

Мало кто сегодня не знаком с Сэмом Альтманом - миллионер, плейбой, филантроп и глава OpenAI. У Сэма огромная, не побоюсь этого слова, фанбаза, называющая его гением, которая буквально смотрит ему в рот и радуется, когда он отвечает их твиты. Мое отношение к Альтману совершенно иное, но о нем я расскажу в каком-нибудь следующем посте. Сегодня же хочется поговорить о цифровой халатности.

“А это тут при чем?” скажете вы. А при том, что буквально на днях с Сэмом вышло интервью, в котором этот момент был затронут.

Вот что он сказал:

Люди, особенно молодёжь, всё чаще делятся с ChatGPT самым личным, используют его как терапевта, коуча и обсуждают проблемы в отношениях. При этом, в случае уголовного преследования, Open AI могут обязать выдать эти данные органам. Я считаю, что это абсолютно неправильно. Мы должны обеспечить такой же уровень конфиденциальности при общении с ИИ, как и при разговоре с терапевтом.

Конфиденциальности? Серьезно? Ты и твои люди могут читать и обучать модели вообще на ВСЕХ даннных. И за всей этой свободой слова и неприкосновенностью переписки скрывается жажда наживы через поощрение цифровой халатности. Примерно такой же, из-за которой на днях навернулась вся инфраструктура Аэрофлота, когда выяснилось, что некоторые сотрудники хранили свои пароли на рабочем столе в файле password.txt 🤦

Суть проблемы
За годы пользования комьютером люди так и не научились базовым навыкам кибербезопасности! При этом, в эпоху ИИ важность этих навыков возрастает экспоненциально. Взаимодействуя с ИИ системами нужно четко разделять, что должно быть тайным, а что нет. Альтман же очеловечивает ИИ, вот только чтобы вытащить что-то из головы того же терапевта зачастую нужно применить физическую силу, что, как правило, незаконно 😁

Опустим тему силовых структур и обратим внимание на главное: какую бы информацию вы бы ни сообщили ChatGPT, как я писал выше - она не будет конфиденциальной чисто по своей природе. AI нужны данные для масштабирования и все ваши диалоги будут храниться на серверах компании. Да, в обезличенном виде, но если вы упоминали конкретные имена, финансовые данные или другую чувствительную информацию - это не имеет значения, вы уже себя раскрыли. И вам никто и никогда на 100% не гарантирует, что это не будет где-то использоваться. Это БАЗА кибербезопасности: доверяй, но не на 100%. Поэтому главное правило при работе с ИИ - это “обезличивай, очищай и думай, прежде чем отправить следующее сообщение”.

Под прикрытием заботы о свободах в условиях отсутствия AI грамотности населения мы попадаем в ситуацию, когда корпорации будут знать о нас то, что не должны знать. Люди сами позволяют компаниям копаться в своем грязном белье, не зная наверняка, как эта информация будет использована.

Допуская такую халатность мы делаем себя уязвимыми для любых манипуляций, а в мире бизнеса, где рулят такие люди, как Альтман, манипуляции - это лишь вопрос времени. Законы не успеют проработать до возникновения первых прецендентов, а учитывая, что первые лица большинства государств часто не отличаются умом и сообразительностью и могут использовать ChatGPT “для всего”, такие законы могут никогда не появяться, т.е. объектами манипуляций будут эти самые лица.

Маркетинговый ход или наивность?
Давайте честно: Альтман - бизнесмен, а не борец за свободы. Ему нужен самый ценный датасет - ваши личные данные. Заявляя о “терапевтической” конфиденциальности, он гениально смещает фокус со сбора данных на юридическую защиту. Он как бы говорит “Мы сделаем все для вашей защиты, только расскажите нам о себе все”.

Что делать? Воспитывать AI-гигиену!
Золотое правило: не делитесь с облачным ИИ тем, что не готовы увидеть на рекламном баннере.
Для личного - только локальный ИИ. Ваши данные остаются вашими. Ollama и LM Studio вам помогут.
Не очеловечивайте машину. ChatGPT - не друг, а инструмент корпорации, симулирующий эмпатию. Помните об этом, когда захотите излить ему душу.

А вы доверяете свои секреты ChatGPT? Или уже выработали свои правила AI-гигиены?