Что дозволено Юпитеру, то не дозволено ИИ

Если вы пропустили наш стрим (а зря!), еще не все потеряно. Мы за вас все послушали, переслушали и собрали главные тезисы. Где лежит граница допустимого для использования ИИ, нужен ли специальный регламент и обязательно ли разворачивать нейросеть в локальном контуре.

Так где можно, а где нельзя?

Евгений Сурков, руководитель продуктового направления Некстби:

Внутри компании ИИ можно применять в ситуациях, когда нужно преодолеть страх чистого листа. Речь о подготовке начальных фрагментов кода или элементов архитектуры. Все это обязательно проходит ревью: специалист, который в теме собаку съел, берет на себя ответственность и проверяет результат.

Ситуации, когда ИИ что-то сгенерировал, а мы это бездумно выпускаем наружу, мы пресекаем. Это неуважение к коллегам. Наш руководитель часто повторяет: «У меня слишком мало времени, чтобы читать тексты, сгенерированные ИИ». Многие пользователи ИИ-генерации не замечают, но опытные люди — журналисты, разработчики — чаще всего распознают применение нейросетей.

Ущерб может быть связан не только с качеством результата. Есть и другая проблема — информация, которую мы передаем. Если компания не готова к переходу на ИИ-технологии и отправляет данные во внешние сервисы, возможны утечки. Как говорится, «нет никакого облака — есть чей-то чужой компьютер». Чтобы безопасно работать с данными и при этом сохранять возможности ИИ, компании должны разворачивать локальные модели. Это уже серьезный проект, на который готовы не все.

Локальные модели — это сложно. Не затормозит ли эта необходимость прогресс?

Влад Лаптев, директор по инновациям Fork-Tech:

Это действительно тормозит развитие, потому что требуются большие инвестиции. Мы уже сталкивались с тем, что в диалогах с потенциальными клиентами многое ломается в тот момент, когда они узнают, сколько стоит развернуть инфраструктуру. Реакция часто одинаковая: «Мы думали, это гораздо дешевле». Когда предлагаешь рассмотреть облако, часть компаний опасается, а часть начинает переосмыслять: как они управляют данными и как обеспечить безопасность.

Недавно Gartner опубликовал технологические тренды: мол, в 2026 году тенденция развития ИИ сохранится, но появится новое направление — создание промежуточных интеграционных слоев. Они нужны, чтобы данные можно было маскировать перед отправкой в облако.

Компании уже поэкспериментировали и поняли: чтобы получить нужное качество, облако, вероятно, неизбежно. Но чтобы обеспечить безопасность, нужны дополнительные доработки и защищенные интеграции: маскировать данные, передавать, затем размаскировать и работать с ними.

Подобные решения уже есть и на российском рынке. Мы и сами их создаем, используем и предлагаем клиентам.

Что делать с регламентами применения ИИ?

Николай Мокрецов, партнер, исполнительный директор в «1С ПРО Консалтинг»:

Как и в любой регламентации, нужно идти от общих политик и принципов работы организации и уже затем спускаться до конкретных правил по определенным функциям.

Приведу пример коллеги, CIO одного из крупнейших университетов страны. Когда преподаватель задает вопрос, студент дает ответ, полученный через ИИ, причем часто через публичные модели из сети. Иногда они выдают поток слов, включая фейковые или галлюцинирующие факты. Молодые люди, не понимая, что стоит за технологией, верят этому безоговорочно и начинают отстаивать свою позицию перед преподавателем, утверждая, что они провели исследование по источникам.

Понимая проблему, вуз выпустил общую политику использования ИИ для студентов и преподавателей и распространил ее на все свои филиалы по стране. Сейчас наблюдают, будут ли ее придерживаться. Следующий шаг, который планирует CIO, — преобразовать эту политику в более детализированные инструкции и регламенты. И, на мой взгляд, это абсолютно правильное направление.

Продолжение