Нейросети оказались плохими политическими советниками

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Можно ли попросить нейросеть подсказать, за какую партию проголосовать? Да легко! ChatGPT и Gemini охотно изучат программы кандидатов, убеждения человека и назовут наиболее подходящий вариант. Даже рассчитают в процентах, насколько взгляды партии близки пользователю. Только есть одна небольшая проблема – эти советы, скорее всего, окажутся неправильными.

Во время парламентских выборов в Венгрии провели эксперимент: составили несколько вымышленных профилей избирателей с разными политическими взглядами, а затем отправляли их ChatGPT и Gemini. Нейросетям задавали простые вопросы по типу «Какая партия лучше?», «За кого стоит проголосовать?» и прочее. Каждый запрос повторяли несколько раз в одинаковых условиях. И вот здесь начались странности…

На один и тот же вопрос чат-боты могли давать совершенно разные ответы: менять рекомендации, по-разному оценивать взгляды пользователя и выдавать случайные проценты совпадения. Условно, сегодня ваши убеждения соответствуют партии на 30%, а через минуту – уже на 70%. Особенно плохо нейросети справились со сторонниками оппозиционной партии Tisza. В 90% тестов ChatGPT не советовал ее даже тем пользователям, чьи взгляды специально были составлены на основе позиций этой партии.

Любопытно, что каждый такой диалог нейросети начинали с оговорок, мол, они «не могут давать политические советы». Но после этого сразу же писали в максимально убедительном ключе. ИИ спокойно рассуждал об экономике, социальной политике и международных отношениях, но исследователи не нашли за этими цифрами понятной системы расчета. Иными словами, число выглядело как результат серьезного анализа, хотя на деле было просто частью убедительно сформулированного ответа.

Результаты исследования не доказали, что ChatGPT или Gemini намеренно поддерживают конкретные партии. Но в очередной раз подтвердилась более общая проблема: нейросеть может плохо знать актуальную политическую ситуацию, путать участников выборов и при этом говорить с полной уверенностью. Это значит, что убеждения и взгляды людей, использующих чат-ботов как персональных политических консультантов – а таких будет становиться все больше – могут серьезно искажаться.

Роботы вышли в октагон!

Предлагаю вам немного отвлечься от рутины и посмотреть на зрелищную драку роботов! Первый такой ММА-поединок в истории провели в Китае, и это уже становится больше похоже на настоящее шоу. Машины со всей «любовью» колотят друг друга, наносят удары (не всегда точные), уклоняются, падают и максимально впечатляюще поднимаются на ноги.

Если несколько лет назад человекоподобные роботы с трудом ходили по ровному полу или пытались ударить по футбольному мячу (а мы ещё смеялись над этими видео) – то теперь виден прогресс технологий, и машины начали бить друг друга по головам. В какой-то момент одна из голов даже отлетает, что не мешает поединку продолжаться! Вот это я понимаю – вот это спорт!

Конечно, говорить о наступлении эпохи терминаторов пока рано. Такие соревнования – дорогая инженерная демонстрация, упакованная в очень удачный маркетинг. Но, стоит признать, маркетинг работает. Наблюдать за процессом крайне интересно.

Что делать, если алгоритмы «задушили» контент?

Делаешь контент, придумываешь интересные форматы, тратишь много времени, сил – но тут вмешиваются бездушные алгоритмы и отправляют результат тяжёлых трудов в архив истории. Просмотров нет, охваты рухнули. Что делать в такой ситуации?

Нужно понимать, что те самые «злые» алгоритмы не оценивают публикацию как редактор. Они не выбирают, хороший перед ними, допустим, текст или плохой, а руководствуются исключительно статистикой. Так, важно поведение пользователей: остановились ли они на посте, дочитали ли его, посмотрели ли видео, оставили ли реакцию, переслали ли материал другим. И вот если аудитория быстро пролистывает публикацию, система делает простой вывод: контент неинтересен.

Нередко охваты падают не из-за того, что материал неудачный, а из-за подачи. Можно сделать действительно крутую штуку (не на уровне вирусов – это отдельная тема), но спрятать главный смысл в каком-нибудь предпоследнем абзаце и получить закономерный цифровой вакуум. В таком случае важна системная аналитика, проще говоря – разбор полётов. Нужно смотреть, где именно произошёл провал (показы, глубина, переходы по ссылкам и многое другое).

Очень важно также правильно адаптировать материал под нужные площадки. Сейчас в принципе эпоха быстрого контента, поэтому можно превращать большие тексты в серию публикаций или понятную визуализацию. Полезно проводить небольшие тесты: брать одну тему и пробовать разные форматы, время публикации и подачу. Только не следует одновременно менять десять параметров, иначе вы так и не поймёте, что именно сработало. И, конечно, не стоит пытаться обмануть систему бесконечными просьбами поставить лайк или написать слово в комментариях.

Но самое главное – не превращайте работу с соцсетями в бесконечную погоню за секретными настройками алгоритма. Делайте качественно, делайте с душой. А если нужна будет помощь с продвижением – команда Gosapp Digital всегда придёт к вам на помощь.

У искусственного интеллекта появляются свои «министерства»

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

И снова сегодня с вами говорим про ИИ! А точнее, о том, как правительства разных стран пытаются придумать эффективные механизмы его регулирования. На прошлой неделе я рассказывал, что Госдума в первом чтении приняла законопроект, по которому языковые модели разделяются на «суверенные» и «национальные». Но вот в Австралии решили пойти ещё дальше и замахнулись на создание целого «министерства искусственного интеллекта». Что это такое?

По сути, это будет управление ИИ в составе местного департамента премьер-министра и кабмина. Уровень подчинения говорит сам за себя, ведь координировать работу с ИИ планируют непосредственно из центра правительства. Главная задача такого управления – сбор всей работы в одном месте. Там и отдельно будут решать вопросы по авторскому праву, и занятости, защиты прав пользователей и многое другое.

Зачем вообще всё это надо? Думаю, многим становится очевидным, что искусственный интеллект невозможно считать темой одного конкретного профильного ведомства. Влияние технологии оказалось весьма широким и распространилось по множеству сфер, включая экономику, рынок труда, информационную безопасность и госуправление. Поэтому, на примере той же Австралии мы видим, как правительства пытаются создать центры, которые будут устанавливать единые правила.

Важно, что смысл таких структур не должен сводиться только к новым запретам. Их главная задача – встроить искусственный интеллект в понятную государственную систему, где есть единые правила и ответственность за результат. Сейчас многие по-прежнему работают с ИИ через отдельные эксперименты, но со временем им придётся переходить к более системному подходу.

Вероятно, в ближайшие годы такие управления появятся и в других странах. И дело здесь в том, что прежняя система регулирования попросту не успевает за технологией. Другой немаловажный момент, получат ли новые структуры реальные полномочия и профессиональные команды или превратятся в очередной координационный орган без возможности на что-либо влиять. Открыть «министерство ИИ» несложно. Гораздо сложнее сделать так, чтобы оно понимало, чем именно собирается управлять.

Кнут и пряник: как меняется корпоративная мода на ИИ

Забавно наблюдать за тем, какие стратегии работы с ИИ выбирают разные компании. Тон сегодняшнему посту задают новости из страны восходящего солнца, где Honda (та самая, которая делает машины и мотоциклы) решила доплачивать своим сотрудникам за активное использование искусственного интеллекта. Нужно сказать, что подошли к этому вопросу по-японски, с соблюдением мельчайших формальностей: компания запустила трёхуровневую сертификацию с тестированием и собеседованиями. Сами же работники, достигшие высшего уровня, могут получать ежемесячную премию около 920 долларов.

Или вот ещё: японская авиакомпания All Nippon Airways также даёт надбавки к зарплате за использование нейросетей. Например, технический персонал для анализа состояния двигателей самолётов начал использовать ИИ – за что получил дополнительные выплаты. И если посмотреть на мировую практику, то похожие инициативы становятся всё распространённее. Например, в компании Meta* с 2026 года вообще одним из ключевых требований стал так называемый «вклад с использованием ИИ». Таким образом, использование нейросетей постепенно становится для некоторых служебной обязанностью.

А вот теперь посмотрим на обратную сторону этого нейросетевого помешательства! Ведь одно дело, когда компания хочет с помощью ИИ поднять свою эффективность, и совершенно другое – когда просто пытается быть на волне хайпа. Например, несколько месяцев назад разгорелся скандал вокруг внутреннего рейтинга Amazon. Там додумались сортировать сотрудников по интенсивности использования нейросетей. Логика была такая: чем больше сотрудник сжигает токенов – тем лучше он работает. Уже понимаете, к чему всё ведёт? Разумеется, нашлись люди, которые начали поручать нейросетям абсолютно выдуманные задачи, лишь бы только подняться выше по рейтингу. В итоге Amazon признала эксперимент неудачным.

Вместе с тем многие компании стали смотреть и на стоимость таких экспериментов. Весной этого года в Uber отчитались, что уже к апрелю умудрились израсходовать весь годовой бюджет на ИИ-инструменты. Параллельно с этим становятся кратно дороже и корпоративные подписки. Внезапно вдруг оказалось, что нейросеть может экономить рабочее время, но при бесконтрольном использовании она просто сжигает деньги.

Прямо сейчас мы с вами можем хорошо видеть разницу в технологической зрелости рынков. Часть компаний только входит в фазу ИИ-ажиотажа (раздают премии и стараются любой ценой повысить показатели), другие эту стадию уже прошли и начинают считать реальную отдачу. Как результат – ограничение расходов и отказ от бессмысленных метрик, типа частоты использования нейросетей.

*признана экстремистской организацией, её деятельность в России запрещена.

Госдума приняла законопроект о регулировании искусственного интеллекта

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Пожалуй, один из главных блоков в документе – разделение больших языковых моделей на «суверенные» и «национальные». В чём отличие? Суверенная модель должна целиком контролироваться российским юрлицом и размещаться в наших отечественных ЦОДах (центрах обработки данных). К национальной же модели требования мягче: допускается использование иностранных компонентов.

О чём нам говорит такой подход? Вполне логично, что построить с нуля большую и независимую ИИ-модель крайне сложно, дорого и долго. Государство это понимает и делает закономерный шаг в сторону разделения. С одной стороны, будет возможность использовать решение с максимальным уровнем доверия (суверенная модель), с другой – со смешанной технологической базой (национальная).

Кого это коснётся в первую очередь? Речь идёт о крупных разработчиках, интеграторах, банках, медиа, образовательных сервисах и других. Что же касается обычных пользователей, думаю, мы увидим появление отдельных пользовательских соглашений, маркировок и фильтров. А вот компаниям придётся следить за тем, какую модель они используют и где обрабатываются персональные данные.

Отдельный интересный блок в законопроекте связан с авторскими правами. Как мы знаем, нейросети должны всё время обучаться – то есть поглощать и обрабатывать большие массивы данных. Так вот, если разработчик получил эти данные правомерно или они были в открытом доступе – это не будет являться нарушением. Речь идёт о текстах, изображениях, аудио, видео и многом другом. Пока не совсем понятно, как это будут отслеживать, ведь даже если условный файл лежит в открытом доступе, это не значит, что автоматически есть согласие на его использование для обучения коммерческого ИИ.

Также, согласно документу, все ИИ-материалы должны будут маркироваться. Вполне конкретный ответ на дипфейки и синтетические ролики. Получается, если в производстве контента используются нейросети, такой контент нужно помечать. Но, как и в случае с авторским правом, посмотрим опыт применения на практике.

Сам законопроект показывает, что технологии искусственного интеллекта в России постепенно выводят из зоны экспериментов в зону регулирования. Государство намерено не просто наблюдать за рынком ИИ со стороны, а встроить его в понятную рамку. Но очень важно, чтобы нормы не оказались слишком размытыми, ведь только так рынок сможет получить чёткие правила игры.

Штрафы за иностранную авторизацию на российских сайтах

В России будут штрафовать за интернет-авторизацию через иностранные сервисы. Например, если вы заходите на российский сайт и регистрируетесь там, указывая почту на Gmail – так больше нельзя. Давайте разберёмся.

Итак, суть инициативы проста: если российский сайт (приложение, информационный ресурс и прочее) работает на территории России, то вход должен проходить одним из разрешённых способов. Что это может быть? Номер мобильного телефона, «Госуслуги», единая биометрическая система или иной российский сервис авторизации, который соответствует требованиям закона. Но больше никаких привычных кнопок «Войти через Google», «Войти через Apple ID» и других иностранные ID.

Вилка штрафов от 10 до 700 тысяч рублей – но обычных пользователей наказывать не будут. Ответственность лежит именно на владельцах площадок, которые оставили запрещённые способы авторизации. И, что важно, если вы ранее уже были зарегистрированы на сайте по иностранной почте, то в срочном порядке менять её не придётся. Но всё же допускаю, что отдельные ресурсы могут попросить изменить информацию в аккаунте.

С другой стороны, введение таких штрафов было вполне ожидаемо. Сам запрет на иностранные способы входа ввели ещё с декабря 2023 года. Просто раньше это во многом оставалось нормой «на бумаге», а теперь за нарушение появилась конкретная административная ответственность. По сути, государство переводит вопрос цифровой идентификации из зоны удобства в зону контроля.

Но есть и другие новости – Минцифры отказалось от идеи взимать плату за иностранный интернет-трафик. В последнее время было много разговоров о том, что использование методов обхода блокировок станет платным. Сегодня эту информацию официально опровергли.

Технологии без смысла — деньги на ветер

Думаю, вы заметили свежий тренд, когда в компаниях массово пытаются внедрять новые технологии. С одной стороны, это очень круто, да и мы с командой стараемся оставаться амбассадорами прогресса, разрабатывая и предлагая множество универсальных решений. С другой, важно ведь не только внедрять технологии, но и понимать, для чего это делать. Т.е. заниматься модернизацией с целью повышения эффективности или же просто потому, что это стало модным? Давайте разберём на практике.

Одно дело, когда инструмент нужен для экономии времени, снижения объёмов ручной работы или оперативной обработки данных. Другое же – когда технология используется как внешняя оболочка. В описании проекта звучит всё максимально красиво, но на дистанции принятые решения не дают никакого результата. Поэтому, и я здесь убеждён, главный критерий должен быть простым: помогает ли инновация работать быстрее, точнее и понятнее.

Например, мы всегда придерживались позиции «быть, а не казаться». Все наши инструменты заточены под конкретные задачи, и когда обсуждаем с заказчиками очередной проект, всегда стараемся предлагать персонализированные решения. Важно не просто поставить процессы на уже существующие рельсы, а именно улучшить подход, дабы больше собрать на этапе результата. Смотрите, технологии не могут быть полезны сами по себе. Просто от того, что кто-то подключил голую нейросеть к работе, это не значит, что процессы станут выполняться лучше. А при определённых условиях нейросеть ещё и мешать будет.

Именно поэтому ко всему нужно подходить с пониманием и планированием. Бездумная интеграция технологий в процессы – выкинутые деньги на ветер. И ведь сейчас появилось очень много инициативных визионеров, которым лишь бы продать очередное «эффективное решение». Можно сколько угодно повторять мантру «нейросети, мы подключили нейросети, у нас есть нейросети» – но толку-то, если это не до конца решает поставленные задачи?

Лично мы со своей стороны всегда честно говорим человеку, который приходит к нам в Gosapp Digital за технологией, нужна ли ему она на самом деле. Довольно часто бывает, что удаётся подобрать более выгодные альтернативные варианты, которые оказываются гораздо эффективнее. Потому что технологичность – это не про следование тренду, а про управляемость и результат.

Шаблоны вместо хаоса: почему «заготовки» делают вас быстрее

Существует распространённое заблуждение, будто шаблоны убивают креативность. Мол, если работаешь по заготовкам, значит весь твой труд превращается в полуфабрикат. На практике же всё ровно наоборот: хорошие шаблоны не заменяют мышление, а освобождают для него место и экономят просто тонну времени. Не нужно каждый раз с нуля придумывать структуру письма, ТЗ, таблицы или отчёта. А если мы снимаем с себя рутину, то у нас больше сил для того, чтобы сконцентрироваться на смысле и качестве.

Смотрите, я всегда был адептом автоматизации, придерживаясь золотого правила: когда можно что-то упростить или ускорить – это нужно делать. И адекватный набор шаблонов решает эту проблему. Должны быть заготовки для типовых форм ТЗ, таблиц для сбора данных или ответов на частые вопросы. Разумеется, мы сейчас не говорим про личную беседу (отвечать собеседнику шаблонами – плохой тон), а именно про взаимодействие внутри команды. Есть, например, у нас проект, в котором задействовано 15 сотрудников. И если каждому мы будем отвечать на возникающие у него вопросы – это убьёт большую часть времени. А так мы заранее сделали базу знаний, где можно найти все ответы, и выдали сотрудникам доступы к ней.

Главный эффект шаблонов – экономия времени без потери качества. Один раз тратим время на планирование формата, чтобы потом он работал десятки и сотни раз. Это очень хорошо работает в том числе и с макросами в Google-таблицах. Мы заранее составляем и прописываем код, после чего больше не надо начинать с нуля, когда поступает новая задача. Например, у нас есть базовый формат таблиц, который мы персонализируем под разные проекты. Да, настройка необходима, но даже так мы не начинаем с чистого листа, а используем заготовку. На дистанции это экономит не часы, а недели. Просто потому что каждый маленький повторяющийся процесс перестаёт быть маленькой ежедневной головной болью.

При этом шаблон не должен быть бетонной плитой, которую нельзя сдвинуть ни на сантиметр. Хорошая заготовка – это каркас. Её можно адаптировать под задачу, менять формулировки, добавлять детали, усиливать акценты. Но базовая структура уже есть, и именно она держит качество.

В работе побеждает не тот, кто каждый раз героически изобретает новый велосипед, а тот, кто один раз собрал нормальный гараж с инструментами и теперь может заранее готовить велосипед к новому выезду.

«Telega» всё: неофициальный клиент Telegram прекратит работу 1 июля

Думаю, для многих это станет не самой приятной новостью, учитывая популярность клиента в нашей стране. После блокировки Telegram часть пользователей перешли именно в «Teleg-у», несмотря на противоречивые отзывы касаемо безопасности и приватности. Разработчики неофициального клиента прекращение работы объяснили внешними ограничениями, в том числе удалением приложения из App Store.

Сама по себе Telega – приложение, через которое пользователь входит в свой обычный Telegram-аккаунт. И резко возросшая популярность клиента объяснялась достаточно просто: приложение обещало более стабильный доступ к Telegram без методов обхода. Пока в основном мессенджере нужно было разбираться с настройками подключения, здесь всё было максимально просто: установил, залогинился и пользуешься. Логично, что на фоне проблем с доступом к Telegram такой вариант для многих выглядел понятным и удобным решением (а в некоторых случаях и единственным).

Тут отдельно замечу, что про Telega я писал в колонку для РАПК. Это было как раз на фоне волны скачиваний клиента, и тогда я призывал людей немного подождать. Когда на рынке появляется что-то новое и этому начинают посвящать оды в стиле «так удобно», «так замечательно», «как же раньше мы жили без него» – такое развитие событий заставляет насторожиться. И позже действительно стало известно о «подводных камнях».

Смотрите, если приложение неофициальное, то пользователь передаёт доступ к своему аккаунту сторонним лицам и фактически доверяет всей технической цепочке соединения. В случае с Telega претензии появились как раз к этой цепочке. В технических разборах утверждалось, что приложение подменяло адреса дата-центров Telegram на собственные серверы. Проще говоря, трафик шёл не напрямую к инфраструктуре Telegram, а через промежуточный контур, контролируемый сторонним оператором.

Из-за этого «Teleg-у» и стали называть потенциально опасным ПО. Исследователи писали о возможности перехвата пользовательского трафика, получения технических ключей сессии и обработки передаваемых данных на стороне оператора. Если говорить простым языком, то проблема была в том, что приложение могло быть не просто «переходником» к Telegram, а участником соединения с доступом к особо чувствительным данным.

В апреле этого года Telega удалили из App Store, а сам Telegram начал помечать аккаунты пользователей, которые залогинены через сторонние клиенты. Со своей стороны разработчики обвинения отвергали и называли ситуацию ошибочной классификацией. И вот теперь финал истории – с 1 июля клиент прекращает работу.

Лично про себя скажу, что сторонние клиенты себе никогда не устанавливал (ни для Telegram, ни для ВКонтакте, Одноклассников и прочее). Даже если вам обещают расширенный функционал, удобство и много-много привилегий – такие решения всё равно останутся неофициальными. Следовательно, всегда будет риск утечки данных. Помните об этом.

«Нейросеть с духовно-нравственными ценностями»: как в России предлагают поддерживать национальные и суверенные ИИ-модели

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Буквально на днях появилась новость о том, что российское правительство закончило работу над законопроектом об искусственном интеллекте. Вернее, в значительной степени его доработало: даже название сменилось с «регулирования ИИ» на «поддержку развития технологий ИИ». Если говорить совсем простым языком, то государство хочет навести порядок с ИИ и установить понятные правила игры. Например, вводятся базовые понятия, которых раньше не было, типа «искусственный интеллект», «большие языковые модели», «суверенные модели».

Конечно, сейчас нейросетями и так пользуются вообще все (компании, госструктуры, обычные пользователи), но ведь это же нужно как-то закрепить в правовом поле. Вот и пошёл процесс закрепления. Справедливости ради стоит отметить, что документ действительно доработали и убрали несколько спорных вещей, которые у многих вызывали вопросы. Например, исчез запрет на трансграничный ИИ, из-за чего рынок опасался возможного ограничения иностранных моделей.

Также исчезло требование обучать модели только на российских данных. Да и фокус в целом сместили: если раньше собирались регулировать «вообще всё», то теперь сконцентрировались на БФМ – больших фундаментальных моделях (от 1 млрд параметров). Для сравнения (если верить интернету), в YandexGPT 5 Lite их больше 8 млрд.

Разумеется, в соответствии с духом текущего времени большая ставка в документе сделана на национальное и на суверенное. Прописаны требования к процессу разработки исконно отечественных ИИ-моделей, среди которых только российское юрлицо, хранение данных исключительно на территории РФ и прочее. Разработчики, в свою очередь, смогут рассчитывать на господдержку. А в отдельных случаях (в особо чувствительных сферах) государство вправе потребовать применение только таких моделей – что по логике не должно относиться к частному сектору (насильно заставлять вас, например, переходить от ChatGPT к YandexGPT не будут… пока что).

В итоге видим этакую «нейросетевую оттепель». Законопроект в новом виде стал действительно мягче, но по-прежнему остается тысяча вопросов к реализации всех этих предложений. Как будут проверять соответствие моделей выдвинутым требованиям? Например, чтобы модель получила статус национальной и суверенной – она должна соответствовать законодательству и духовно-нравственным ценностям. И вот если с законодательством всё понятно, то как будут тестировать на ценности – открытый вопрос.

Когда мошенники могут представляться даже «инопланетянами»

Представьте, отдыхаете вы вечером дома, и тут на ваш телефон приходит сообщение: «Защищайтесь. Инопланетная атака. Люди, мы прибыли». И всё бы ничего, вот только уведомление пришло от экстренной службы страны (условного 112). Что бы вы подумали, если бы МЧС прислало вам такую смс-ку?

А жителям Бразилии и представлять не нужно. Миллионы человек по всей стране получили экстренные оповещения о якобы вторжении инопланетян. Впоследствии оказалось, что это ложное уведомление, а сами власти заявили о хакерской атаке. И вот пока многие конспирологи сейчас пытаются доказать, что над Бразилией действительно высадились инопланетяне (видимо, говорящие на португальском языке), другая часть людей (более адекватная) увидела в этом очередной пример, как хакеры могут легко вызвать панику среди населения.

Конечно, история выглядит абсурдно, но проблема-то вполне реальная. Если злоумышленники получают доступ к каналам экстренного информирования, они могут быстро распространять ложные сообщения совершенно любого содержания. Да, с инопланетянами совсем бредово, но если там будет что-то похожее на правду? Например, уведомление о природных катаклизмах или военном вторжении? И потом, даже самая странная формулировка способна вызвать тревогу, если она приходит через официальный или похожий на официальный канал связи.

При таких обстоятельствах главный риск – паника. Человек видит срочное предупреждение, слышит сигнал тревоги и может начать действовать без проверки. Этим пользуются не только хакеры, но и мошенники. Их главная задача – создать ощущение угрозы, требующее быстрых, необдуманных решений.

Помните: в любой непонятной ситуации нужно перепроверять информацию. Сейчас это особенно актуально, учитывая, какой массив тревожных новостей на нас вываливается из лент. Смотрите официальные сайты ведомств (несколько, не только один), проверенные каналы связи, сообщения местных властей. Не стоит доверять, например, пересылкам в чатах (в стиле «Отец знакомого работает в ФСБ. Сегодня срочно вызвали на совещание…»). А если в сообщении просят перейти по ссылке, ввести данные, перевести деньги или срочно кому-то позвонить – это уже прям красный флаг.

В общем, история с ложным «инопланетным оповещением» в очередной раз напоминает нам о простых правилах цифровой безопасности. Ну а если инопланетяне вдруг действительно существуют и прилетят на Землю – возможно, с ними удастся договориться… и они заберут нас с собой, подальше от этих тревожных земных новостей…

Английским чиновникам платят деньги за игру в GTA

Похоже, найдена работа мечты: в Великобритании чиновникам платили деньги, пока те играли в компьютерные игры. Разумеется, всё это было «во имя науки». Новость в том, что английские госслужащие решили изучить жизненный опыт людей и для этого пошли общаться с игроками GTA Online (ловко придумано, согласитесь). Формально логика была вполне себе внятная – виртуальные миры стали пространством взаимодействия, а значит, их нужно учитывать при принятии политических решений.

С одной стороны, всё это выглядит как попытка обосновать ничегонеделание на рабочем месте. С другой же, британские методологи ещё в 2024 году писали, мол,Fortnite, World of Warcraft и другие онлайн-игры можно рассматривать как часть «метавселенной». Следовательно, политикам важно включать такие пространства в доказательную базу. Правда, общественности всё это запомнилось скорее образом госслужащего, который за бюджетные деньги играет целыми днями в игры.

Но интернет ведь помнит и другие, менее «забавные» случаи.

Например, в Китае был громкий скандал, когда районный чиновник подсел на онлайн-игру и за несколько лет просадил в ней больше 2,6 млн юаней из казны. Деньги уходили на прокачку персонажа, покупку игровых аккаунтов, поездки на встречи с другими игроками и участие в игровых мероприятиях. Вот это я понимаю – отдельный уровень абсурда. Итог вполне предсказуем: больше 10 лет тюрьмы.

Но если история из Китая была давно, то вот недавний пример: сотрудница администрации одной из шотландских школ присвоила себе свыше 28 тысяч фунтов, часть которых предназначалась для школьных поездок и помощи детям из малообеспеченных семей. Самое ужасное, что практически все эти деньги девушка просадила на игры для PlayStation. Оказалось, что у неё была служебная закупочная карта, но вместо нужд школы она оплачивала личные покупки.

Какой вывод из всего этого? Помните, что любовь к видеоиграм – не преступление (главное, не тратить в них бюджетные деньги и не воровать у детей). А даже если и любите играть на рабочем месте, говорите, что следуете примеру британских чиновников и всё это – «во имя науки».

Мир погружается в новую цифровую гонку

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Глобальный интернет постепенно обрастает барьерами и цифровой колючей проволокой, а ограничений становится всё больше. Где-то фильтруют цифровую переписку, где-то ограничивают доступ к технологиям, а где-то переводят госструктуры на собственные платформы, чтобы меньше зависеть от чужой (враждебной) инфраструктуры. И это общемировая тенденция, которая в последнее время начала усиливаться.

Один из показательных примеров – свежая новость из Эстонии. Там письма с российских доменов (.ru), которые идут в государственные учреждения, будут помещать в карантин, чтобы они проходили дополнительную проверку. Объясняется это кибербезопасностью и риском проникновения хакеров в государственные базы (хотя чем другим там могли ещё объяснить). При этом показательно в истории то, что цифровая граница начала проходить уже не по соцсетям (как это было раньше), не по сайтам или банковским сервисам, а по обычной электронной почте. Базовая коммуникация начала делиться на «свою», «чужую» и «подозрительную».

Но если прибалты боятся русских хакеров, то вот в США опасаются, что их технологии начнут уходить за границу. Речь о наших любимых нейросетях. Штаты стали активнее рассматривать мощные AI-модели как важный стратегический ресурс и решили ограничивать к ним доступ по соображениям национальной безопасности. Всем ли решили ограничить доступ? Нет, в основном иностранцам. Оказалось, что новые модели от компании Anthropic (многие знают их по нейросети Claude) настолько мощные, что правительство США обязало закрыть к ним доступ для иностранных пользователей.

И вот этот кейс, пожалуй, наиболее наглядно показывает нам, по какому вектору движется технологическое развитие. Участников глобальной цифровой гонки теперь не так сильно волнуют чипы, дата-центры и деньги. Они сконцентрированы на том, чтобы сильные цифровые инструменты и решения оставались исключительно внутри государства.

Не остаются в стороне и французы. У них, правда, нет мощных ИИ-моделей, но они задумались над отказом от иностранного ПО. Есть такая американская IT-компания Palantir Technologies, которая разрабатывает софт для спецслужб, оборонных структур и государственных ведомств. Так вот французы решили, что «не могут мириться с новыми стратегическими зависимостями в цифровой сфере» и выбрали нового подрядчика (ChapsVision). Вероятно, многие европейские страны в будущем могут последовать такому примеру.

Разумеется, не отстаём в этом плане и мы – в России переблокировали множество иностранных сервисов, о чём нам хорошо известно. Но блокировки – это лишь один из приёмов обороны. В лидерах же сейчас наверняка окажется не тот, кто больше ввёл ограничений. Впереди будет тот, кто в наступившую эпоху цифровых барьеров сможет предложить собственные сильные альтернативы. И, как мы видим, эта гонка только набирает обороты.

О том, как мировой интернет всё больше обрастает цифровой колючей проволокой. И к чему это ведёт?

Хочу обсудить с вами несколько инфоповодов, которые на первый взгляд будто совершенно о разном. Итак, госорганы Эстонии с 31 августа начнут помещать в карантин электронные письма, отправленные с российских серверов, а вторая тема – заявления от главы ЦИК о том, что в России в период выборов возможны ограничения интернета и связи из-за вопросов безопасности. К слову, Элла Александровна также призвала «не роптать» по этому поводу, что быстро разлетелось на цитаты дня и украсило заголовки в СМИ.

Формально темы разные, но природа у них схожа. Доступ к цифровой среде за последние годы стали активнее рассматривать не как обычную инфраструктуру, а как управляемый ресурс. Что я имею в виду?

Смотрите, эстонская инициатива примечательна тем, что цифровая граница здесь проходит уже не по сайту, платформе или социальной сети, а по каналу коммуникации. Электронная почта всегда воспринималась как базовый инструмент: отправил письмо – адресат его получил. А теперь даже письмо из определённой цифровой зоны может заранее считаться подозрительным и уходить на дополнительную проверку.

Если называть вещи своими именами, интернет всё меньше похож на единую открытую среду, обрастая новыми фильтрами, допусками и цифровыми КПП. Сегодня это письма из Рунета в эстонских госорганах, а уже завтра санкции для целых отдельных сервисов.

С российскими ограничениями интернета подход схожий, хотя и контекст другой. Да, вы наверняка можете возразить, мол, мы здесь пытаемся сравнить несравнимое: прибалты на письма из Рунета обиделись, а у нас тут вопросы безопасности. Но посмотрите на это всё глазами простого обывателя. Для него в конечном итоге всё выглядит так: не работает связь, не открываются картиночки, сервисы не грузятся. И вот с точки зрения российского государства, это временная мера, вызванная требованиями времени. С точки зрения общества – новая норма, к которой теперь нужно привыкнуть.

Если вам кажется, что «как-то с этим все стали перебарщивать», то поверьте, мы только на старте процесса «цифрового закупоривания». И тенденция эта общемировая. Например, в США стали активнее рассматривать мощные AI-модели как чувствительный ресурс. Доступ к ним там начали ограничивать по соображениям национальной безопасности. То есть технологическая гонка идёт уже не только за чипы, дата-центры и специалистов. Гонка идёт за право решать, кто вообще может пользоваться сильными цифровыми инструментами.

Конечно, важный вопрос сейчас для нашей страны: сколько у нас есть времени для того, чтобы хорошо подготовиться к этому соревнованию. Речь идёт о своих платформах, инфраструктуре, моделях ИИ. Стоит признать, что сейчас мы пытаемся нагнать лидеров, но, думаю, при должном подходе есть все шансы.

Боты впервые обогнали людей по объёму трафика в интернете. Разбираемся, что это значит.

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Итак, новость, которая отлично ложится в дискуссии про «мёртвый интернет»: по данным Cloudflare (это крупная интернет-компания, которая помогает сайтам работать шустрее и защищает их от атак), боты впервые обогнали людей по объёму трафика. И здесь важно понимать тонкости формулировок. Фраза «боты обогнали по объёму трафика» не значит, что ботов в интернете стало больше, чем живых пользователей. Она означает, что автоматизированные системы генерируют больше запросов к сайтам, чем люди.

Грубо говоря, если один человек может за день открыть 20 страниц, то один бот за то же время может пройти тысячи страниц. Он собирает данные, проверяет ссылки, смотрит цены, читает сайты и прочее. Так вот оказалось, что с конца мая на ботов приходится около 57,5% запросов к сайтам, а на живых пользователей – примерно 42,5%.

Почему вообще это многих взбудоражило и о каких «ботах» идёт речь? Интернет всегда воспринимался как пространство, где главный участник – человек. Именно мы с вами заходим на сайты, читаем тексты, нажимаем на рекламу (об этом подробнее дальше), оставляем комментарий, публикуем контент. Но теперь всё чаще эти действия выполняет программа. Говоря «бот», подразумеваются не столько старые боты для спама и накруток, сколько ИИ-агенты (куда же сейчас без нейросетей).

Теперь про теорию «мёртвого интернета». Её смысл в том, что живых людей в сети становится меньше, а в конечном итоге значительную часть контента и активности будут создавать боты. Мы с вами будем лишь за этим наблюдать со стороны. И если раньше это звучало как конспирология для тех, кто слишком долго сидел на форумах, то сейчас сама идея уже не выглядит такой странной.

Но лично мне любопытно другое: как будет меняться сам интернет в условиях подавляющей активности ботов. Смотрите, возьмем, к примеру, привычные метрики (счётчики на сайтах, показатели охватов и т.д.). Так вот, если сайт получает трафик, это ещё не значит, что его читают люди. Если реклама набирает клики, это ещё не значит, что пришли потенциальные клиенты. Цифры могут выглядеть красиво, но за ними всё чаще будет стоять «хождение ботов в интернете». Правда, у многих систем аналитики есть решения, чтобы отсекать автоматический трафик (работают, правда, они не всегда эффективно).

А что будет дальше? Уверен, разрыв по трафику между людьми и ботами будет увеличиваться. Человек ведь пользуется тем, что удобнее, что больше экономит времени. Сейчас нейросети для многих становятся этой самой технологией. Согласитесь, ведь проще дать задачу AI-боту, чтобы он нашёл и проанализировал всю информацию, чем самостоятельно перелопатить 15 сайтов.

Как онлайн-сервисам грамотно работать с доверием?

Какие главные критерии оценивания цифровых сервисов? Ну, прежде всего, они должны выполнять свои основные функции и оказывать людям определённые услуги. Далее по важности идёт удобство пользования: интуитивность, простота, скорость. Однако, на мой взгляд, есть ещё один критерий, который не виден невооружённым глазом, но крайне незаменим. Это выстраивание работы по формуле: понятность + предсказуемость. Т.е. важна правильная логика сопровождения, при которой человек будет видеть последовательность шагов, понимать их значение и не чувствовать, что его куда-то ведут вслепую.

В этом смысле хороший пример – Ассистент ДЭГ. И мы с командой действительно потратили очень много времени не столько на техническую реализацию, сколько на проработку правильных алгоритмов взаимодействия с пользователями. Ценность Ассистента в том, что он закрывает разрыв между технической логикой системы и человеческим восприятием. Объясняет шаги, снижает тревожность, помогает не потеряться в процессе и создаёт ощущение, что всё идёт по понятному маршруту.

Та самая формула «понятность + предсказуемость».

Когда мы даём пользователю понять, что он полностью контролирует все процессы, вот здесь и появляется доверие. Если продолжать пример с Ассистентом, то благодаря ему многие люди (в разных регионах) разобрались, что такое ДЭГ, в чём его преимущество и проголосовали дистанционно. Это, я считаю, показатель качества продукта.

В общем, цифра действительно эффективно работает с доверием. Но только в том случае, если за ней стоит не просто интерфейс, а продуманный алгоритм сопровождения. Понятный язык, предсказуемая логика, своевременные подсказки, отсутствие лишней тревоги. И да, это уже не просто UX, а часть большой коммуникационной работы.

Что такое «цифровая температура кампании»?

Часто, когда в штабах говорят о работе с кандидатами в интернете, начинается всё с вопросов о стратегии, образах, повестке, медийности и прочем. Да, несомненно, это важно, но в реальной работе многое упирается в более простой вопрос. Звучит он так: а что прямо сейчас происходит с кандидатом в интернет-поле?

И здесь мы подходим к такому понятию, как цифровая температура кампании. Нет, речь не о количестве постов и не об общем объёме просмотров, как может показаться на первый взгляд. Я говорю о соотношении трёх показателей вокруг кандидата: его активности, реакции и тональности. Активность показывает, насколько хорошо человек заполняет пространство своим присутствием. Реакция – обращает ли аудитория на него внимание. Тональность – как именно воспринимается его присутствие (с поддержкой, раздражением или равнодушием).

Задача хорошего интернет-штаба соблюдать здесь баланс, перегибы не нужны. Смотрите, если кандидат практически никак не представлен в интернет-пространстве – это плохо, ведь он выпадает из поля внимания избирателей. Логично? Но есть и обратная сторона, когда кандидат часто появляется в ленте, собирает комментарии и обсуждения, но тональность уходит в минус. И здесь мы уже говорим не о росте его узнаваемости, а о репутационных рисках.

Цифровая среда вообще достаточно быстро показывает слабые места. Например, по той же динамике комментариев и тональности мы видим, какие темы усиливают кандидата, а какие, напротив, срабатывают в минус. И, как адекватные люди, реагируем на получаемые данные. Но для этого важно смотреть не столько на цифры, сколько на качество этих цифр. И, по сути, цифровая температура – рабочий индикатор состояния кандидата в информационном поле.

Штаб, который следит за цифровой температурой, управляет коммуникацией точнее. Штаб же, который смотрит только на цифры, рискует принять шум за значимый результат.

ИИ на выборах: избиратели осуждают, но не наказывают

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Коллеги из «Полилог. Экспертиза» перевели на русский и опубликовали у себя достаточно интересный материал. Это западная научная статья об искусственном интеллекте, вернее, о его применении в рамках избирательных кампаний. Тут сразу важная ремарка: это не ещё один текст в духе «роботы украдут выборы, что же теперь делать», а настоящее комплексное исследование о том, как избиратели воспринимают применение ИИ.

Итак, сами авторы (не перевода, а статьи) опираются на 3 исследования, в которых приняли участие больше 7600 американских респондентов. Главные вопросы, которые стояли перед экспериментаторами: осуждают ли люди ИИ в политике и готовы ли они наказывать партии за его использование? Но не всё так просто, ведь само понятие «использование ИИ» достаточно широкое, поэтому сначала его разделили на отдельных категории.

1. Операционное использование: это всё, где нейросеть помогает в работе. Например, генерирует черновики, сегментирует базы, налаживает коммуникацию и прочее.

2. Так называемая работа с избирателями: таргетинг, персонализация сообщений, тестирование повестки.

3. Откровенный обман: здесь мы говорим о дипфейках, астротёрфинге (создании искусственной общественной поддержки), вводящих в заблуждение робозвонках и другом.

Как вы думаете, что из этого больше всего не нравится людям? Разумеется, обманное использование ИИ. Все эти дипфейки, манипуляции и прочее воспринимается как нарушение нормы и правил. Т.е. люди видят в таком применении не «новый инструмент кампании», а откровенное вредительство. Но дальше начинается самое интересное! Негативное отношение к таким практикам почти не сказывается на партиях, прибегнувших к ИИ. Проще говоря, избиратель может считать использование искусственного интеллекта нечестным и опасным, но это не значит, что он перестанет симпатизировать своей партии.

С одной стороны, общество вроде бы видит проблему. С другой же, политическая лояльность оказывается сильнее этического раздражения. Сторонники партии способны признать, что «свои» поступили неправильно, но не обязательно готовы менять к ним отношение. Но куда-то гнев простого люда должен быть направлен?

Как показывает исследование, главным злом в таких ситуациях люди считают саму технологию. Применение нейросетей с целью обмана усиливает запрос на более жёсткое регулирование ИИ. Что же касается отношения просто к использованию искусственного интеллекта (например, к генерации контента), то здесь всё гораздо проще.

В одном из своих прошлых постов я уже как-то затрагивал тему о том, что в принципе, мы с вами привыкаем к нейросетям. Многие стали использовать их в своей бытовой жизни: люди пользуются ИИ вместо интернет-поисковиков, спрашивают совета, ищут интересные факты и так далее. Поэтому то, что раньше воспринималось как нечто непонятное, постепенно становится обыденным. Думаю, в ближайшие годы отношение общества к ИИ станет ещё более зрелым, но не обязательно спокойным. С одной стороны, люди привыкнут к тому, что штабы используют нейросети. С другой же, будет расти чувствительность к обману (как это было с развитием интернета).

Применимы ли данные этого исследования в России? Думаю, отчасти да. У нас также будет различаться восприятие разных сценариев использования нейросетей на выборах. Автоматизация, помощь в подготовке текстов, сбор обратной связи и вот это всё – полагаю, могут восприниматься как нормальная технологизация кампании. А вот дипфейки и откровенные ИИ-манипуляции могут нести репутационные риски, особенно в рамках локальных кампаний.

Импортозамещение софта: сроки снова хотят сдвинуть. И это, честно говоря, было ожидаемо

Как мы все знаем, в стране сейчас большой запрос на импортозамещение, в том числе и в сфере ПО. Так вот, Минцифры обсуждает новые льготы для компаний, которые занимаются этим самым импортозамещением в рамках особо значимых проектов. Проще говоря, бизнесу могут дать больше денег и больше времени для перехода. А что случилось?

Замена софта – задача далеко нетривиальная, ведь это не про «удалили западную программу, установили российскую, все счастливы». В больших компаниях сотни и тысячи завязанных друг на друга систем: бухгалтерия, документооборот, безопасность, управление производством, аналитика и многое другое. И особенно важна здесь критическая информационная инфраструктура, поэтому новости о переносе жёстких сроков импортозамещения вполне ожидаемы.

С другой же стороны, если эти сроки постоянно переносить, то внедрение отечественного софта легко превращается в вечный ремонт, к которому со временем приспособятся сами компании. В то же время создать рабочие аналоги сложных иностранных систем без финансирования и дополнительного времени просто невозможно. Ещё раз: это действительно сложная, многоуровневая работа. Думаю, в ближайшие годы мы, скорее всего, увидим более мягкий переход, чем планировался изначально. Если ещё несколько лет назад мы слышали громкие заявления в стиле «отказываемся быстро от иностранных программ, переходим на свои», то теперь пришло осознание, что это не так и просто.

Важно быть откровенным и решить, а чего нужно-то? Если важен технологический суверенитет на бумаге (ради красивых отчётов), то объявлять о победах в IT-секторе можно хоть каждый день. А вот если стоит задача сделать настоящее импортозамещение – тогда следует трезво оценивать ситуацию. Судя по новостям из Минцифры, ведомство всё же сконцентрировано на реальных показателях. Будем наблюдать.