ИИ, Папа и здравый смысл

Кажется, Ватикан умеет в повестку и коммуникации, а потому высказывается на самые злободневные темы, что придает новый культурный контекст институту, который многие давно считают устаревшим.

Первая энциклика Папы Льва XIV под говорящим названием Magnifica Humanitas (Великолепное Человечество или Великая Человечность) о защите человеческой личности в эпоху искусственного интеллекта на 42 тысячи слов неожиданно стала частью технологической дискуссии. Не потому, что Ватикан выступил против ИИ. Как раз наоборот: в тексте нет ни алармизма, ни восторга перед новой технологией. Есть попытка сформулировать, где проходит граница между прогрессом и утратой человеческого.

«Призыв к осмотрительности, тщательной оценке и даже, порой, к более медленному внедрению искусственного интеллекта не означает, что мы выступаем против прогресса. Напротив, это проявление заботы о человечестве», — считает Папа.

Если коротко, основные пункты его мощного и проникновенного заявления такие:

ИИ нельзя считать просто нейтральным инструментом. В любую технологию уже встроены чьи-то цели, приоритеты и критерии: что она измеряет, что игнорирует, что считает эффективным, а что предлагает расценивать как лишнее.

Технологический прогресс сам по себе не гарантирует человеческого развития. Можно получить больше скорости, данных и удобства, но при этом начать оценивать людей только через производительность, пользу и соответствие заданным параметрам.

ИИ не равен человеческому интеллекту. Он может быстро считать, анализировать, писать, имитировать сочувствие и даже создавать ощущение диалога. Но он не проживает опыт, не несет нравственной ответственности и не понимает последствий так, как их понимает человек.

Особенно уязвима зона личного использования ИИ. Готовые ответы, видимость объективности и имитация человеческого общения могут быть полезны, но могут и ослаблять критическое мышление, усиливать зависимость от технологий и подменять настоящие связи их убедительной симуляцией.

Отдельный риск — концентрация власти. Платформы, данные, инфраструктура и вычислительные мощности находятся в руках небольшого числа крупных игроков. А значит, именно они во многом задают правила доступа, видимости, прозрачности и участия.

И главный вывод, пожалуй, очень простой: вопрос не в том, пользоваться ИИ или нет. Конечно, да. Но использовать его так, чтобы, если завтра ИИ исчезнет, вы все равно знали, как думать. И не забывать о том, кто остается ответственным за смысл, выбор и последствия.

Величие цивилизации измеряется не мощностью ее инструментов, а тем, способна ли она видеть в нас не функцию, не набор данных и не объект оптимизации, а человека.

Записки из опенспейса — канал агентства PR-Consulta