Алайнмент проблем

В сфере ИИ есть большой блок проблем, связанных с тем, что по-английски называют alignment: соответствует ли цель, на которую работает система ИИ, тем целям, достижения которых мы хотим. Грубо говоря, чтобы всех нас не превратили в скрепки. Или в менее катастрофическом сценарии, чтобы чатбот находил самый лучший ответ, а не выдумывал его.

С этим связана и лингвистическая проблема: в английском термины AI alignment, aligned и misaligned AI уже закрепились, а в русском общепринятого перевода по-прежнему нет. Вот несколько вариантов: выравнивание, соответствие, согласование, согласованность, сонастроенность, предотвращение рисков, контроль.

Причём любой из этих вариантов сам по себе не звучит, его надо дополнять: например, соответствие ценностям, целям, ожиданиям.

В российском техническом сообществе, компаниях-лидерах типа «Яндекса» и «Сбера» alignment чаще переводят как выравнивание. При этом и в «Яндексе», и в «Сбере» соответствующие направления возглавляют не руководители по выравниванию, а руководители по alignment, то есть «выравнивание» нельзя считать совсем устоявшимся переводом, тем более что оно тоже по логике русского языка просит дополнения.

За рамками технического сообщества alignment переводится как кому вздумается, поскольку специалистов из других сфер эта проблема интересует в более широком контексте, а не только как этап разработки.

Даже на международном уровне с alignment всё непросто. В ООН обычно стараются максимально точно переводить документы, но с новыми терминами случаются сбои. В июле Независимая международная научная группа по ИИ представила свой предварительный доклад. В английской версии термин alignment и его производные упоминается несколько раз, но в русской версии он переводится и как соответствие, и как (не)соответствие общему контексту, и как согласование поведения.

Если одного хорошего перевода нет, то естественный выход — это заимствование иностранного слова. И, конечно, для простоты и взаимопонимания специалисты уже пишут просто «алайнмент». Но звучит не очень благозвучно.

Государственник, прочитав эти размышления, покачает головой, нахмурится и строго скажет:

— Какой алайнмент? Какое выравнивание? Какое согласование поведения? Вы что, закон не читали? Только обеспечение применения больших фундаментальных моделей искусственного интеллекта на основе таких ценностей, как жизнь, достоинство, права и свободы человека, патриотизм, гражданственность, служение Отечеству и ответственность за его судьбу, высокие нравственные идеалы, крепкая семья, созидательный труд, приоритет духовного над материальным, гуманизм, милосердие, справедливость, коллективизм, взаимопомощь и взаимоуважение, историческая память и преемственность поколений, единство народов России.