Интеллекта нет

Я провел различных обучающих программ по ИИ совокупно на более чем 12 тысяч человек.

Одним из самых удивительных инсайтов для слушателей всегда является следующий: Искусственный Интеллект — вовсе никакой не интеллект.

Давайте выровняемся в этом понимании.

Модели генеративного AI не понимают, не могут и никогда не будут ничего «понимать». Они не обладают эмоциональным интеллектом и не являются умными в каком-либо осмысленном, человеческом понимании этого слова.

LLM — это впечатляющие вероятностные машины, которые накормили практически всем «интернетом», и они научились генерировать текст, но не через мышление, а делая статистически обоснованные предположения о том, какое слово (набор символов) вероятнее всего следует за другим.

Всё.

Просто модели делают это так хорошо, что в 90% случаев мы получаем прекрасный качественный ответ и испытываем справедливый восторг от этого.

Но вот что интересно: нашему мозгу крайне сложно принять, что машина может так хорошо писать текст и воспроизводить знания, при этом совершенно ничего не понимая.

Когда мы видим грамотный, связный текст, мы автоматически предполагаем, что за ним стоит какой-то разум. Это рефлекс. Но за текстом LLM никакого разума нет — и это важно держать в голове, чтобы правильно работать с этими инструментами.

И по той причине, что LLM обучены на текстах из интернета, мы помним, что в интернете написано всякое, и если наш запрос является достаточно сложным или редким, или по нему нет «общечеловеческого» консенсуса, то любой ответ будет лишь квинтессенцией «интернетовской» мудрости на эту тему. А она может быть какой угодно.

Или, что AI нужно очень аккуратно спрашивать на темы, связанные с «регулируемыми» областями знаний: медицина, право, финансовые советы, психология и т.п. При наличии пары ошибок в промтах можно получить ответ диаметрально противоположный профессиональному, но который будет выглядеть так убедительно, что мы не заподозрим подвоха.

Будьте на чеку и ВСЕГДА ПЕРЕПРОВЕРЯЙТЕ, особенно в вопросах, касающихся критичных для вас тем.