А в математике только и разговоров, что об ИИ

Недавно мы написали пост о ранних попытках использовать нейронки в математике. Выбирая тему, мы наивно полагали, что историю можно рассказать всего в двух частях. Но материала оказалось куда больше. Поэтому усаживайтесь поудобнее — мы выпускаем ещё один сериал

Итак, вот что происходит в математической ИИ-повестке сейчас:

известные журналы посвящают теме большие статьи
крупные компании выкладывают регулярно обновляемые бенчмарки
наш любимчик Теренс Тао регулярно выступает на эту тему в подкастах, на лекциях, в Оксфорде и даже выделил в своём блоге хештег для ИИ-результатов

Но сама идея о самообучении программ начала зарождаться в 1950-е годы. Развивал её Артур Самуэль. Он создал программу для игры в шашки.

Задумка была по тем временам радикальной. Самуэль позволил компьютеру учиться на собственном опыте.

Он играл партии, сохранял результаты и постепенно настраивал веса эвристик — оценочных функций, которые определяли, насколько «хорошей» считается позиция на доске.

Обучение шло не только на успехах. Программа фиксировала и «провальные» ходы, избегая их в будущем. Так формировался примитивный механизм обучения с подкреплением — один из ключевых элементов современного ML.

Шашки Самуэля доказали, что ПО может адаптироваться к сложным задачам, улучшая свои стратегии поиска решений по мере накопления опыта.

На основе этой работы были построены гугловские проекты AlphaGo и AlphaFold. В первом случае ИИ научился играть на уровне лучших игроков мира, а во втором — предсказывать пространственную структуру белков, что десятилетиями считалось сложнейшей задачей молекулярной биологии.

С появлением крупных языковых моделей (LLM) «математический» ИИ тоже перешёл на новый уровень. Например, DeepMind разработал проект FunSearch — «поиск в пространстве функций», нейронку, которая генерирует программы-решения математических задач.

Она работает, комбинируя обученную LLM (Google PaLM 2), с автоматизированным «проверяющим». Этот инструмент проверки фактов предполагает предотвращение распространения ложной информации — или, как это сейчас ещё называется, галлюцинаций.

Такой процесс позволяет преобразовывать первоначальные решения в новые знания, а также следить за тем, как строятся решения. Разработчики утверждают, что именно это и отличает FunSearch от других подобных программ.

В частности, FunSearch испытали на двух сложных математических задачах:

Bin packing problem: оптимальное размещение предметов разного размера по контейнерам

FunSearch нашла стратегию, которая практически не оставляет промежутки и делает укладку более плотной, чем традиционные жадные алгоритмы.

Cap set problem: поиск наибольшего множества точек на решётке, в котором никакие три точки не лежат на одной прямой

FunSearch успешно обнаружила новые конструкции для достаточно больших множеств «кэпов», которые значительно превосходят наиболее известные.

Хотя LLM не решила задачу полностью, она застолбила за собой результат, подвинув все предыдущие оценки, найденные человечеством. Так писали исследователи в громких статьях в Nature и The Guardian.

Конечно, среди математиков хватает как скептиков результативности подобных систем, доказывающих их переоценнённость, так и тех, кто продолжает регулярно анализировать результаты их математических бенчмарков и сообщать об успехах.

Друзья, и это мы ещё не дошли до самых главных открытий. Спойлер: их ещё на русском языке даже осветить не успели.

Накидайте ⚡️, если хотите быть первыми, кто узнает об этом.

#как_устроено