Best-of-Infinity: Принципиальный подход к максимизации производительности LLM во время инференса Title: Best-of-? - Asymptotic Performance of Test-Time Compute Authors: Junpei Komiyama, Daisuke Oba, Masafumi Oyamada Paper: https://arxiv.org/abs/2509.21091 Review: https://arxiviq.substack.com/p/best-of-asymptotic-performance-of Code: https://github.com/jkomiyama/BoInf-code-publish # TL;DR Что сделано? В статье представлен теоретический фреймворк "Best-of-?", определяющий асимптотический предел производительности для стратегии best-of-N (BoN) с голосованием по большинству. Чтобы приблизиться к этому пределу с конечными ресурсами, авторы предлагают два ключевых нововведения: 1) Адаптивный алгоритм сэмплинга, который использует байесовское моделирование (в частности, фактор Байеса), чтобы динамически решать, когда прекратить генерацию ответов, тем самым оптимизируя вычислительные затраты. 2) Метод создания оптимально взвешенных ансамблей из нескольких LLM, который формулирует задачу оптимизации весов в асимптотическом…