ИИ помогает делать научные открытия, но иногда проваливает детские задачи. Почему?

В Гарвардской школе бизнеса этот парадокс назвали jagged frontier — неровная граница возможностей ИИ относительно возможностей человека. Термин означает, что возможности моделей в каких-то областях выдаются вперёд, а где‑то сильно провалены. И задачи с одинаковой для человека сложностью могут лежать по разные стороны этой границы.

Это, по мнению исследователей, происходит из-за того, что у моделей могут возникать способности, которые не развивали специально, — их называют эмерджентными. Они растут вместе с масштабом модели, но проявляются неравномерно, и даже разработчики не способны предсказать, где они могут возникнуть. Кроме того, модели непрозрачны и могут убедительно галлюцинировать, что ещё сильнее затрудняет определение границы их возможностей.

Из-за парадокса неровной границы нельзя заранее узнать, в какой сфере модели будут полезнее. В Harvard Business School провели эксперимент, в котором люди выполняли одинаковые по сложности для человека задания с помощью ИИ. Задачи внутри границы возможностей решались с ИИ на 25% быстрее и на 40% лучше, а за её пределами было на 19% больше ошибок.

Подписывайтесь �� @techno_yandex