Anthropic обнаружила у Claude точку-G J-пространство

Пока мы обсуждаем, на что еще можно потратить оставшиеся «бесплатные» лимиты в Fable 5, среди ИИ-сообщества пополз слух, что исследователи Anthropic нашли зачатки сознания у своих моделей.

На самом деле все немного прозаичнее, и речь про небольшое внутреннее пространство, которое модель использует при решении определенных задач. Там хранятся промежуточные шаги размышления, которых нет в выдаче.

Кстати, кожаная нейросеть устроена так же. 99% работы мозг делает в фоне, незаметно для нас. И лишь немногое попадает в «рабочее пространство». Это то, что мы осознаем, можем покрутить в голове, обсудить и превратить в план. Похожую штуку Anthropic и обнаружили внутри Claude.

Рекомендую изучить всем, кто интересуется темой ИИ чуть больше, чем бытовое общение с LLM.