ИИ

У Claude нашли J-space — внутреннее «рабочее пространство», похожее на механизм мозга

Claude J-space Anthropic

Anthropic описала в Claude внутреннюю структуру J-space, которая по своей функции напоминает «глобальное рабочее пространство» из нейронауки. Звучит почти как начало фантастики про сознательных роботов, но пока речь не о душе и не о самосознании, а о том, как модель организует сложные рассуждения внутри себя.

В нейронауке есть теория глобального рабочего пространства: мысль становится осознанно доступной, когда попадает в особую общую зону, откуда её могут использовать разные системы мозга. В Claude, как утверждается, исследователи Anthropic нашли похожий механизм. Его называют J-space.

Если объяснять простыми словами, J-space — это не отдельная «личность» внутри модели и не спрятанный разум. Это скорее внутренняя рабочая область, куда Claude выводит важные идеи, когда решает сложную задачу, держит в голове условие или пытается объяснить свою логику.

Для анализа использовался инструмент J-lens, или Jacobian Lens. Он работает как математический фильтр: помогает смотреть не только на итоговый ответ Claude, а на внутренние вычисления модели — какие концепты активируются в процессе и могут повлиять на будущий текст. Иными словами, J-lens позволяет увидеть часть того, что модель «держит в уме», даже если это не появляется в ответе напрямую.

Anthropic проверяла J-space несколькими способами. Claude просили молча выбрать объект или решить задачу, а затем сравнивали ответ с тем, какие концепты появлялись во внутренней зоне. В одном примере модель должна была понять, что животное, плетущее паутину, — это паук; когда исследователи заменяли в J-space концепт «spider» на «ant», ответ менялся с 8 ног на 6. В других тестах замена «France» на «China» меняла ответы о столице, языке, континенте и валюте.

Самая интересная часть — по версии источника, Anthropic считает, что эта структура не была специально заложена инженерами. Она возникла во время обучения модели, вероятно, потому что такой способ организации вычислений оказался полезным. Отсюда и громкая аналогия с конвергентной эволюцией: когда разные системы независимо приходят к похожему решению.

Но здесь стоит притормозить. Формулировка про «душу Claude» — скорее эффектный крючок, чем научный вывод. Anthropic не заявляет, что Claude получил человеческое сознание, самосознание или способность что-то переживать. Речь осторожнее: J-space похож на механизм функционального «доступа» к мыслям — область, из которой модель может брать концепты для отчёта, рассуждения и управления ответом.

Для пользователей это всё равно важная история. Чем лучше исследователи понимают, что происходит внутри LLM, тем проще объяснять странные ответы, находить сбои и делать модели безопаснее. Claude не стал человеком в коробке, но Anthropic, похоже, получила ещё один способ заглянуть в его внутреннюю кухню — особенно на фоне того, как быстро меняется рынок Claude и ChatGPT.


Источники: Anthropic, исследовательская публикация, Wccftech

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
0 комментариев
Старые
Новые Популярные
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x