Anthropic приоткрыла завесу над «внутренней кухней» своей нейросети Claude

Как устроено «мышление» языковой модели Claude изнутри

Как сообщает НВ — Техно: Исследователи из Anthropic опубликовали научный доклад, где подробно разбираются механизмы работы их флагманской модели Claude. Ключевое понятие, введенное в работе - «J-Space», некий условный «рабочий черновик», который модель использует для обработки данных при решении нетривиальных задач. Автор статьи в Gizmodo, Майк Перл, предупреждает: подача материала может натолкнуть читателя на мысль, что у Claude есть зачатки сознания, однако компания категорически это отрицает.

Принцип действия J-Space: аналогии с человеческим мозгом

Согласно исследованию, принцип работы J-Space напоминает теорию глобального рабочего пространства - одну из гипотез, объясняющих природу человеческого сознания. Наблюдая за этим пространством, можно отследить, как Claude выполняет промежуточные логические шаги при:

• анализе изображений,
• отладке программного кода,
• решении прочих задач.

Впрочем, в Anthropic подчеркивают: все эти эксперименты не доказывают, что Claude обладает субъективным опытом или способен чувствовать по-человечески.

Примечательно, что в компании пока нет единого мнения о том, какие научные методы могли бы однозначно подтвердить или опровергнуть наличие сознания у ИИ. В своих публикациях они используют такие формулировки, как «удерживать понятия в уме», «проводить мысленные вычисления» и «размышлять о собственном мышлении». Майк Перл отмечает: хотя исследование и дает ценную пищу для размышлений о том, как работают большие языковые модели, к его выводам стоит относиться с осторожностью и не воспринимать их как свидетельство рождения машинного сознания.

Данная работа лишний раз подчеркивает, насколько сложна и многогранна тема изучения искусственного интеллекта - особенно когда речь заходит о возможных параллелях с человеческим сознанием. Несмотря на интригующие результаты, Anthropic настойчиво напоминает: у этих технологий нет подлинного сознания. Это важное уточнение, которое способно повлиять как на вектор будущих исследований, так и на то, как общество в целом воспринимает современные нейросети.

Интересно, что несмотря на достижения Claude, нейросети все еще сталкиваются с трудностями в выполнении простых задач. Например, недавний тест на внимательность показал, как GPT и Claude не справились с элементарными заданиями, что подчеркивает ограничения современных моделей в понимании контекста.