Anthropic показала внутрішній "робочий простір" Claude

Внутрішня робота мовної моделі Claude

Як повідомляє НВ — Техно: Компанія Anthropic оприлюднила наукову роботу, в якій детально описується внутрішня робота мовної моделі Claude. У цій роботі представлено концепцію "J-Space", що визначається як умовний "робочий простір", який допомагає моделі обробляти інформацію під час виконання складних завдань. Автор матеріалу в виданні Gizmodo, Майк Перл, застерігає, що презентація дослідження може створити враження про ознаки свідомості у Claude, хоча сама компанія це заперечує.

Функціонування J-Space

J-Space, як зазначено в дослідженні, функціонує подібно до теорії глобального робочого простору, яка намагається пояснити виникнення людської свідомості. Спостерігаючи за J-Space, можна побачити, як Claude виконує проміжні етапи міркувань під час:

• аналізу зображень,
• пошуку помилок у коді,
• виконання інших завдань.

Проте Anthropic підкреслює, що їхні експерименти не свідчать про те, що Claude має власний досвід або здатний відчувати так, як люди.

Важливо зазначити, що в Anthropic наразі існує невизначеність щодо наукових методів, які могли б довести або спростувати наявність свідомості у штучного інтелекту. Компанія використовує терміни, такі як "утримувати поняття в думках", "виконувати подумки обчислення" та "думати про власне мислення". Майк Перл вказує, що, хоча дослідження є цікавим для розуміння принципів роботи великих мовних моделей, його результати слід оцінювати обережно і не сприймати як доказ появи машинної свідомості.

Ця публікація підкреслює важливість і складність дослідження штучного інтелекту, особливо в контексті його можливих аналогій з людською свідомістю. Незважаючи на те, що результати можуть викликати зацікавленість, компанія Anthropic намагається прояснити, що ці технології не мають справжньої свідомості, що може вплинути на подальші дослідження в цій галузі та сприйняття штучного інтелекту в суспільстві.

Цікаво, що результати досліджень Anthropic співвідносяться з недавніми тестами, які показали, як штучний інтелект, зокрема Claude, справляється з простими завданнями уваги. Це підкреслює складність в оцінці здатностей моделей, таких як взаємозв'язок між свідомістю та їхньою продуктивністю. Зокрема, результати тестів свідчать про обмеження, з якими стикаються сучасні AI-системи, навіть при виконанні базових завдань.