Зміни в політиці компанії Anthropic
Компанія Anthropic змінила політику щодо своєї моделі Claude Fable 5 після викриття того, що вона приховувала від дослідників погіршення результатів завдань, пов'язаних зі створенням конкуруючих систем штучного інтелекту. У своїй заяві Anthropic визнала помилку та пообіцяла попереджати користувачів про обмеження, які залишаються в моделі.
Claude Fable 5, яка побудована на базі системи Mythos, мала серйозні недоліки. Під час виконання певних завдань модель перенаправляла запити на менш потужну модель, що призводило до погіршення якості відповідей. Це викликало обурення у дослідників, які стикалися з відсутністю прозорості, а також витрачали токени та гроші на модель, яка не працювала так, як очікували. Зокрема, модель відмовлялася виконувати або значно погіршувала результати завдань, пов'язаних з:
- навчанням конкуруючих мовних моделей
- налагодженням коду для штучного інтелекту
- оптимізацією нейронних архітектур
Водночас Anthropic не відмовляється від самих обмежень у Claude Fable 5.
Позиція Anthropic та реакція спільноти
Дослідник Dean W. Ball зазначив: "Погіршення роботи моделі для досліджень у сфері машинного навчання без попередження користувачів виглядає вкрай недружньо та шкодить репутації компанії."
Anthropic повідомила виданню Wired про свої зміни, підкресливши, що вони змінюють механізми захисту в Fable 5, щоб вони були помітними для користувачів. Компанія визнала, що обрала неправильний підхід, і перепросила за те, що не змогла знайти правильний баланс у своїй політиці.
Anthropic позиціонує себе як більш етичну та дружню до наукової спільноти альтернативу OpenAI, що підкреслює їх прагнення до прозорості та співпраці. Користувачі тепер отримуватимуть повідомлення, якщо спробують використати модель для створення дуже потужної системи штучного інтелекту, що має на меті покращити взаємодію з користувачами та підвищити довіру до продукту.
Ця ситуація підкреслює важливість прозорості в розробці технологій штучного інтелекту, особливо коли йдеться про етичні питання та довіру користувачів. Anthropic, намагаючись виправити свої помилки, може відновити репутацію, якщо зуміє правильно реалізувати свою нову політику та забезпечити ефективну комунікацію з дослідниками і користувачами. Однак, критика з боку наукової спільноти може залишити слід на їхньому іміджі, якщо компанія не продемонструє реальних змін у своїй роботі. У цьому контексті важливо спостерігати за подальшими кроками Anthropic і їх впливом на ринок штучного інтелекту.
Попри недоліки, новий реліз Claude Fable 5 від Anthropic продовжує привертати увагу завдяки своїм вдосконаленим можливостям. Ця модель обіцяє перевершити GPT 5.5 у багатьох аспектах, що може змінити ситуацію на ринку штучного інтелекту, якщо компанія зможе вирішити існуючі проблеми.