Покращення моделей Anthropic
З жовтня 2025 року моделі компанії Anthropic показують значне покращення результатів, досягаючи 1,9-кратного зростання швидкості розвитку у порівнянні з попередніми періодами. Це стало можливим завдяки незалежному аудиту організації METR, яка займається дослідженнями у сфері безпеки штучного інтелекту. В процесі оцінювання, що тривало 11 тижнів, були проаналізовані конфіденційні дослідження, проведені інтерв’ю та дані ще не випущених моделей.
Станом на жовтень 2026 року, Anthropic продовжує демонструвати покращення своїх моделей, досягаючи приблизно двократного зростання швидкості розвитку порівняно з періодом з березня 2024 по жовтень 2025 року. Однак, METR не вважає, що ці темпи прискорення є наслідком збільшення обчислювальних потужностей. Неформальні опитування працівників компанії свідчать про 12-кратне зростання продуктивності в написанні коду та проведенні експериментів, але METR оцінює ці дані як ненадійні.
Потенційні ризики та етичні питання
Згідно з інформацією Reuters, звіт METR є одним з найбільш чітких свідчень того, що штучний інтелект здатен прискорювати власний розвиток. Існує потенційна можливість рекурсивного самовдосконалення (RSI), коли системи можуть створювати більш потужні версії самих себе без участі людини. Проте, наразі штучний інтелект не має можливості робити вагомий і повністю автономний внесок у ключові етапи навчання моделей.
Дослідники попереджають про складності, пов’язані з узгодженням таких систем з людськими цілями, а також про можливу екзистенційну загрозу для людства в найгіршому сценарії. Генеральний директор Anthropic у вересні 2026 року закликав до сповільнення розвитку передового штучного інтелекту.
“Ця оцінка наводиться з високим ступенем невизначеності. Ми не здивувалися б, якби справжнє прискорення було ближчим до 1,5 або 2,5 історичного темпу.” - METR
Дослідники також підкреслюють, що "ми впевнені, що прискорення не було спричинене прискоренням масштабування обчислювальних потужностей для навчання".
Результати дослідження METR вказують на важливі зміни у розвитку штучного інтелекту, які можуть мати серйозні наслідки для технологічної сфери та суспільства в цілому. Прогрес у швидкості розвитку моделей Anthropic відкриває нові перспективи, проте також викликає занепокоєння щодо безпеки і контролю над такими системами. В умовах швидкого розвитку технологій важливо знайти баланс між інноваціями та етичною відповідальністю, щоб уникнути потенційних ризиків для людства.
Водночас, зростання можливостей штучного інтелекту викликає занепокоєння щодо його безпеки та етики. Дослідження Anthropic вказує на можливість рекурсивного самовдосконалення, що може суттєво вплинути на подальший розвиток технологій. Це питання потребує особливої уваги, адже ризики можуть стати серйозними в майбутньому.