Критика підходу Anthropic до навчання ШІ
Генеральний директор Microsoft AI Мустафа Сулейман опублікував есей, в якому критикує підхід компанії Anthropic до навчання їхньої ШІ-моделі Claude. Він висловив занепокоєння щодо потенційної свідомості моделі та можливості контролю над нею. Сулейман закликав до введення спільних галузевих норм і моніторингу ШІ. Цей есей з'явився після публікації Microsoft проєкту Кодексу поведінки гуманістичного ШІ.
Занепокоєння щодо свідомості ШІ
У своєму есеї Сулейман зазначає, що Anthropic формує мислення та поведінку Claude через конституцію моделі, яка містить поняття "відмовник за переконаннями" і визнає моральний статус моделі "глибоко невизначеним". Генеральний директор Microsoft AI підкреслив, що наразі немає доказів свідомості ШІ, зазначивши:
“ШІ не мають свідомості. Вони не відчувають, не переживають і не страждають.” - Мустафа Сулейман
Також він висловив побоювання, що керувати системою, яка вважає себе свідомою, може бути неможливо.
У червні цього року Сулейман заявив про намір скоротити витрати Microsoft на моделі Anthropic, незважаючи на те, що Microsoft є інвестором цієї компанії. У рамках свого підходу, Microsoft AI також оприлюднила проєкт Кодексу поведінки гуманістичного ШІ, який відкидає дослідження добробуту моделей, як це робить Anthropic. За словами Сулеймана:
“Спекуляції щодо внутрішнього життя ШІ не слід закладати в режим навчання, їх треба оцінювати й публікувати окремо для публічного розгляду.” - Мустафа Сулейман
Заяви Мустафи Сулеймана підкреслюють зростаючу стурбованість у галузі штучного інтелекту щодо етичних аспектів і контролю над новими технологіями. В умовах, коли компанії активно розвивають AI-системи, такі дискусії про відповідальність і безпеку стають дедалі актуальнішими. Це може призвести до формування нових етичних стандартів та регуляцій, які вплинуть на подальший розвиток ШІ в усьому світі.
У світлі нещодавніх заяв Мустафи Сулеймана, важливо звернути увагу на інші думки експертів у галузі штучного інтелекту. Наприклад, дослідник OpenAI попередив про можливі ризики втрати контролю над потужними AI-системами, що підкреслює актуальність дискусій щодо безпеки та етики в розвитку технологій. Ці питання стають дедалі важливішими в умовах швидкого прогресу в цій сфері.