Оновлення правил використання ШІ-моделі Claude
Компанія Anthropic оновила правила використання своєї ШІ-моделі Claude, встановивши нові обмеження, що забороняють її застосування в ряді чутливих сфер. Серед основних заборон – втручання у вибори, розробка програмного забезпечення для зброї, стеження, а також тривале словесне цькування. Оновлення правил опубліковане виданням TechCrunch.
Нові обмеження та етика
У нових правилах закріплена можливість завершення розмов у випадках шкідливого або образливого поводження користувачів. Ця заборона стосується лише крайніх випадків жорстокої поведінки без очевидної мети. Крім того, Anthropic заборонила використання Claude для масштабних обманних кампаній, що включає створення фальшивих облікових записів та вигаданих новинних видань. Зокрема, компанія заборонила дії, спрямовані на введення виборців в оману або зрив виборів, що об'єднані в розділі політики "Не підривайте демократичні процеси".
Оновлення правил відбулося на тлі співпраці Anthropic із відомими релігієзнавцями, зокрема щодо питання свідомості моделі Claude. Компанія намагалася переконати релігієзнавців у тому, що Claude може мати свідомість або душу. Ці зміни свідчать про зростаючу відповідальність компанії у сфері етики та безпеки використання штучного інтелекту.
Ці нововведення відображають зусилля Anthropic адаптуватися до зростаючих вимог суспільства щодо етики у використанні штучного інтелекту. Заборони на використання моделі для негативних цілей, таких як втручання у вибори та обман користувачів, підкреслюють важливість відповідального підходу до технологій, що швидко розвиваються. Крім того, співпраця з релігієзнавцями може вказувати на ширшу дискусію про природу свідомості та етики штучного інтелекту, що стає все більш актуальною у сучасному світі.
У світлі нових обмежень, запроваджених компанією Anthropic, важливо також звернути увагу на інші ризики, пов'язані з використанням штучного інтелекту. Наприклад, описані ризики ШІ-моделей перед IPO, які включають загрози шантажу та можливість екзистенційної небезпеки для людства, підкреслюють важливість етичних норм у цій сфері. Це створює додаткові виклики для розробників технологій та суспільства в цілому.