Оголошення про Agent Control Specification
3 червня о 13:00 компанія Microsoft оголосила про створення відкритого стандарту під назвою Agent Control Specification (ACS) для контролю поведінки штучних інтелектуальних агентів. Ця специфікація надає розробникам, фахівцям із безпеки та скарг можливість визначати правила для роботи агентів, що дозволяє забезпечити їхню відповідність етичним і безпечним нормам.
Мета та особливості ACS
Agent Control Specification розроблена з метою створення єдиного рівня керування механізмами контролю за поведінкою агентів. За допомогою ACS правила перевіряються в кількох контрольних точках під час виконання завдань. Це забезпечує контроль за дотриманням встановлених норм до отримання вхідних даних, перед викликом інструмента, після отримання результату та перед надсиланням фінальної відповіді. Таким чином, Microsoft прагне підвищити безпеку та надійність використання штучних інтелектуальних систем у різних сферах.
Microsoft випускає Agent Control Specification у вигляді програмного забезпечення для розробників (SDK), яке підтримує низку платформ, зокрема:
- LangChain
- OpenAI Agents SDK
- Anthropic Agents SDK
- AutoGen
- CrewAI
- Semantic Kernel
- Microsoft.Extensions.AI
Це дозволяє інтегрувати новий стандарт у вже існуючі рішення та платформи, що сприяє широкому використанню ACS в індустрії.
Створення Agent Control Specification підкреслює важливість етики та безпеки в розробці штучного інтелекту.
В умовах швидкого розвитку технологій, контроль за поведінкою агентів стає критично важливим для запобігання можливих зловживань та забезпечення довіри користувачів. Впровадження ACS може стати новим етапом у стандартизації процесів безпеки в індустрії штучного інтелекту, що, в свою чергу, може вплинути на майбутні розробки та регуляції в цій сфері.