Сем Альтман рассказал о неизбежных проблемах с ИИ и представил систему отчетности OpenAI

Опасения Сэма Альтмана по поводу искусственного интеллекта

Как сообщает НВ — Техно: 17 сентября на конференции Dreamforce, организованной Salesforce, глава OpenAI Сем Альтман выразил тревогу по поводу того, что некоторые инциденты с использованием современных технологий искусственного интеллекта избежать невозможно. Он отметил, что крайне важно формировать культуру прозрачной отчетности и учиться на ошибках, подчеркнув:

«я действительно считаю, что определённые инциденты неизбежны при внедрении новых технологий»

и добавил, что

«мир справедливо испытывает страх перед этим»

.

Компания OpenAI зафиксировала шесть случаев необычного или тревожного поведения своих моделей ИИ. В ответ на это руководство объявило о запуске системы мониторинга и публичного раскрытия информации о сбоях и ошибках моделей. Такая инициатива направлена на повышение безопасности и надежности искусственного интеллекта.

Обсуждение этических вопросов в сфере ИИ

Дискуссии вокруг развития искусственного интеллекта продолжаются на фоне растущих опасений по поводу автономности систем и концентрации контроля в руках немногих игроков. В этом контексте генеральный директор Microsoft AI Мустафа Сулейман опубликовал эссе с критикой методов обучения модели Claude от компании Anthropic. Этот спор отражает более широкие дебаты о нравственных и практических вызовах, связанных с обучением ИИ.

Кроме того, стоит отметить, что Федеральное управление гражданской авиации и Национальный совет по безопасности на транспорте внимательно изучают каждый инцидент с целью повышения безопасности в авиации. Это демонстрирует, что ответственные ведомства стремятся обеспечить надежное и безопасное внедрение новых технологий во многих сферах, включая как авиацию, так и искусственный интеллект.

Среди экспертов, активно обсуждающих эти темы, выделяется Джейкоб Коксон - исследователь, недавно покинувший Anthropic после работы в OpenAI. Его опыт помогает лучше понимать сложности, с которыми сталкиваются компании, работающие в области ИИ.

Заявления Сэма Альтмана подчёркивают важность открытого диалога о рисках, связанных с искусственным интеллектом, и необходимости создания эффективных механизмов их контроля. В условиях стремительного развития технологий компании нацелены не только на инновации, но и на обеспечение безопасности - аспект, который становится ключевым для их деятельности. Реакция OpenAI на выявленные инциденты свидетельствует о готовности признать проблемы и работать над их устранением, что является позитивным сигналом для всей отрасли.

Для русскоязычной аудитории важно понимать, что подобные инициативы формируют глобальные стандарты безопасности и этики в сфере ИИ, которые постепенно влияют и на отечественные разработки и регулирование технологий.

В то время как Сем Альтман акцентирует внимание на необходимости прозрачности в разработке ИИ, его коллега из Microsoft, Мустафа Сулейман, также высказывает опасения относительно методов обучения в отрасли. В новом эссе он критикует подходы компании Anthropic и призывает к созданию единых стандартов контроля, что подчеркивает важность этических норм в развитии искусственного интеллекта.