Новый центр по изучению искусственного общего интеллекта
20 сентября 2023 года стало известно о создании исследовательского центра, посвящённого искусственному общему интеллекту (AGI), инициированного компаниями Google и DeepMind. Главной задачей нового института станет стимулирование обсуждений и контроль за развитием технологий искусственного интеллекта. Руководство центром взяли на себя Шейн Легг, Джеймс Маника и Демис Гассабис. В рамках работы планируется организовать в США структуру, которая будет оценивать передовые AI-модели.
Основные задачи и планы центра
Предполагается, что компании добровольно будут предоставлять свои модели для проверки за 30 дней до официального запуска. В будущем тестирование может стать обязательным требованием для выхода новых моделей на рынок США. Сначала методики оценки будут разрабатываться совместно с компаниями, затем центр перейдёт к проведению собственных закрытых тестов. В случае необходимости правила могут ужесточаться, вплоть до координированного замедления темпов развития, как отметил Демис Гассабис.
Важным вкладом в безопасность AI стали эссе исследователей безопасности DeepMind Рогина Шаха и Анки Драган, посвящённые поэтапной проверке рассуждений моделей. Дополнительно два других эссе рассматривают экономическую политику и принципы человеческого благополучия в контексте AGI. Также генеральный директор Anthropic Дарио Амодей призвал к регулированию скорости разработки передовых систем искусственного интеллекта. Все эти инициативы направлены на обеспечение безопасного и этичного развития технологий AGI.
«Создание центра для изучения искусственного общего интеллекта отражает растущую озабоченность по поводу безопасности и этических аспектов развития AI.»
Подобные меры по оценке новых моделей могут стать фундаментом для выработки регулирующих норм в сфере технологий с высоким потенциалом влияния на общество. Вовлечение компаний в процесс тестирования поможет выявлять риски на ранних этапах и гарантировать соответствие новейших разработок этическим стандартам.
Для русскоязычной аудитории важно понимать, что развитие AGI — это не только технологический прорыв, но и серьёзный вызов для законодательства и общества, требующий международного сотрудничества и прозрачности.
В свете создания нового исследовательского центра для контроля над развитием искусственного общего интеллекта, важно также учитывать предостережения экспертов о потенциальных рисках. Недавние заявления ученого из OpenAI подчеркивают, что утрата контроля над мощными ИИ-системами может иметь серьезные последствия. Узнайте больше о том, как эти угрозы могут повлиять на будущее технологий, читайте в нашем материале.