850 экспертов призвали остановить суперинтеллект: что это означает

Более 850 ведущих общественных деятелей, включая лидеров в области искусственного интеллекта (ИИ), поддержали открытое письмо, которое призывает замедлить разработку 'суперинтеллекта' - формы ИИ, которая превосходит человеческий интеллект.

В письме также выразили свою поддержку ведущие ученые в области компьютерных наук, в частности лауреаты Нобелевской премии Джеффри Хинтон и Йошуа Бенджио, а также Стив Возняк и Ричард Брэнсон.

Суперинтеллект превосходит человеческие когнитивные способности. Некоторые эксперты опасаются, что создание такого ИИ может привести к потере контроля над системами, - указано в письме.

Авторы письма призывают ввести 'запрет на разработку суперінтеллекта, который не может быть снят, пока не будет достигнут широкий научный консенсус относительно безопасности этого процесса и не будет получена широкая поддержка общества'.

Разные взгляды на развитие ИИ

Мировые лидеры рассматривают гонку в разработке ИИ как критически важную для национальной безопасности и прогресса в различных отраслях, таких как здравоохранение, бизнес и технологии. Но некоторые эксперты, в частности генеральный директор OpenAI Сем Альтман, выражают обеспокоенность относительно этого процесса, считая, что разработка суперинтеллекта должна быть обоснована безопасностью.

Другой подход к будущему ИИ выражается через понятие общего искусственного интеллекта (AGI). Сторонники AGI, в частности Сем Альтман, считают, что такой ИИ может способствовать развитию общества, а не угрожать ему. Также стоит отметить, что искусственный интеллект уже влияет на когнитивные процессы подростков, заставляя их быстрее мыслить, хотя это может влиять на глубину анализа информации.

Ученые и лидеры в области искусственного интеллекта призывают замедлить разработку 'суперинтеллекта', так как создание такого уровня искусственного интеллекта может привести к потере контроля и угрозе безопасности.