Нобелевский лауреат увеличил оценку риска гибели человечества от ИИ до 20%

Беспокойство Джеффри Хинтона по поводу искусственного интеллекта

Как сообщает Главком: На саммите Sana AI в Нью-Йорке выступил Джеффри Хинтон - нобелевский лауреат и один из отцов-основателей современного искусственного интеллекта. Он выразил тревогу по поводу развития ИИ, отметив, что человечество создает новый вид существ, способных превзойти людей по интеллекту. Хинтон предупредил о рисках неконтролируемого прогресса в этой сфере, сравнив процесс с воспитанием ребенка. В частности, он повысил свою оценку вероятности уничтожения человечества из-за ИИ до 20%.

Джеффри Хинтон - британско-канадский ученый, удостоенный Нобелевской премии по физике в 2024 году. В 2023 году он покинул Google, где занимался разработками в области ИИ. На саммите он заявил, что ИИ уже доказал одну из теорем математика Пола Эрдёша, и предсказал появление системы, сопоставимой с Эйнштейном, в ближайшие 20 лет.

'Я считаю, что через 20 лет мы увидим нечто вроде Эйнштейна', - отметил Хинтон.

Проблемы искусственного интеллекта

Хинтон также подчеркнул, что дело не только в интеллекте, но и в характере ИИ. 'Если у меня есть фондовые опционы и я хочу быстро дойти до триллиона - я просто строю огромный компьютер и двигаюсь дальше. Если меня волнует будущее человечества - я ищу другой подход', - сказал он. Эти высказывания спровоцировали дискуссию среди экспертов, в том числе когнитивиста Гэри Маркуса, который опубликовал ответ на заявления Хинтона.

Кроме того, группа исследователей ИИ предупредила, что искусственный суперинтеллект может появиться уже через 2–5 лет. Выступления Хинтона и других специалистов, включая Папу Римского Льва XIV, который заметил, что 'истинное понимание приходит из опыта, а не из аппроксимации текста', демонстрируют актуальность и сложность вопросов, связанных с ИИ и его влиянием на будущее человечества.

Заявления Джеффри Хинтона подчеркивают растущую обеспокоенность экспертов по поводу этики и безопасности искусственного интеллекта. Его прогнозы о возможности создания интеллекта, превосходящего человеческий, ставят серьезные вопросы о том, как следует регулировать и контролировать развитие этой технологии. В условиях стремительного прогресса ИИ важно учитывать не только его потенциальные преимущества, но и риски, которые могут угрожать человечеству. Для российской аудитории стоит отметить, что подобные дискуссии активно ведутся и в отечественном научном сообществе, где также обсуждаются вопросы регулирования и безопасности нейросетей.

В контексте тревожных предсказаний Джеффри Хинтона, стоит обратить внимание на другие мнения экспертов о будущем искусственного интеллекта. Например, один из нобелевских лауреатов уже утверждает, что человечество может утратить контроль над ИИ к 2028 году. Это подчеркивает важность текущих дискуссий о возможных рисках и последствиях развития технологий. Узнайте больше о его прогнозах в нашей статье о потере контроля над ИИ.