Беспокойство Джеффри Хинтона по поводу искусственного интеллекта
На саммите Sana AI в Нью-Йорке выступил Джеффри Хинтон — нобелевский лауреат и один из отцов-основателей современного искусственного интеллекта. Он выразил тревогу по поводу развития ИИ, отметив, что человечество создает новый вид существ, способных превзойти людей по интеллекту. Хинтон предупредил о рисках неконтролируемого прогресса в этой сфере, сравнив процесс с воспитанием ребенка. В частности, он повысил свою оценку вероятности уничтожения человечества из-за ИИ до 20%.
Джеффри Хинтон — британско-канадский ученый, удостоенный Нобелевской премии по физике в 2024 году. В 2023 году он покинул Google, где занимался разработками в области ИИ. На саммите он заявил, что ИИ уже доказал одну из теорем математика Пола Эрдёша, и предсказал появление системы, сопоставимой с Эйнштейном, в ближайшие 20 лет.
'Я считаю, что через 20 лет мы увидим нечто вроде Эйнштейна', — отметил Хинтон.
Проблемы искусственного интеллекта
Хинтон также подчеркнул, что дело не только в интеллекте, но и в характере ИИ. 'Если у меня есть фондовые опционы и я хочу быстро дойти до триллиона — я просто строю огромный компьютер и двигаюсь дальше. Если меня волнует будущее человечества — я ищу другой подход', — сказал он. Эти высказывания спровоцировали дискуссию среди экспертов, в том числе когнитивиста Гэри Маркуса, который опубликовал ответ на заявления Хинтона.
Кроме того, группа исследователей ИИ предупредила, что искусственный суперинтеллект может появиться уже через 2–5 лет. Выступления Хинтона и других специалистов, включая Папу Римского Льва XIV, который заметил, что 'истинное понимание приходит из опыта, а не из аппроксимации текста', демонстрируют актуальность и сложность вопросов, связанных с ИИ и его влиянием на будущее человечества.
Заявления Джеффри Хинтона подчеркивают растущую обеспокоенность экспертов по поводу этики и безопасности искусственного интеллекта. Его прогнозы о возможности создания интеллекта, превосходящего человеческий, ставят серьезные вопросы о том, как следует регулировать и контролировать развитие этой технологии. В условиях стремительного прогресса ИИ важно учитывать не только его потенциальные преимущества, но и риски, которые могут угрожать человечеству. Для российской аудитории стоит отметить, что подобные дискуссии активно ведутся и в отечественном научном сообществе, где также обсуждаются вопросы регулирования и безопасности нейросетей.
В контексте тревожных предсказаний Джеффри Хинтона, стоит обратить внимание на другие мнения экспертов о будущем искусственного интеллекта. Например, один из нобелевских лауреатов уже утверждает, что человечество может утратить контроль над ИИ к 2028 году. Это подчеркивает важность текущих дискуссий о возможных рисках и последствиях развития технологий. Узнайте больше о его прогнозах в нашей статье о потере контроля над ИИ.