Влияние искусственного интеллекта на человеческую память и восприятие информации
Учёные из Массачусетского технологического института (MIT) под руководством Патти Маес провели исследование, показавшее, что искусственный интеллект способен создавать ложные воспоминания и изменять восприятие реальных событий. В эксперименте участникам демонстрировали как оригинальные, так и сгенерированные ИИ изображения. У тех, кто видел отредактированные картинки, возникала большая вероятность ошибочного воспоминания исходных кадров, при этом они уверенно принимали эти заблуждения за правду.
Психологические исследования подтверждают, что даже после опровержения ложной информации её воздействие на решения людей сохраняется. В прошлом году было выявлено, что дипфейки и тексты, созданные ИИ, могут распространять вымышленные политические скандалы и снижать активность избирателей. Генеративные модели ИИ иногда создают недостоверные факты, которые получили название «галлюцинаций».
Распространение технологий ИИ и их последствия для общества
Искусственный интеллект всё активнее внедряется в работу государственных структур, финансовых учреждений, медицинских организаций и военной сферы. Однако пользователям часто сложно самостоятельно распознать ошибки в информации, сгенерированной ИИ. На данный момент не существует универсального метода для полного выявления таких искажений, поэтому учёные продолжают разрабатывать технологии, способствующие более эффективному распознаванию дипфейков и контента, созданного искусственным интеллектом.
Крупные технологические компании, включая Palantir, создают автономные системы, работающие без постоянного контроля человека. Внутреннее расследование Министерства обороны США показало, что чрезмерное доверие к ИИ Palantir стало причиной трагедии — в начале 2026 года в Иране была по ошибке нанесена авиаудар по начальной школе. Система ошибочно идентифицировала здание как военную цель из-за устаревших данных, в результате чего погибло свыше 150 человек, включая не менее 123 детей.
Последствия распространения дезинформации и манипуляций с помощью дипфейков серьёзно отражаются на политике и безопасности. Это подчёркивает необходимость критичного отношения к информации, генерируемой искусственным интеллектом. В то же время продолжаются исследования, направленные на создание эффективных инструментов для обнаружения и предотвращения распространения ложных данных, угрожающих обществу.
В условиях быстрого развития ИИ перед обществом встают новые задачи, связанные с надёжностью информации и обеспечением безопасности. Случаи вроде инцидента с Palantir подчёркивают важность жёсткого контроля за применением автономных систем, особенно в критически важных областях. Современные исследования в психологии и информационных технологиях акцентируют внимание на необходимости разработки механизмов, которые помогут выявлять и предотвращать дезинформацию, сохраняя доверие людей к информационным ресурсам. Для успешного внедрения ИИ в повседневную жизнь потребуется комплексный подход, учитывающий этические и безопасностные аспекты технологий.
В то время как искусственный интеллект продолжает оказывать значительное влияние на восприятие информации и принятие решений, существует также мнение, что уровень осознанности ИИ и его способности воспринимать реальность остаются предметом обсуждения. Узнайте больше о том, почему многие считают, что искусственный интеллект не столь осознан, как человек, несмотря на схожесть в восприятии.