Google AI не може порахувати літери у словах

Помилки штучного інтелекту Google

Як повідомляє НВ — Техно: 28 травня о 22:30 видання TechCrunch опублікувало новину про помилки штучного інтелекту Google, пов'язані з підрахунком літер та написанням слів. AI-система Google виявилася неспроможною правильно підрахувати літери у слові "poop", вказавши, що в ньому є лише одна літера "r". Крім того, прізвище президента США було написано як "t-r-p-u-m".

У компанії Google пояснили, що підрахунок літер у словах залишається відомою проблемою для великих мовних моделей, і компанія працює над її виправленням. Ця проблема виникає через принцип роботи великих мовних моделей, які оперують токенами, що можуть бути словами, складами або окремими символами. Дослідник штучного інтелекту та викладач Університету Альберти Метью Гуздіал зазначив:

"Модель не 'читає' слово буквально." Метью Гуздіал, дослідник штучного інтелекту

За його словами, коли штучний інтелект сприймає слово "the", він розглядає його як готову одиницю значення, а не як окремі літери T, H і E.

Виклики в розвитку AI

Крім того, раніше після запуску сервісу AI Overview у пошуку Google система посилалася на сатиричні матеріали, радячи людям їсти каміння або додавати клей у піцу. Аспірант Північно-Східного університету Шерідан Фойхт підкреслив, що ця проблема може не мати ідеального рішення. Він пояснив, що навіть фахівцям складно визначити, яким саме має бути правильний поділ тексту для мовної моделі.

Помилки, виявлені у системі Google, підкреслюють виклики, з якими стикаються сучасні технології штучного інтелекту. Незважаючи на значний прогрес у цій галузі, такі проблеми демонструють обмеження мовних моделей, які можуть не завжди точно відображати граматичні та лексичні правила. Це ставить питання про необхідність подальших досліджень і вдосконалення алгоритмів для підвищення точності та надійності AI-систем.