Ошибки в искусственном интеллекте Google
28 мая в 22:30 TechCrunch сообщила об ошибках, допущенных AI Google, в частности, касающихся подсчета букв и правописания слов. AI система не смогла правильно подсчитать количество букв в слове 'poop', утверждая, что в нем всего одна 'r'. Кроме того, она написала фамилию президента США как 't-r-p-u-m.'
Google признала, что подсчет букв в словах остается известной проблемой для больших языковых моделей, и компания работает над решением. Эта проблема возникает из-за того, как работают эти модели: они обрабатывают текст как токены, которые могут представлять целые слова, слоги или отдельные символы. Исследователь AI и профессор Университета Альберты Мэттью Гуздиал объяснил:
'Модель не 'читает' слово в буквальном смысле.'Мэттью Гуздиал, исследователь AI
По его словам, когда AI сталкивается со словом 'the', он рассматривает его как единую единицу смысла, а не как последовательность букв T, H и E.
Проблемы в разработке AI
Ранее, после запуска функции обзора AI в Google Поиске, система ссылалась на сатирический контент, советуя людям есть камни или добавлять клей к пицце. Докторантка Университета Нортистерн Шеридан Фойхт подчеркнула, что у этой проблемы может не быть идеального решения. Она отметила, что даже эксперты испытывают трудности с определением идеального способа разбивки текста для языковой модели.
Ошибки, выявленные в системе Google, подчеркивают препятствия, стоящие перед современными AI технологиями. Несмотря на значительный прогресс в этой области, такие проблемы показывают ограничения языковых моделей, которые не всегда точно отражают грамматические и лексические правила. Это ставит вопросы о необходимости дальнейших исследований и совершенствования алгоритмов для повышения точности и надежности систем AI.