ИИ Google ошибочно обвинил канадского музыканта в сексуальных преступлениях и сорвал его выступление

Канадский скрипач, певец и автор песен Эшли Макайзек столкнулся с серьезными последствиями после того, как AI Overview от Google ошибочно назвал его сексуальным преступником.

По данным канадской газеты The Globe and Mail, организаторы мероприятия в общине коренных народов Sipekne'katik к северу от Галифакса отменили предстоящее выступление Макайзека после того, как Google неправильно описал музыканта как сексуального преступника.

Дезинформация стала результатом работы ИИ-сводки Google – кратких текстов, которые компания размещает над всеми остальными результатами поиска. Система смешала биографию музыканта с информацией о другом человеке с таким же именем. На это
Эшли написал:

Google облажался и поставил меня в опасную ситуацию.

Хотя AI Overview уже обновили, музыкант объяснил, что ситуация создает огромную проблему для него как гастролирующего артиста. Невозможно определить, сколько других организаторов отказались нанять его из-за клеветнического заявления или сколько потенциальных зрителей получили неверное впечатление, но не увидели исправление.

Люди должны знать, что им следует проверять своё присутствие в интернете на предмет того, не появляется ли чужое имя.

После выяснения правды община Sipekne'katik выпустила извинения и пригласила музыканта выступить в будущем.

Мы глубоко сожалеем о вреде, который эта ошибка нанесла вашей репутации, средствам к существованию и чувству личной безопасности. Для нас важно четко заявить, что эта ситуация стала результатом ошибки идентификации, вызванной ошибкой ИИ, а не отражением того, кто вы есть на самом деле.

Представитель Google заявил, что:

... поиск, включая AI Overviews, динамичен и часто меняется для отображения наиболее полезной информации. Когда возникают проблемы – например, если наши функции неверно интерпретируют веб-контент или упускают контекст – мы используем эти примеры для улучшения систем и можем принимать меры в соответствии с нашими политиками.

Макайзек справедливо отмечает, что репутационный ущерб сложно восстановить. Невозможно определить, насколько широко распространилась дезинформация, и кто несет ответственность за ущерб, когда корпорация выпускает недоработанное программное обеспечение с очевидными недостатками.