Искусственный интеллект Google поможет решить, получат ли безработные пособия в США

В течение нескольких месяцев штат Невада планирует запустить систему на базе генеративного ИИ от Google, которая будет анализировать стенограммы апелляционных слушаний по вопросам пособий по безработице и предлагать рекомендации по решению дел. Этот шаг станет первым экспериментом в США, где ИИ будет играть роль в принятии решений, касающихся финансовой поддержки безработных.

По мнению представителей штата, внедрение ИИ значительно ускорит процесс рассмотрения апелляций, сокращая время, которое арбитры тратят на подготовку решений, с нескольких часов до нескольких минут. Это должно помочь решить проблему с большим количеством нерассмотренных дел, накопившихся с пандемии COVID-19.

Новый инструмент на основе ИИ будет формировать рекомендации на основе стенограмм и доказательств, предоставляя свое видение того, стоит ли одобрить, отклонить или изменить заявление на пособие. Однако, как отмечает директор Департамента занятости, обучения и реабилитации (DETR) Кристофер Сьюэлл, каждую рекомендацию будет проверять и утверждать человек. Если арбитр не согласен с предложением ИИ, он сможет внести коррективы и провести дополнительное расследование.

Некоторые эксперты и юристы выражают обеспокоенность тем, что акцент на скорость принятия решений может снизить уровень контроля со стороны человека. По их мнению, если проверка рекомендаций ИИ будет поверхностной, это может привести к ошибкам и несправедливым решениям, особенно в тех случаях, где важна внимательная оценка фактов.

В ответ на эти опасения представитель Google отметила, что компания работает с клиентами над тем, чтобы избежать возможных предвзятостей и соответствовать требованиям законодательства. В рамках контракта на сумму $1 млн, одобренного властями штата, Google не будет иметь доступ к персональной информации заявителей и не сможет использовать данные для других целей.

Новая система будет использовать модель Retrieval-Augmented Generation (RAG), которая обращается к базе данных с законами Невады и предыдущими делами, чтобы выдавать более точные результаты. Для контроля за работой модели будет создан комитет, который будет отслеживать ошибки и возможные искажения в работе ИИ, включая так называемые "галлюцинации" — моменты, когда модель выдант неверные или искаженные факты.

Исследования показывают, что RAG-модели иногда дают неверные ответы на юридические запросы, что вызывает опасения у юристов Невады. Если ошибка ИИ окажет влияние на решение арбитра, это может негативно сказаться на способности заявителя обжаловать это решение в суде. Ошибки в таких делах могут серьезно повлиять на жизнь людей, лишив их финансовой поддержки.

Новая система направлена на решение проблем, с которыми столкнулась Невада во время пандемии, когда огромное количество заявлений на пособия по безработице привело к перегрузке системы и долгим задержкам в рассмотрении дел. В 2020 году уровень безработицы в Неваде достиг рекордных 30%, что вызвало серьезные финансовые трудности для многих семей.

Хотя автоматизация с использованием ИИ может помочь решить проблемы с задержками, эксперты подчеркивают, что важным остается вопрос качества контроля и возможности человека вмешиваться в процесс.