OpenAI может приостановить обновления ChatGPT после жалобы в FTC

Общественная повестка может стать причиной задержки в развитии ChatGPT и аналогичных сервисов. Некоммерческая исследовательская организация "Центр ИИ и цифровой политики" (CAIDP) подала жалобу в Федеральную торговую комиссию (FTC), утверждая, что OpenAI нарушает закон FTC, выпуская такие большие языковые ИИ-модели, как GPT-4. По мнению CAIDP, эта модель "предвзята, обманчива" и угрожает как конфиденциальности, так и общественной безопасности. Кроме того, она, по-видимому, не соответствует принципам Комиссии, требующим, чтобы ИИ был прозрачным, справедливым и легко объяснимым.

Центр хочет, чтобы Комиссия расследовала деятельность OpenAI и приостанавливала будущие обновления больших языковых моделей до тех пор, пока они не будут соответствовать принципам и регуляциям. Также исследователи хотят, чтобы OpenAI проводила независимые обзоры продуктов и услуг GPT перед их запуском. CAIDP также надеется, что FTC создаст систему регистрации инцидентов и формальные стандарты для ИИ-систем.

FTC отказалась комментировать ситуацию. Президент CAIDP Марк Ротенберг входит в число тех, кто подписал открытое письмо с требованием, чтобы OpenAI и другие компании приостановили работу над тренировкой новых ИИ-моделей выше GTP-4 на шесть месяцев, чтобы уделить время обсуждению этических вопросов. Основатель OpenAI Илон Маск также подписал это письмо.

Критики ChatGPT, Google Bard и подобных моделей предупреждали о проблемных результатах, включая неточные факты, разжигание ненависти и предвзятость. Кроме того у подобных ИИ отсутствует возможность воспроизведения результатов и наблюдаются так называемые галлюцинации. Центр отмечает, что сама OpenAI предупреждает, что ИИ может "настаивать" на представляемых результатах, независимо от того, являются ли они верными. Несмотря на то что новая версия GPT демонстрирует гораздо лучшие способности, существует опасение, что люди могут слепо полагаться на ИИ, даже не читая, что они приводят в качестве ответов на запросы.

Нет гарантий, что FTC предпримет действия в связи с жалобой. Однако, если комиссия установит требования, это затронет разработку во всей отрасли ИИ. Компаниям придется ждать оценок, а если модели не будут соответствовать стандартам Комиссии, то последствия могут быть крайне негативными.