В США создадут Институт Безопасности ИИ для защиты потребителей

На фоне нового указа президента Джо Байдена о перераспределении задач федерального правительства в области разработки ИИ, вице-президент Камала Харрис заявила на Всемирном саммите безопасности ИИ в Великобритании о ряде инициатив в области машинного обучения. К числу ключевых инициатив относятся создание Института Безопасности Искусственного Интеллекта США и публикация первого проекта политических рекомендаций по использованию ИИ федеральным правительством.

Мы с президентом Байденом уверены, что лидеры всех уровней, будь то государственные структуры, общественные организации или частный сектор, несут ответственность перед обществом за безопасное внедрение ИИ.

Она также акцентировала внимание на потенциальной угрозе, которую может представлять недостаточно контролируемый ИИ, включая масштабные кибератаки и разработку биологического оружия на базе ИИ.

В рамках этой инициативы Харрис объявила о создании Института Безопасности Искусственного Интеллекта США, который будет отвечать за формирование рекомендаций, стандартов и методик для тестирования и оценки потенциально опасных систем ИИ.

Также было объявлено о скором публичном обсуждении первого проекта политических рекомендаций по использованию ИИ в госсекторе. Эти рекомендации помогут в создании мер безопасности для применения ИИ в различных сферах общественной деятельности.

Камала Харрис также сообщила о сборе подписей 30 стран под Политической декларацией об ответственном использовании ИИ в военных целях. В дополнение к этому был анонсирован виртуальный хакатон с целью противостояния угрозам, связанным с мошенничеством по телефону и интернету с использованием ИИ.

Основное внимание администрации Байдена и Харрис уделяется проверке подлинности контента. В рамках этой работы планируется сотрудничество с C2PA и другими промышленными объединениями.

Эти добровольные обязательства компаний — это первый шаг к безопасному будущему в области ИИ, и наша работа здесь не заканчивается.

В заключение она подчеркнула значение законодательства для решения этих задач, при этом поддерживая инновации в области ИИ.