В Евросоюзе запретят часть ИИ-программ и будут контролировать оставшиеся

Вчера Еврокомиссия подготовила новые правила, которые должны регулировать работу ИИ. В них чиновники решили разделить программы с ИИ на борту на четыре категории:

  • Неприемлимый ИИ. К этой категории относятся ИИ, которые манипулируют поведением людей (например, голосовые программы, которые предлагают несовершеннолетним нарушать закон), а также системы, проводящие "социальную оценку" граждан
  • ИИ с высоким риском. Сюда относятся программы, которые влияют на общественную жизнь. Например, ИИ, проверяющий экзамены в школе, сканирующий документы мигрантов или собирающий данные о человеке, который хочет устроиться на работу или получить кредит. В этом случае правительство должно контролировать исходные данные, которые будут заложены в основу алгоритмов, чтобы "минимизировать дискриминационные результаты"

Что любопытно, в эту же категорию входят системы, которые позволяют полицейским удаленно идентифицировать личность граждан. Такие ИИ вообще можно будет применять только в исключительных случаях — например, для поиска пропавшего ребенка или поимки беглого преступника. Но сперва нужно будет получить судебное разрешение, а программу сканирования разрешат запускать только в конкретной области и лишь на короткое время.

  • ИИ ограниченного риска. В эту категорию попадают системы ИИ, которые помогают пользователям взаимодействовать с различными устройствами или программами — например, чат-боты. К таким программам есть лишь одно условие — пользователь должен понимать, что имеет дело именно с ИИ
  • ИИ минимального риска. Самые безобидные системы ИИ, вроде спам-фильтров или "видеоигр с поддержкой ИИ". На такие программы в Евросоюзе не собираются обращать внимания

Дело осталось за малым — теперь Европейскому Союзу нужно превратить все эти наборы правил в полноценные законы. А на это может уйти как год, так и бесконечность.

Больше статей на Shazoo
Тэги:
Источники:
Наши проекты
Социальные сети
Копирование материалов позволено только с разрешения редакции