ИИ научили убивать людей в играх

СЛИШКОМ КРУТО... ИЛИ СЛИШКОМ ОПАСНО?

Вот что произошло.

Пара программистов из Carnegie Mellon разработала искусственный интеллект, который умеет играть в Doom. Используя то, что они называют "глубоким укрепляющим обучением", Гийом Лампли и Девендра Синг Чаплот создали ИИ, который играет в игры также как это делают люди — охотиться и убивать все, что движется.

Укрепление обучение приходило от получение очков за предметы, движение и убийства, очки отнимались у ИИ в случае смерти или попадания по нему врагами. По сути, все то, что делал бы сам игрок — и это отличает его от обычных ботов.

Однако главное тут то, что такой ИИ настолько реален, насколько это возможно в рамках упрощенной пикселястой среды — и это вызывает вопросы развития ИИ в реальном мире.

НАДЗОР НАД ИИ

Некоторые области применения ИИ в современно мире вызывают неоднозначную реакцию. Однако большая их часть — в том упрощенном виде, в котором они существуют, имеют очень даже позитивные последствия в областях медицины, космических технологиях, транспорте и тому подобном.

Хотя исследователи ИИ не хотят вызывать ИИ-истерию, важность разработки четких и понятных политик в отношении разработки и функционирования ИИ. Другими словами, нам нужны определенные законы "робототехники".

Как бы фантастически и глупо не звучали предсказания об опасностях ИИ — они действительно существуют. Даже если они преувеличены для драматизма, нельзя исключать тот факт, что пока мы даже не можем себе представить, на что будет способен полноценный ИИ, который осознает себя. 

Подобно игре в Doom, мы можем научить ИИ получать "наслаждение" от помощи людям — но только в том случае, если у нас будут установлены определенные политики в его отношении. И закладывать их нужно не завтра, а уже сейчас, чтобы контроль над ИИ не был построен на абстрактных понятиях, а на уже реально существующих сводах. 

Мы не должны бояться ИИ, а защищать его от тех, кто может использовать его способности ради плохих дел.