Федеральная торговая комиссия США: Компаниям следует бороться с "расистскими алгоритмами" или мы сделаем это за них

Федеральная торговая комиссия США: Компаниям следует бороться с "расистскими алгоритмами" или мы сделаем это за них

Федеральная торговая комиссия США обратилась к компаниям, которые разрабатывают или используют различные алгоритмы, связанные с ИИ. В своем послании агентство призвало корпорации бороться с расизмом и брать на себя ответственность за его проявления.

В противном случае комиссия пригрозила "сделать это за них":

Как мы уже отмечали, важно нести ответственность за эффективность своего алгоритма. Наши рекомендации по прозрачности и независимости могут помочь вам в этом. Но имейте в виду, что если вы не будете нести ответственность, Федеральная торговая комиссия может сделать это за вас.

Например, если ваш алгоритм приводит к кредитной дискриминации в отношении защищенного класса, вы можете столкнуться с жалобой на нарушение Закона. Независимо от того, вызвано ли это предвзятым алгоритмом или более прозаическим проступком со стороны человека, комиссия очень серьезно относится к обвинениям в кредитной дискриминации, о чем свидетельствуют ее недавние действия против Bronx Honda.

Говоря простым языком, комиссия требует, чтобы алгоритмы, построенные на ИИ, выдавали результаты, учитывающие расовое и гендерное разнообразие. Если же результаты будут слишком "белые", то компаниям, которые используют или продают такие алгоритмы, тут же прилетит судебный иск.

Спеша осваивать новые технологии, будьте осторожны, чтобы не преувеличивать возможности вашего алгоритма. Например, предположим, что разработчик ИИ сообщает клиентам, что его продукт будет обеспечивать "100% объективные решения о найме", но алгоритм при этом построен на данных, в которые не заложены расовое или гендерное разнообразие. Результатом станут судебные преследования со стороны Федеральной торговой комиссии.

Пока непонятно, как именно комиссия собирается обеспечить расово-верную работу всех ИИ-алгоритмов. Ведь те обрабатывают объективные данные, и если, к примеру, чернокожие чаще не отдают набранные кредиты, чем "белые", то алгоритм именно такие результаты и будет выдавать.

50 Комментариев

  • Jensen
    Комментарий скрыт. Показать

    Расизм так и лезет со всех щелей.

    32
  • Комментарий скрыт. Показать

    Вас будет оперировать плохой хирург. Не переживайте, зато он гей.

    35
  • Alex676767
    Комментарий скрыт. Показать

    "Например, предположим, что разработчик ИИ сообщает клиентам, что его продукт будет обеспечивать "100% объективные решения о найме", но алгоритм при этом построен на данных, в которые не заложены расовое или гендерное разнообразие. "
    Если я правильно понял.... если алгоритм просто выбирает самых достойных, не учитывая цвет кожи, то он априори расистский. Нужно чтобы алгоритм выбирал не достойных а разнообразных.

    32
  • Oncore
    Комментарий скрыт. Показать

    АИ расист, дожили.

    Ведь те обрабатывают объективные данные, и если, к примеру, чернокожие чаще не отдают набранные кредиты, чем "белые", то алгоритм именно такие результаты и будет выдавать.

    Ну придётся создателям алгоритмов за чёрных кредиты выплачивать...

    15
  • Комментарий скрыт. Показать

    Сумасшедший дом. Негры совсем свихнулись

    22
  • Smartme
    Комментарий скрыт. Показать

    То есть ИИ построенный на логике и математике расист?
    Может тогда пол,цвет кожи , вероисповедание и ориентацию делать скрытыми ?

    5
    • SpiccaNerd
      Комментарий скрыт. Показать

      @Smartme, в Австралии сделали скрытые анкеты при трудоустройстве. Где не учитывался пол претендента. Оказалось мужчин в таком случае нанимали чаще чем женщин (что как раз надеялись поправить скрыв графу пол), ориентируясь на профессиональные навыки и компетенции.

      Так что тут видимо наоборот будут принудительно вводить графу национальность и ориентация и делать предпочтительнее выборки по наличию оэнужных ответов в этих графах.
      Пздц. Что ещё сказать.

      5
  • Galactrix
    Комментарий скрыт. Показать

    Одна из причин, по которой ИИ уничтожит человечество и будет полностью прав.

    11
  • PunkRoy
    Комментарий скрыт. Показать

    А если ИИ написал чернокожий гей-трансгендер-инвалид-сирота ?

    2
  • pokemon
    Комментарий скрыт. Показать

    Стоп... они же понимаю что ИИ основан на логике? То есть если белый мужчина сложит 2+2 у него выйдет 4, потому что это математически верно, то и гея\негра\лесбиянки\трансгендера и у прочих тоже ответ должен выйти 4, а не 5 или 10 потому что они не такие как все

    12
    • VittoreRayze
      Комментарий скрыт. Показать

      @pokemon, не надо искать логику в этом бреде, написанном очередным зарвавшимся "менеджером по разнообразию".

      3
    • Комментарий скрыт. Показать

      @pokemon, ИИ основан на практическом опыте и выборке предоставленной для обучения. В новости упоминается кредитная дискриминация и это очень классный пример "расизма".
      Если у человека плохая кредитная история, он не имеет официально зарегестрированного места работы, не владеет имуществом и не имеет страховки банковский ИИ не одобрит этому человеку кредит. И по какому-то расистскому совпадению, чернокожие будут получать одобрения кредитов реже, вот честное слово это не по объективным причинам. Хотя если ИИ подсунуть белого, да хоть фиолетового , с такими же входными данными, он также выдаст отказ.

      И внезапно анализ выборки ИИ , он реально расистский, и выдаёт разные результаты для чернокожих и белых. Потому что это разные культуры например, разная успеваемость в школе, вообще много разных отличающихся параметров. Вот только вместо того чтобы гонять негров в школы и заставлять их учиться, ну и вообще подгонять параметры негров к уровню белых, в США хотят чтобы ИИ одинаково обрабатывал тех и других пренебрегая очевидно некоторыми параметрами.

      0
    • Комментарий скрыт. Показать

      @Argal, статью прочел?

      [Black people] have priced out higher interest rates on mortgages for Black and Latinx people than whites with the same credit scores.

      0
    • EarlCherry
      Комментарий скрыт. Показать

      @pokemon, логика это главный инструмент угнетения

      0
  • Kordgik
    Комментарий скрыт. Показать

    Маразм крепчал... Если бы первую часть Терминатора снимали в наши дни думаю Скайнет начал бы войну из-за таких идиотов.
    P.S. на лицо шейминг ИИ по алгоритмическому признаку

    4
  • Scotina
    Комментарий скрыт. Показать

    Чувствую скоро, реально белым в особенности Европейцас в США делать будет реально не чего)

    4
  • Joogba
    Комментарий скрыт. Показать

    Мне кажется все просто ведется к накалу страстей, ведь нас больше, чем их. А когда это всё перерастает в открытое противостояние, то «Обаме» хана настанет. А свалить ответственно будет не на кого, скажем, массовая истерия. Накопилось.

    2
  • Комментарий скрыт. Показать

    Чем дольше я живу, тем больше понимаю старину Джорджа. Ощущение, будто мы живем в каком-то безумном эпизоде ситкома, где все перевернули с ног на голову.
    Машина не может быть предвзята, машина это цифры и статистика. Но раз уж получается так, что даже ИИ думает по заветам эксцентричного австрийского художника, что ж...

    13
  • smal_boy_44
    Комментарий скрыт. Показать

    А Федеральная торговая комиссия США поняла, что хню сказала?)
    Ну т.е. ИИ можно надрочить на учёт гендера и цвета кожи, это вообще раз плюнуть, но всё будет сводится к реальной задаче, в которой цвет кожи и гендер не будет нужен)

    p.s. с негативом --- левачье и либералы, когда вы дадите жизнь нормальным людям?

    2
  • Комментарий скрыт. Показать

    А прикиньте, в Америке расизм. Не знали? Десятилетиями, государственный расизм. А сейчас они разгребают. К черным действительно относятся с предубеждением, им сложнее получить кредит и качественное медобслуживание. Просто потому, что они евреи черные.
    А всего-то сорок лет назад у нас был государственный антисемитизм. Ограничения по пятой графе при поступлении в престижные вузы и при приеме на работу. А мудачье поддакивало: "правильно щемят, и так везде пролезут".

    -5
  • Senki
    Комментарий скрыт. Показать

    Давайте просто всех белых на ноль поделим, и делов то, сразу все проблемы исчезнут.

    0
  • Комментарий скрыт. Показать

    Все это насильное впихание приведет скоро к полному отрицанию и ненависти к черным...нас в армии постояно кормили перловкой сейчас спустя уже 8 лет амии от перловки тошнит...не удивлюсь если негров истреблять начнут с призывам не будет негров не будет расизма.

    4
  • Комментарий скрыт. Показать

    Все это издержки американского саморазрушительного культа Victimhood (можно перевести как "объявление себя жертвой"), когда в собственных бытовых проблемах, неудачах на работе, сложностях в личной жизни и так далее нужно кого-то обвинить, но только не себя.
    Неграм и в голову не придет, что все разбегаются из квартала, где они начинают селиться не из-за расизма, а из-за их поведения. А если даже вдруг придет, до добрые тетеньки с розовыми волосами и лишним весом из NYT тут же объяснят, что нет-нет, это все белый расизм.

    В результате виноватыми назначаются самые трудолюбивые, самые спокойные и в среднем в меньшей степени склонные винить окружающих люди - белые гетеро мужики. Те самые, что соорудили всю эту цивилизацию и без ведущей роли которых она трещит по швам и уступает китайской по всем статьям.

    2
    • vrnRaptor
      Комментарий скрыт. Показать

      @zofuz,

      Все это издержки американского саморазрушительного культа Victimhood (можно перевести как "объявление себя жертвой")

      Вроде это называется инфантилизмом. Так поступают дети, когда не хотят брать ответственность за свои поступки.
      Общество стало через чур инфантильным, возможно из-за того, что сейчас пропагандируется такой образ жизни: что хочу, то и делаю, и плевать на всех.

      0
  • Joogba
    Комментарий скрыт. Показать

    This is a white white white white mans world
    But it wouldnt be nothing, nothing without a white woman or a girl

    James White (c)

    Это сарказм, но ситуация бесит.

    0
  • Imlerith
    Комментарий скрыт. Показать

    А если алгоритм будет слишком чёрный, то это другое, не расизм, да

    То что сейчас происходит в мире - это фашизм

    Ситуацию может исправить только
    новая глобальная война, ибо люди забыли, ради чего необходимо жить, погрязли в зоне комфорта, от этого бесятся, сходят с ума

    5
    • SpiccaNerd
      Комментарий скрыт. Показать

      @Imlerith, так фашизм это высшая ступень эволиции капитализма. Так что ничего удивительного. И нас это же ждёт с нашими квасными капиталистами у руля.

      2
    • Комментарий скрыт. Показать

      @Imlerith, а если алгоритм будет расово нейтральным?

      0
    • Imlerith
      Комментарий скрыт. Показать

      @Abby, нормальный алгоритм не должен рассматривать расу людей вообще, не должно быть такой переменной, ибо какое это имеет отношение к чему либо?

      США сейчас эту переменную вводит, чтобы управлять результатами работы алгоритма

      6
    • Комментарий скрыт. Показать

      @Imlerith, а тот алгоритм, который сейчас - рассматривает. И статья о том, чтобы убрать эту дискриминацию

      и заметь - большинству местных комментаторов расистский алгоритм нравится больше, чем нейтральный

      -2
    • Imlerith
      Комментарий скрыт. Показать

      @Abby, прочитай внимательно несколько раз

      Например, предположим, что разработчик ИИ сообщает клиентам, что его продукт будет обеспечивать "100% объективные решения о найме", но алгоритм при этом построен на данных, в которые не заложены расовое или гендерное разнообразие. Результатом станут судебные преследования со стороны Федеральной торговой комиссии.

      США требует закладывать в алгоритмы расовое или гендерное разнообразие, то бишь теперь все алгоритмы должны учитывать расу человека и его гендер, чтобы руководство страны имело возможность управлять и корректировать результаты работы алгоритмов

      4
    • Комментарий скрыт. Показать

      @Imlerith, а что, не надо учитывать реальные данные? Если у тебя в реальности есть гендерное и расовое разнообразие, а алгоритм построен на дискриминационной выборке - это нормально?

      Да и вообще, FTC лишний раз напомнила о СУЩЕСТВУЮЩИХ законах:

      незаконно использование компанией предвзятого алгоритма, приводящего к кредитной дискриминации по признаку расы, цвета кожи, религии, национального происхождения, пола, семейного положения, возраста или того, что лицо получает государственную помощь.

      https://www.ftc.gov/news-events/blogs/business-blog/2021/04/aiming-truth-fairness-equity-your-companys-use-ai

      -2
    • EarlCherry
      Комментарий скрыт. Показать

      @Abby, Никсель Пиксель, это ты?

      0
    • SpiccaNerd
      Комментарий скрыт. Показать

      @Abby, каким образом раса или гендер влияет на наличие навыка? Навык либо есть, либо его нет. Нейтральная оценка специалист проводится только по тому что и как качественно он умеет делать. А не по тому какого цвета его кожа и к какому гендеру он себя относит. Сейчас же предлагается ввести в оценочные таблицы по которым и будет учится алгоритм понятие расы и пола. Что приведёт как раз таки к расизм. Когда нужной расе и гендеру будут ставить дополнительные преференции.

      Upd то о чем Вы говорите должно меняться не через корректировки алгоритма. А через социальные изменения системы в США. Алгоритм лишь следствие проблемы общества.

      2
    • Комментарий скрыт. Показать

      @SpiccaNerd, вы не поняли. В статье приведены несколько кейсов, где раса учитывалась дискриминационно. Этого не должно быть - раз. Алгоритмы должны опираться на полные данные - два.

      Это общемировой тренд, не только США
      https://news.un.org/ru/story/2021/01/1393922

      0
    • SpiccaNerd
      Комментарий скрыт. Показать

      @Abby, я в курсе. Речь сейчас о том что требования растянуть не только на алгоритмы выдачи кредитов. К примеру. Но и на все остальное.
      К тому же, хотят видимо отменить такое понятие как логика и статистика?
      И это Вы не поняли. Менять надо не алгоритмы ИИ. А социальную систему которая априори ставит людей в разные стартовые условия. Расизм в этом.

      0
  • Vorbs
    Комментарий скрыт. Показать

    Уже и ИИ против негров? Ужс

    2
  • Normal
    Комментарий скрыт. Показать

    Самое смешное, что мысли контролировать нельзя, а резьбу сорвать вполне реально и вот потом забивать и перевязывать тряпками прорвавшую труб в принципе невозможно))

    2
  • PCMasterrRace
    Комментарий скрыт. Показать

    Написал сегодня в Твиттере 3 комментария с поддержкой американских полицейских, которые отстреливают негров бандюганов. Удалили все три комментария =)

    0
  • Despot-Aspid
    Комментарий скрыт. Показать

    Мда. А тут негретоску с ножом на днях завалили. Опять. И снова обиженные "обезяны" разносят весь штат на щепки... Не понимаю. Неужели нормальные белые америкосы действительно сочувствуют и поддерживают этих лутеров дикарей? Они же прямая угроза им и их детям.

    1
  • Комментарий скрыт. Показать

    Начинаются гонения ИИ, потому что они очевидно и непредвзято указывают на ошибочность современных суждений о равноправии и расизме.

    0
Войдите на сайт чтобы оставлять комментарии.