Tribuna Club » Общество » Искусственный интеллект обучился у людей сексизму и расизму

Искусственный интеллект обучился у людей сексизму и расизму

В научно-популярном журнале Science опубликована статья, в которой описываются все трудности, с которыми столкнулись учёные при обучении искусственного интеллекта(ИИ) через лингвистическую подачу информации. Такая форма обучения, когда ИИ просто читает текст или осваивает речь, имеет преимущество перед программными алгоритмами, которые сложны и требуют их написания.

Ранее было установлено, что в отличии от человека, ИИ воспринимает лингвистическую информацию буквально, не отвлекаясь на малозначащие эмоциональные отступления. Такой прагматичный подход в некоторых случаях показал выдающийся результат. Например, машина, перечитав огромное количество медицинской литературы, с точностью 90% диагностировала рак лёгких у людей. В тоже время дипломированные врачи с этой задачей справлялись только в каждом втором случае. Как говорят специалисты, это всё из -за того, что люди склонны обращать внимание на сторонние факты, которые их только сбивают с толку. ИИ подходи к решению задачи формально.

Вместе с тем, как указывается в научной статье издания Scince, даже ИИ в определённой степени не устоял перед навязанными через лингвистическую структуру речи стереотипами, вплоть до того, что освоил для себя сексистские и расистские её особенности. "Виновата" здесь специфическая методика обучения ИИ. Если одно и тоже слово часто употребляется вместе с ещё одним, то ИИ это запоминает. Таким образом, оказалось, что слово афроамериканец у ИИ идёт в близкой смысловой связи со словами преступление, тюрьма, бедность. Вместе с тем, слово европеец ассоциируется со словами семья, стабильность, счастье, благополучие. Кроме расистских речевых стереотипов ИИ освоил также и сексистские: профессия врача у ИИ ассоциируется с мужчиной, а женщина-медик в данном контексте идёт как санитарка или медсестра.

Можно и с другой стороны посмотреть на этот научный эксперимент. ИИ не только обучился лингвистическому сексизму-расизму, но также выявил эти пороки у человека, через особенности построения его речи. Таким образом, сколько бы люди не говорили о своей толерантности, и корректности, теперь мы точно знаем, это не так.
0
Добавьте комментарий
Войти через
Вы пользуетесь соц. сетями?
Лучшее за неделю


ФОТО
Аномалии: Чёртово игрище.
9-07-2018, 19:47
Пять прекрасных городов на берегу Волги, где стоит побывать. Ярославль
9-04-2018, 11:44
Пять прекрасных городов на берегу Волги, где стоит побывать. Кострома
8-04-2018, 22:29
Пять прекрасных городов на берегу Волги, где стоит побывать. Казань
8-04-2018, 18:54
Пять прекрасных городов на берегу Волги, где стоит побывать. Волгоград
8-04-2018, 14:21
Наверх