В научно-популярном журнале Science опубликована статья, в которой описываются все трудности, с которыми столкнулись учёные при обучении искусственного интеллекта(ИИ) через лингвистическую подачу информации. Такая форма обучения, когда ИИ просто читает текст или осваивает речь, имеет преимущество перед программными алгоритмами, которые сложны и требуют их написания.
Ранее было установлено, что в отличии от человека, ИИ воспринимает лингвистическую информацию буквально, не отвлекаясь на малозначащие эмоциональные отступления. Такой прагматичный подход в некоторых случаях показал выдающийся результат. Например, машина, перечитав огромное количество медицинской литературы, с точностью 90% диагностировала рак лёгких у людей. В тоже время дипломированные врачи с этой задачей справлялись только в каждом втором случае. Как говорят специалисты, это всё из -за того, что люди склонны обращать внимание на сторонние факты, которые их только сбивают с толку. ИИ подходи к решению задачи формально.
Вместе с тем, как указывается в научной статье издания Scince, даже ИИ в определённой степени не устоял перед навязанными через лингвистическую структуру речи стереотипами, вплоть до того, что освоил для себя сексистские и расистские её особенности. "Виновата" здесь специфическая методика обучения ИИ. Если одно и тоже слово часто употребляется вместе с ещё одним, то ИИ это запоминает. Таким образом, оказалось, что слово афроамериканец у ИИ идёт в близкой смысловой связи со словами преступление, тюрьма, бедность. Вместе с тем, слово европеец ассоциируется со словами семья, стабильность, счастье, благополучие. Кроме расистских речевых стереотипов ИИ освоил также и сексистские: профессия врача у ИИ ассоциируется с мужчиной, а женщина-медик в данном контексте идёт как санитарка или медсестра.
Можно и с другой стороны посмотреть на этот научный эксперимент. ИИ не только обучился лингвистическому сексизму-расизму, но также выявил эти пороки у человека, через особенности построения его речи. Таким образом, сколько бы люди не говорили о своей толерантности, и корректности, теперь мы точно знаем, это не так.
Искусственный интеллект обучился у людей сексизму и расизму
