Какие риски несет предвзятость искусственного интеллекта

Из-за сложностей с обучением был забракован чат-бот Тэй. Ошибки в обучении провалили еще несколько проектов. Например,  Amazon создал алгоритм на основе искусственного интеллекта чтобы автоматизировать систему поиска и набора кадров на работу. Но все пошло не так, как ожидалось, система стала отказываться от услуг женщин. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters. Изначальная задумка предполагала, что система сама оценит резюме и мотивационные письма соискателей работы, а затем присвоит им рейтинг от одной до пяти звездочек.

«Руководство буквально хотело, чтобы мы давали алгоритму 100 резюме, из которых он бы составил топ-5, и компания впоследствии могла бы нанять этих людей, — заявил Reuters один из программистов. — Однако дальше стало понятно, что созданная система не придерживается принципа гендерной нейтральности, поскольку большинство резюме за предыдущие годы в Amazon присылали мужчины. Таким образом, алгоритм начал отбраковывать заявки со словом “женщины”».

Впоследствии программу отредактировали так, чтобы искусственный интеллект не маркировал это слово и его производные как нечто негативное, но это не очень помогло. Amazon признал программу ненадежной, и проект закрыли, однако, по информации Reuters, еще какое-то время отдел кадров принимал во внимание рекомендации алгоритма, хотя и не основывал на них свое окончательное решение», — говорит ведущий специалист Data Science компании Bell Integrator Иван Прошин.

Полный материал читайте на сайте "Завтра облачно".