Предупреждение о предвзятости от эксперта по искусственному интеллекту

Искусственный интеллекта Когда мы смотрим на определение, мы видим, что это машины и программное обеспечение, которые могут выполнять операции, которые может выполнять человеческий разум. Амазонка Алекса Существует множество различных типов искусственного интеллекта: от тех, которые мы видим в повседневной жизни, до системы Google, которая прогнозирует наши поисковые запросы.

Эксперт по искусственному интеллекту обратил внимание на проблему, требующую срочного внимания. Доцент кафедры искусственного интеллекта Лейденского университета Питер ван дер Путтен, выявил недостаток в искусственном интеллекте.

Проблема предвзятости в искусственном интеллекте

Принятие решений часто происходит в результате сложного процесса. достигнуто один выход Хотя это (решение принято), в его основе могут быть разные факторы. Оценивая эти факторы, наблюдатели по собственному опыту они двигаются. Кандидаты рекрутера»«Он из той же школы, что и я?» или "Кто не из моей школы?"" - это способ разделения предвзятость является индикатором.

Ван дер Путтен В этот момент он вмешивается, говоря, что искусственный интеллект сам по себе не является ни хорошим, ни плохим. И все же люди твои предубеждения И их предубеждения Он также заявляет, что эти системы могут копировать. 

Кроме того, эксперт по искусственному интеллекту также работает с данными. твои предубеждения И твои ошибки утверждает, что его можно перенести в системы. Например, программа, разработанная для отдела кадров искусственный интеллектВыяснилось, что она копировала проблемы профессионального продвижения, с которыми сталкиваются женщины, как предубеждение. Искусственный интеллект обучен на основе данных других сотрудников, на более высоких уровнях Столкнувшись с равными кандидатами, он имел тенденцию отвергать кандидатов-женщин.

Искусственный интеллект учится предвзятости

Хотя предвзятость, присущую правилам и данным, не всегда может быть названа напрямую, ее можно выявить с помощью статистики. Этот статистический Искусственный интеллект, который заранее обнаруживает структуру, затем делает ее частью своего кода. 

соучредитель Apple Стив Возняк Был еще один человек, который заявил, что у алгоритмов могли возникнуть предубеждения против женщин. Кредитная карта компании доступна мужчинам и женщинам с одинаковыми кредитными характеристиками. разные пределы представил. 

По мнению экспертов, искусственный интеллект так же важен, как и данные, используемые для его создания. предвзятый и это предвзято. Предотвратить это невозможно, но можно сохранить контролируемый эффект. Искусственный интеллект Похоже, что когда мы чему-то учимся на основе новых данных, мы тоже чему-то учимся.