Общ

Amazon изключва таен инструмент за набиране на изкуствен интелект, който се научи да бъде сексист


Инструментите за изкуствен интелект (AI) за човешки ресурси са в мода в момента и стават все по-популярни. Системите могат да ускорят, опростят и дори намалят разходите за процеса на наемане, превръщайки се в сбъдната мечта на всеки рекрутер.

Но както сме били свидетели и преди, системите, задвижвани с изкуствен интелект, понякога могат да проявяват потенциално опасни тенденциозни тенденции. Миналият юли наблюдател с нестопанска цел, Американският съюз за граждански свободи в Северна Калифорния, беше шокиран да открие недостатъци в технологията за разпознаване на лица на Amazon, наречена Rekogmination, които евентуално биха могли да доведат до расово базирани фалшиви идентификации.

Откритието доведе до обществено недоволство по отношение на системата. Amazon обаче защити програмата си и заяви, че внедряването на нова технология не може да бъде осуетено, тъй като някои "могат да изберат да злоупотребяват" с нея, което предполага, че всички проблеми с Rekogmination са свързани със злоупотреба с потребителите.

Сексисткият AI бракуван

Изглежда, че друг инструмент за изкуствен интелект, този път човешки ресурси, по някакъв начин се е научил да бъде сексист. Според доклад на Ройтерс, таен вътрешен проект на Amazon, който се опитваше да използва AI за проверка на кандидатурите за работа, трябваше да бъде премахнат, след като беше установено, че понижава рейтинга на кандидатите от женски пол.

Експертите по машинно обучение на Amazon работят от 2014 г. върху компютърни програми, които ще могат да преглеждат и сортират автобиографиите на кандидатите. Системата работи, като определя потенциални кандидати оценки, вариращи от една до пет звезди.

„Всички искаха този свещен Граал“, каза един от хората, работещи по проекта за изкуствен интелект Ройтерс. „Те буквално искаха да бъде двигател, при който ще ви дам 100 автобиографии, той ще изплюе първите пет и ние ще ги наемем.“

До 2015 г. обаче специалистите установиха, че системата прави проблематичен избор на кандидати, свързани с пола, що се отнася до разработчиците на софтуер и други технически позиции. Според експертите проблемът е възникнал, защото процесът на проверка на компютърните модели е произлязъл от минали модели на наемане, постигнати за 10-годишен период.

Преподавайки себе си на сексизъм

И тъй като през този период технологичната индустрия беше особено доминирана от мъже, моделът неволно се обучи да предпочита мъжки кандидати пред женски. По същество той се е обучил да бъде сексист.

Съобщава се, че оттогава програмата е била премахната, като елиминира всички потенциални свързани негативни последици. Но историята илюстрира опасностите от разчитането на минали данни за създаване на нови модели.

"Всеки човек на планетата е пристрастен. Всички ние носим неизлечим вирус, наречен нашето несъзнателно пристрастие. Твърдо вярвам, че AI е единственият начин да намалим пристрастията на хората с набиране. За съжаление, наивно използването на AI за вербуване е гарантирана рецепта за бедствие . Расисткият / сексисткият ИИ не е риск, той е гаранция, ако се използва от неопитни екипи. ИИ естествено ще научи нашето пристрастие и ще го усили, "обясни на IE главен директор на ИИ в Ziff Ben Taylor.

И все пак не бива да се изхвърля бебето с водата за баня. Има начини да се възползвате от предимствата на ИИ без пристрастия. „Има много компании извън светлината на медиите, които използват AI отговорно, където са похарчили милиони за защита / проучвания за неблагоприятно въздействие, за да предотвратят подобно нещо“, добави още Тейлър.

От откриването на ракови заболявания до намаляването на токсичността на лечението, технологията изглежда намира все по-нови и много полезни приложения. И с организации, които се стремят да ограничат и укротят всякакви потенциално неприятни резултати, е добро предположение, че ако се възприемат правилно, ИИ може да бъде един от най-големите предимства на човечеството.

Просто трябва да запазим бдителност и да сме наясно. Съдейки по бързото изхвърляне на мизогинистичния инструмент за набиране на персонал на Amazon, ние изглежда сме на път да запазим нашето AI благоприятно за човечеството.


Гледай видеото: How To Self Publish A Book On Amazon STEP-BY-STEP TUTORIAL (Юли 2021).