Изкуственият интелект не е безпристрастен

Екипът на Амазон работи по изкуствен интелект, който да селектира автобиографии на кандидати за свободни позиции още от 2014 години, съобщава Reuters, позовавайки се на 5 различни източници. Оказва се, че алгоритъмът дискриминира жените.

Експерименталният софтуер е точкувал кандидатурите в скала от 1 до 5. „Искаха да бъде система, в която да вкараш 100 CV-та, а тя да ти върне петте най-добри“, коментира един от източниците на Reuters. 

През 2015 става ясно, че алгоритъмът не оценява автобиографиите обективно. Тъй като при обучението му е използвана база данни с кандидатури предимно на мъже, изкуственият интелект приема, че обучението в девически колеж и принадлежността към женски клубове са нежелателни.

Екипът на Амазон внесъл корекции за конкретно установени словосъчетания като „президент на женския клуб по шах“ например. Въпреки това нямало гаранция, че системата няма да започне да дискриминира по друг признак и проектът бил спрян. 

Изкуственият интелект се създава от хора и носи отпечатък от начина им на мислене и предпочитанията им при подбора на данни, с които да „захранят“ алгоритъма.