Трябва ли да се страхуваме от изкуствения интелект и можем ли да се доверим на решения, взети от алгоритъм – AI експертът от IBM Research пред Economy.bg
Изкуственият интелект все повече променя живота ни. Развитието му носи много възможности, но крие и много рискове. Изкуственият интелект може да помогне за оптимизиране на веригите за доставка, подобряване на поддръжката на машини, увеличаване на производството и др. Сред основните предизвикателства обаче е определянето чия е отговорността за щети, причинени от устройства с изкуствен интелект. Ако една автономна кола претърпи произшествие, кой ще покрие щетите - собственикът, производителят или разработчикът на приложението?
Резултатите от действието на изкуствения интелект зависят до голяма степен от неговия дизайн и от данните, които използва. И двете могат да имат вградени слабости, които да правят изкуствения интелект необективен. Ако някои важни аспекти не са включени в алгоритъма или са включени по начин, който подсилва съществуващи предразсъдъци, то резултатът от технологията няма да е оптимален. Ако не е направен правилно, изкуственият интелект може да взема решения, повлияни от етническа принадлежност, пол или възраст при назначаване или освобождаване от работа, предлагане на заеми или при съдебни дела.
Може ли да се доверим на решения , взети от изкуствен интелект, как могат да бъдат ограничени рисковете, вкл. и при подбор на персонал, каква е отговорността на компаниите, разработващи подобни технологии, каква ще е ролята на човека в свят, в който машините все повече вземат решенията – тези и други въпроси коментирахме с Александра Мойсилович от IBM.
Александра Мойсилович е ръководител на Trusted AI Foundation в IBM Research, чиято цел е повишаване на доверието в системите за изкуствен интелект, и кодиректор на IBM Science for Social Good.
Александра, на какъв етап от развитието на изкуствения интелект се намираме в момента?
Живеем във вълнуващо време на развитие на технологиите за изкуствен интелект (ИИ). Те навлязоха бързо в нашия живот, въвеждайки изцяло нови начини за извършване на различни дейности – от това как работим и се учим, до това как взаимодействаме помежду си. И все пак, тези технологии са все още в много ранен стадий на развитие. Макар и трансформационни, те до голяма степен остават с тясно приложение, т.е. ИИ решенията засега изпълняват успешно конкретно насочени и добре дефинирани задачи. Опитайте да приложите ИИ към по-широки, по-сложни и реални ситуации и може да се сблъскате с трудности.
В IBM Research AI разработваме решения, улесняващи прехода от тясно към широко приложение на ИИ, и създаваме системи, които обхващат различни форми на знание и могат да се самообучават и адаптират. Наричаме тази нова ера на ИИ „флуидна интелигентност“. Тези, които искат да научат повече, могат да посетят https://www.research.ibm.com/artificial-intelligence/
Изкуственият интелект все повече се използва при вземане на решения. Трябва ли да се доверим на решения, взети от алгоритъм?
Изкуственият интелект все по-често участва при вземането на решения и с това, разбира се, идва въпросът дали наистина можем да се доверим на тези модели. Ето защо ръководя цяло звено в IBM Research, фокусирано единствено върху повишаване на доверието в системите за изкуствен интелект. Вярвам, че доверието на хората в технологията се основава на нашето разбиране за това как работи и на оценката ни за нейната безопасност и надеждност. За да се доверим на решение, взето от алгоритъм, трябва да знаем, че то е надеждно и справедливо, че може да бъде обяснено и че няма да причини вреда. Нужно ни е уверение, че то не може да се манипулира и че самата система е защитена. Трябва да разберем логиката на алгоритмичната оценка, препоръката или резултата и да можем да взаимодействаме с него (алгоритъма), да го изследваме и дори да му задаваме въпроси. И не на последно място, ние се нуждаем от увереност, че ценностите и обществените норми също се отразяват в тези резултати.
Посетете https://www.research.ibm.com/artificial-intelligence/trusted-ai/, за да научите как IBM Research's Trusted AI разработва основни направления на ИИ, които са от ключово значение като обяснимост, справедливост, устойчивост към пристрастия и управление.
Системите за изкуствен интелект дойдоха с обещанието да направят подбора на персонал по-безпристрастен. Вече има обаче доста примери за алгоритми за наемане на работа, които дискриминират жени и цветнокожи. Защо е важно компаниите да преглеждат внимателно данните си, преди да започнат да обучават ИИ?
През последните няколко години видяхме много примери, при които ИИ е бил обучен чрез неадекватни набори от данни, или е бил прилаган неправилно, или без надзор, което е довело до предубедени или вредни резултати. Забелязахме системи за изкуствен интелект, които са се използвали за наемане на хора, но са били обучени по набор от данни, включващ предимно кандидати от мъжки пол.
Справянето с пристрастията при изкуствения интелект е сложен въпрос. Има начини те да се диагностицират и влиянието им да се намали. Например IBM Research създаде AI Fairness 360 – изчерпателна библиотека с отворен код, която помага на разработчиците на изкуствен интелект да намаляват предубедеността в моделите за машинно обучение. Но това е само една част от уравнението.
Борбата с предубедеността трябва да започне, преди още системата за ИИ дори да бъде разработена: с добри практики още на етапа на проектирането ѝ, със задаване на въпроси за потенциална вреда, с различни гледни точки, които да информират/“захранят“ процеса на проектиране.
Ето защо не трябва да мислим за ИИ като за технология, която взема решения самостоятелно, а като социално-техническа система, при която нуждите и очакванията на „социума“ са от решаващо значение при проектирането и изпълнението и където ИИ е само компонент, който ни помага да вземаме по-добри решения.
В свят, в който решенията се вземат във все по-голяма степен от алгоритми и властта се измества все повече от хората към изкуствения интелект, каква трябва да бъде нашата роля?
В IBM вярваме, че целта на изкуствения интелект е да увеличи, а не да замени човешкия интелект. В IBM Research ние работим, за да изградим и предоставим на бизнеса това, което наричаме ИИ с „флуидна интелигентност“, т.е. изкуствен интелект, който е пъргав, адаптивен и способен да прилага знания, придобити по конкретен повод към нови области и задачи. Така увеличаваме нашите предимства и продължаваме да бъдем по-иновативни с помощта на изкуствения интелект, който ни помага в това, което правим, и в начините, по които го постигаме.
Защо имаме нужда от повече жени в технологиите?
Съществува голям дисбаланс между половете в компютърните науки и работата с изкуствен интелект – жените са значително по-малко. И все пак ИИ ще повлияе на всяка индустрия и ще промени всяка работа. Така че е изключително важно за технологията всички да участваме в работата при нейното формиране. За обществото е от критично значение всички ние да имаме възможност да бъдем част от тази вълнуваща трансформация. Разнообразието е от съществено значение за разработването на висококачествен ИИ и помага да се гарантира, че човешкото пристрастие не се прокрадва в технологията.
