сряда, 26 февруари 2020   RSS
    Барометър | Региони | Компании | Лица | Назначения


    2298 прочитания

    Ще ни унищожи или ще ни направи безсмъртни изкуственият интелект?

    Бизнесът гони печалба, учените следват любопитството си, политиците не го разбират: какви са ползите и рисковете от AI – футурологът д-р Мариана Тодорова, пред Economy.bg
    12 февруари 2020, 09:29 a+ a- a

     „Изкуственият интелект във всичките му измерения – тесен, общ и супер изкуствен – ще бъде сред най-въздействащите върху живота ни феномени. Неслучайно много изследователи го определят като последното човешко изобретение“, пише в новата си книга „Изкуственият интелект“ футурологът д-р Мариана Тодорова.
    Изкуственият интелект (ИИ) вече е част от живота ни, а не научна фантастика. Независимо дали използваме виртуален личен асистент, организираме работния си ден, пътуваме с автономни превозни средства или оставяме на телефоните си да ни предлагат песни или ресторанти, които може да ни допаднат —ИИ е реалност.
    Какви ползи и опасности носи изкуственият интелект за човечеството, ще ни направи ли безсмъртни, или ще ни унищожи, може ли да взима по-добри решения от политиците, трябва ли да има глобални робозакони, ще увеличи ли пропастта между бедни и богати –тези и други въпроси коментираме с д-р Мариана Тодорова.
    Тя е доктор по футурология и изследовател в Института по философия и социология към БАН. Била е народен представител в 43-то НС. Има специализации по лидерство в „Харвард Кенеди Скуул“, Държавния департамент на САЩ и Китайската академия за управление. Представител е на глобалния тинк танк „Милениум Проджект“ в България и е член на Световната академия за наука и изкуства. Участва в множество конференции за изследвания на бъдещето и футуристика. През юли 2019 излиза първата й книга в САЩ – „Future Studies and Counterfactual Analysis. Seeds of the Future“, написана съвместно с американския футуролог Теодор Гордън, един от идеолозите и ръководителите на третия етап на проекта „Аполо“ за кацане на Луната.

    "Има две крайни тенденции: оптимизъм, че изкуственият интелект ще замени човека и ще го облекчи във всички сфери и страхове, че ни очаква Армагедон - AI ще отнеме работни места, ще ни отнеме независимостта, ще започне да управлява всички системи и ще станем подчинени и в един момент ненужни".

    Мариана, Вие сте автор на може би първата книга, посветена на изкуствения интелект у нас. Какво провокира написването й?
    Изнасяйки много лекции, участвайки в интервюта и беседи по темата, видях, че има едно неразбиране за това какво е изкуственият интелект и липса на яснота за това, че има три концепции за AI – тесен (първичен или начален), общ (генерален) и супер изкуствен интелект. Това е първият ми аргумент да напиша книгата. Вторият е, че на глобално равнище има две крайни тенденции, които съпътстват дискусията по темата. Едната е един пределен оптимизъм за това, че изкуственият интелект ще замени човека и ще го облекчи във всички сфери. Ще изградим една утопия, в която ще можем да си почиваме, ще създадем индустрия на забавленията, ще се посветим на творческа работа. Това са т.нар. технологични оптимисти. От друга страна има множество страхове, тъй като холивудските сценарии и филмите създават нагласата, че ни очаква едва ли не някакъв Армагедон, изкуственият интелект ще отнеме много работни места, ще ни отнеме независимостта, ще започне да управлява всички системи и ние ще станем подчинени и в един момент ненужни. Видях, че няма балансирана оценка в този дебат и реших да структурирам и да събера всичко, което в момента се публикува и се пише, като намеря някаква вътрешна логика между отделните теми. Направих кратка история на идеята (оказа се, че чисто хронологично тя не е толкова кратка). След това давам оценка на проявленията в различните области, като накрая засягам как се движи етичният дебат. Не на последно място книгата е резултат и от моите академични занимания. Работя в БАН и този труд ще ми послужи за хабилитация.

    Какво може и не може днес AI, какъв е потенциалът и какви са рисковете?

    Позициите на повечето експерти по отношение на това колко опасен може да бъде генералният или супер изкуственият интелект, дали ще ни измести от работните ни места и каква нова заетост може да възникне, наистина са доста полярни. В този смисъл как според Вас трябва да се води дебатът, така че да сме подготвени за промените? Кои са най-важните теми, които трябва да бъдат адресирани?
    Много важно е да обсъдим рисковете и възможностите и на тази база да преценим какви рамки можем да заложим. Не става въпрос за правни регулации, а за консенсус, който трябва да постигнем на глобално ниво, докъде искаме да разпрострем възможностите, които изкуственият интелект има. Защото дори на ниво тесен изкуствен интелект, който е факт днес, доста професии са застрашени, други ще бъдат трансформирани, трети ще изчезнат, но на тяхно място ще се появят нови. Има много възможности в решаването на редица проблеми днес – климатични, екологични и здравни, по отношение на космически и научни открития. Всички тези области са необятни за нас, но изкуственият интелект може доста да ни подпомогне, напр. при диагностициране на рак, търсене на решения за Алцхаймер, изследване на Космоса, откриване на нови галактики. Това са множеството възможности, които съпътстват AI. Редом с тях има голяма доза рискове. Те не са в тривиалните сценарии, че ще бъдат завладени, потиснати, а по-скоро, че ще се стигне до момент, когато самите ние ще изгубим доста способности. На първо място, това е загубата на човешки суверенитет. В Хонконг напр. има компания за рискови инвестиции, която решава в кои стартъп компании да инвестира, следвайки съветите на изкуствен интелект. Това показва, че AI вече се намесва в процесите на взимане на решения. Същото се наблюдава в някои банкови платформи, които отпускат кредити. Полицията в Лос Анджелис използва изкуствен интелект с лицево разпознаване, тъй като градът е добре снабден с камери навсякъде и когато се случи престъпление в някой район те се допитват до изкуствения интелект кой би могъл да е извършителят.
    Тук обаче наблюдаваме друг феномен – за предразсъдъците, който AI проявява. Те не са предубеждения, които той собствено изпитва, а са вследствие на това, че се обучава от данни, които биват залагани в него.
    Така е и с HR платформите, които се ползват от доста компании. Това са платформи, базирани на AI за подбор на кадри. Там също се наблюдава, че за топ мениджърски позиции винаги изкуственият интелект предлага да бъдат назначени бели мъже над 35 години.
    Извън тези недостатъци, които с времето ще бъдат изчистени, виждаме една немалка област, в която вече взимането на решения е делегирано на изкуствения интелект. Ако това се мултиплицира в икономическите, социалните и политическите системи, ние ще бъдем сериозно разклатени в тази позиция.
    Другата голяма опасност с различни проявления е загубата на познавателни и когнитивни способности. Ако скоро стане възможно да композираме музика чрез компютърни програми, без сами да измисляме мелодии, или ако е възможно компютърна програма да записва това, което казваме, ние ще се откажем от това да пишем ръкописно. Изследвания с функционален ядрено-магнитен резонанс показват, че пишейки ръкописно, ангажираме различна област от мозъка.
    Ползвайки всички облекчения, бързи решения на изкуствения интелект, можем да загубим доста познавателни способности. Можем да станем по-лениви, по-социалнонечувствителни, защото все повече се затваряме в една виртуализирана среда и обществените връзки се късат.

    Ще развие ли съзнание AI и ще изпревари ли човешкия интелект?

    Дотук говорим за потенциала и рисковете от тесния изкуствен интелект. Много експерти прогнозират появата на общ изкуствен интелект към 2030, което е съвсем близо, или най-късно до 2050. Как да се подготвим за рисковете от общия и супер AI, които са на съвсем друго ниво, особено ако го изпуснем от контрол, ако започне да ни превъзхожда като интелект?
    Не можем да твърдим със 100% гаранция, че такъв интелект изобщо ще се появи. Ако следваме концепцията, че за да има общ и супер изкуствен интелект, ни е необходимо възникване на съзнание, каквото имаме ние, сме доста далеч, защото самите ние не сме наясно какъв феномен е съзнанието. Дали се секретира от мозъка, както твърди Дарвин, или е квантово състояние на мозъка, както казва Пенроуз. Дали е някаква биохимична, или биофизична същност, или е нещо, което все още нямаме възможност да обясним. Ако заложим на тази карта, може да кажем, че няма да имаме в скоро време общ и супер изкуствен интелект. Това твърди Стивън Пинкър.
    Обратно, Ювал Харари, който доста нашумя с книгите си, смята, че само силната изчислителна мощ ще бъде достатъчна за общ и супер изкуствен интелект, без да е необходимо съзнание.
    Има и трета гледна точка, която казва, че щом имаме хардуер, който да наподобява мозъка, и налична инфраструктура, то непременно ще възникне някакъв тип съзнание, което не е задължително да наподобява човешкото.
    Трябва да видим имаме ли някакво наподобяване на човешкия мозък и както имаше хипотеза за двата чатбота на Facebook, дали те бяха спрени, защото има някакъв бъг, или напротив, разработчиците, са се уплашили, че те не просто са обработвали езиците, а са започнали да творят свой собствен език, което е вече елемент на разбиране и съзнание.

    Къде е трансхуманизмът в тази дискусия?
    Трансхуманизмът има свето място, защото когато съчетаем изкуствения интелект с всички открития, които имаме в човешкото подобряване – дълголетие и безсмъртие, можем да предположим няколко сценария на развитие. От една страна, човекът може да подобри тялото си с постиженията при стволовите клетки, при 3D и 4D принтирането и нанороботите. Преди дни чухме, че са създадени „живи роботи“ от клетки на жаби.

    Какъв сигнал е създаването на тези „живи роботи“? И какви рискове носи?
    Когато се намеси изкуственият интелект, който ще разполага с разчетения геном на хората и ще може на дигитален език да програмира т.нар. „синтетична биология“, това може да доведе до създаване на изкуствени неживи организми, които не са продукт на човешката еволюция. Но когато те не са били ситуирани в този милионен контекст и не са претърпявали естествено развитие, ние трудно можем да предвидим как те биха се развили в нашата среда и как биха взаимодействали със съществуващите организми. Така че за мен това е доста рисково и опасно.
    Неслучайно китайският учен, който допринесе за това да се родят близнаци с изрязан ген на ХИВ, като го замести със здрав от друг родител, и така отвори вратата за раждане на деца с гените на повече от двама души, попадна в затвора.
    Азиатските страни са доста напреднали. Засега липсват каквито и да било регулации. Не че тук ги има, но поне стартира дебат. Затова точно там такива непредвидими проекти могат да се реализират.

    Бизнесът гони печалба, учените следват любопитството си, политиците не разбират: възможни ли са глобални робозакони?

    Как надпреварата между САЩ и Китай по отношение на изкуствения интелект ще повлияе на развитието му? Как може да се договорят глобални закони, които да регулират AI, в условията на надпревара?
    Когато съм разговаряла с програмисти и разработчици, съм търсила тяхното мнение именно в тази посока. Питала съм ги кой би бил първенец и би имал предимство. Трудно е да се каже, но подходите са различни. Китай е централизирана и в немалка степен авторитарна страна. Там централизирано се изливат много средства в частни и държавни компании, за да разработват изкуствен интелект, защото за тях това е шанс да станат световна сила №1. В САЩ, макар да има субсидии от правителството, разработките идват по-скоро от частни компании, като Google, Amazon и IBM. При тях водещият мотив е друг – ефективност, печалба и предоставяне на определен тип услуги. Виждаме, че надпреварата е асиметрична. По-логично е да предположим, че ефект би имало централизираното финансиране.

    Освен централизираното финансиране Китай разполага и с много данни, които са горивото на изкуствения интелект.
    Точно така. Неслучайно някои учени плахо заговориха за нова концепция за завладяване на света от Китай, която не е военна, а е налагане на един алгоритмичен модел за владеене – чрез системи и програми, и натрупване на данни. Това създава доста проблеми от друго естество, защото е ясно, че или ще се появи един тип изкуствен интелект, който ще доминира и ще бъде наложен над другите страни като форма, или напротив, всеки ще иска да участва в надпреварата, за да е конкурентоспособен, и така ще има различни изкуствени интелекти, като най-добрият вероятно ще елиминира другите.

    Тогава глобални регулации не са възможни?
    Точно така. Глобални регулации не са възможни. Виждаме, че допълнителен проблем се създава от това, че учените и разработчиците са водени от научно любопитство да видят къде са пределите. Политиците пък изобщо не разбират този процес. Не са информирани достатъчно и затова не взимат адекватни мерки. Правото като една по-консервативна система закъснява. Отделните страни имат свое мнение. Бизнесът гони печалба. Нямаме една глобална общовалидна за всички държави етика. Макар че Европейската комисия миналата година предприе редица мерки, те могат да останат само на хартия.

    Как може ЕС, който изостава сериозно в развитието на изкуствения интелект, да бъде ефективен в налагането на глобални регулации?
    Европа по-скоро може да даде предписания за себе си и за разработките в рамките на страните членки на ЕС. Засега тя няма юрисдикцията да дава указания, които да бъдат уважени от целия свят. С доста учени на световни форуми се опитваме да идентифицираме коя е институцията, на която й приляга да разрешава този казус или поне да потърси решения. ООН е най-близката като детайлно обсъждане на подобни проблеми, но виждаме, че тя вече не е ефективна.

    Къде е България в дебата за AI?

    Къде е България в този дебат? Има доста разработки у нас, базирани на AI, вкл. и робот адвокат.
    България има доста напредничава ИТ екосистема. Има компании, които разработват услуги и платформи, базирани на изкуствен интелект. Бизнесът се възползва от възможностите. Има и правна платформа. Със сигурност се използва и в производството. Това обаче е на ниво бизнес. За съжаление липсва стратегически дебат по темата на политическо равнище. Има някакви плахи опити на отделни министерства – на образованието и на здравеопазването, в тази посока, но тези усилия не са достатъчни. Защото това трябва да е национална стратегическа цел и решение коя политика ще следваме и къде ще се впишем. Макар че ние сме обвързани да следваме европейската политика.

    "С образование от 19. век искаме да възпитаме поколение на 21. век".

    Даниел Съскинд дава интересен пример в новата си книга за това как имигранти изместват роботи при миенето на коли във Великобритания. Може ли да се стигне до етап, в който човешкият труд ще е по-евтин от инвестицията в автоматизацията?
    Вероятно цената на труда на тези имигранти във Великобритания е по-ниска от инвестициите в машини. Но тенденцията ще бъде във всякакъв тип производства и услуги инвестицията в машини да е по-ниска, защото се изисква само едно първоначално вложение. Няма да се плащат социални и здравни осигуровки, заплати, болнични. Тези производства и услуги могат да функционират 24 часа, цяла седмица. По-скоро би могло да е елемент на държавен и социален консенсус или отпускане на човешки квоти за определени професии, но няма да е продукт на ефективност и на този тип логика.

    Сякаш все още няма ясна идея в какъв тип образование да се инвестира, така че да се подготвим за промените, които ще дойдат.
    За съжаление, няма. Неслучайно Джак Ма казва, че ние с образование от 19. век искаме да възпитаме поколение на 21. век и че в момента играем на две шахматни дъски – на миналото и на бъдещето и ни е трудно да определим какво да е настоящето. Трябва да има промени в образованието най-вече в училищното, защото университетското може да реагира. Това е необятна тема. Водят се дебати доколко трябва да бъдат роботизирани класните стаи, да се ползват дигитални дъски и виртуална реалност. Защото чрез виртуалната реалност могат да се направят 400 експеримента по химия, но няма да има сетивност. Децата не могат да видят истинските реакции. Има програми на Kindle, които показват, когато дете чете текст, къде спира погледа си, къде чете едно изречение два или три пъти, което показва, че има затруднение и това може да доведе до индивидуализиран подход.

    Има доста интересен пример от Китай, където следят учениците в класната стая с помощта на устройства, базирани на AI, кога се разсейват. Идеята, че трябва да са ефективни постоянно, води до значителен стрес при децата.
    Тази класна стая и този подход е част от цялостната концепция на Китай за социален кредит, в който хората биват наблюдавани, възнаграждавани и съответно наказвани според тяхното поведение. Същото важи и за класните стаи. Разчита се на факта, че наблюдението би довело до саморегулация. Ще изчезне престъпността, лошото и укоримо поведение. Така е и в класните стаи. Психолози вече алармират, че това води до психози. Защото ние сме емоционални и ирационални, в природата ни е да не се подчиняваме на правила. И когато усещаме, че можем да бъдем разобличени и не можем да скрием нищо, ние тотално взривяваме концепцията за лично пространство и интимен свят. Няма да стигнем до тази утопия, а по-скоро до антиутопия.

    "Изкуственият интелект има потенциал да предопредели новия световен лидер".

    Ще ни дехуманизира ли изкуственият интелект?
    Ще преживеем един такъв период, но се надявам, че след това ще настъпи едно масово осъзнаване, че колкото и да е добре и да улеснява живота ни, това ограбва и от нашите еволюционни достижения. Най-добре ще е да се изгради някакво подчинено на ясни правила и граници сътрудничество. Хубаво е изкуственият интелект да решава въпроси, свързани с околната среда, науката, енергийната ефективност, но не е добре той да решава въпроси от социалните, политическите и икономическите системи.

    Ще увеличи ли изкуственият интелект пропастта между богати и бедни?
    Това също е доста дискутиран, но и спорен въпрос. Някои смятат, че т.нар. социални класи ще се превърнат в раси. Защото само богатите хора и напредничавите компании могат да получават и съответно предоставят услуги за подобряване и удължаване на човешкия живот и безсмъртие. Аз лично смятам, че по-скоро ще се заложи на друга карта – за масовизация на тези услуги. Виждаме, че такава е тенденцията от последните години. Китай има принос в тази посока, стоките са достъпни за всички и се печели от масовост и консумеризъм, а не от превръщането на тези услуги в услуги на лукса, които са за елита. Има и трета концепция, че целенасочено ще бъде създаден елит, който ще бъде нова управленска класа в основата на създаването на едно планетарно правителство.

    Неотдавна в интервю при нас немски футуролог изказа тезата, че този, който притежава роботите, той ще владее света.
    Това е и тезата на Владимир Путин. В Китай се дискутира по подобен начин. Президентът Тръмп също предприе два плана, които да бъдат реализирани. Да, изкуственият интелект има потенциал да бъде новото предимство, което да предопредели новата или новите световни глобални сили и политическо лидерство. Най-малкото при влагането на изкуствен интелект във военните технологии ще бъде наподобена доста ядрената надпревара и взаимното удържане. Най-плашещото, което вече стартира като процес, е че Пентагонът в момента обсъжда дали на изкуствения интелект трябва да му бъде предоставено решението за употребата на ядрени оръжия. Представете си при една война, ако една от силите използва AI за анализ на архитектурата на бойните действия, то тази сила посредством изкуствения интелект ще го прави с такава бързина, че другата ще изгуби, тъй като човешките възможности не се вписват в тези параметри. Тогава и другата сила, за да е конкурентоспособна, ще бъде принудена да ползва AI. След като анализът ще бъде делегиран на изкуствения интелект, то и решенията трябва да бъдат негови, защото ще е въпрос на скорост. Това отваря въпроса, че ако изкуственият интелект развие друг тип логика, а не съхраняване на човешкия живот, то употребата на ядрено оръжие може да е съвсем реален факт.

    Ще измести ли AI политиците?

    Споменахте Владимир Путин. В книгата давате пример с президентските избори в Русия, където за първи път участва кандидат изкуствен интелект. По-добри решения ли ще взима AI от политиците?
    На този етап – не. Защото политиката и социално-икономическите системи са като живия живот. Това е недетерминирана система с много случайности, изненади и вероятности. Изкуственият интелект в момента не е чувствителен към всички тези хиляди компоненти.

    Много хора биха гласували за изкуствен интелект.
    Да, биха гласували. Те смятат, че това ще е път за преодоляване на корупцията, защото много от механизмите, които я подпомагат ще изчезнат. Да, доста злоупотреби в здравния и целия държавен сектор биха могли да бъдат предотвратени с блокчейн технологии и така да имаме по-ефективно управление. В крайна сметка, хората са тези, които са предразположени към корумпиране и получаване на такива стимули.

    "Духът може да бъде изпуснат от бутилката, без изобщо да забележим".

    Познавайки всички досега описани рискове от изкуствения интелект, какво трябва да е отговорното човешко поведение?
    Да бъде информирано, да следи дебата, да не вярва на едностранчивите мнения и когато има опасения, да се изискват политически решения, да има обществен натиск. Защото иначе духът ще бъде изпуснат от бутилката, без ние изобщо да забележим.

    Моят прочит на книгата Ви е по-скоро песимистичен. Има усещане за обреченост. Какво е посланието Ви?
    Умишлено бягах от едностранчиво внушение. По-скоро се опитах да отразя темата така, както се развива.

    Тогава песимизмът ли надделява по-скоро днес?
    Опитвам се да бъда балансирана. Мисля, че все още има физическо време да реагираме. Това, което стимулира и моят песимизъм е липсата на интерес и информираност на лицата, които взимат легитимни решения в света, и това са лидерите на националните държави.

    Нагоре
    Отпечатай
     
    * Въведеният имейл се използва само за целите на абонамента, имате възможност да прекратите абонамента по всяко време.

    преди 2 часа
    преди 3 часа
    Големите летища в страната не отчитат спад на пътниците
    Обстановката е спокойна, предприети са допълнителни мерки, уточняват от аерогарите
    преди 4 часа
    Учен от Харвард: До 70% от хората по света ще бъдат заразени с коронавирус
    Най-вероятно заразата няма да бъде овлядана, прогнозира професорът по епидемиология Марк Липсич
    преди 4 часа
    България и Гърция задълбочават сътрудничеството си в сферите на транспорта, туризма и инвестициите
    София и Атина ще си партнират в привличането на инвестиции и реализация на нови инвестиционни проекти
    преди 5 часа
    Можем ли да получим парите си при отменени заради коронавируса пътувания?
    От КЗП разясняват при какви условия може да ни върнат парите