петък, 23 февруари 2024   RSS
    Барометър | Региони | Компании | Лица | Назначения


    2859 прочитания

    Топ професор от Станфорд: AI ще направи революция в работата

    Кои професии ще изчезнат и колко опасни могат да са новите AI системи в ръцете на престъпни групи – проф. Алекс Айкен, бивш декан на Факултета по компютърни науки в Станфорд, пред Economy.bg
    15 май 2023, 11:00 a+ a- a

    В София се проведе поредната лекция от новата серия на Института за компютърни науки, изкуствен интелект и технологии (INSAIT). Събитието беше с лектор проф. Алекс Айкен, бивш декан на Факултета по компютърни науки в университета Станфорд, САЩ, и един от най-известните учени в сферата на програмните езици с редица престижни международни награди. На нея той разказа за Legion, нова система за програмиране която води до значителни подобрения при скоростта на изчисленията в сфери като машинното обучение, симулациите върху суперкомпютри и други. Проф. Айкен разказа, че на базата на тези разработки, технологични гиганти като Nvidia и Meta вече създават нови продукти.

    Как можем да намерим баланса между ползите и рисковете от изкуствения интелект, трябва ли да продължим да развиваме AI системи, които дори създателите им не могат да контролират, нужни ли са регулации и какви, какъв е рискът престъпни групи да се възползват от възможностите на технологията, как ще се развие AI надпреварата между САЩ и Китай, кои индустрии и професии ще бъдат най-силно засегнати, какви умения да придобият младите хора днес, за да бъдат по-адаптивни към промените – тези и други въпроси коментирахме с проф. Алекс Айкен.

    Алекс, как оценявате потенциала на INSAIT?
    Мисля, че INSAIT има голям потенциал. Много съм впечатлен от старта им. Уникални са. Това не е единственият подобен институт в Европа. Но са сравнително малко, а в Източна Европа вероятно няма други като него. Местният талант е наистина невероятен. Така че потенциалът за взаимодействие със студенти и компании в областта е наистина сериозен. Очаквам с нетърпение да видя какво ще се случи с INSAIT през следващите няколко години.

    Затова ли решихте да участвате в събитието им?
    Бях любопитен да разбера повече за това какво се случва с INSAIT. Познавам научния директор Мартин от много дълго време. И бях развълнуван да дойда и да видя сам как се развива Институтът.

    Планирали сте кариера на музикант. Как в крайна сметка станахте професор по компютърни науки в Станфорд?
    Това беше дълго пътуване. Родителите ми бяха музиканти. И когато бях студент, прекарах година в Австрия, предимно свирейки на тромбон и учейки. Свирех в оркестри във и около Залцбург, в Австрия и в Южна Германия. И в края на тази година просто реших, че животът на музикант не е за мен. Бях срещнал куп хора през този период, живеещи по подобен начин и си дадох сметка, че това не е, каквото искам да правя. Така че реших да се върна и кандидатствах в някои университети по компютърни науки, като в крайна сметка ме приеха само в един. Не се наложи да мисля много къде ще отида.

    А къде е пресечната точка между музиката и компютърните науки?
    Това е интересен въпрос. Всъщност има много музиканти в компютърните науки.

    Наистина ли?
    Да, не е необичайно. Вероятно е така, защото компютърните науки насърчават абстрактното мислене, а музиката всъщност е много абстрактна. Музикалната нотация е нещо, което изисква определен вид абстракция. Така че има връзка. Но изглежда, че преходът е само в една посока. Предимно музиканти се насочват към компютърните науки, а не обратното.

    Споменахте, че почти всички университети, в които сте кандидатствали, са Ви отхвърлили. Как запазихте мотивацията си да не се откажете? И оказа ли някакво влияние този опит на начина Ви на преподаване днес?
    Никога не ми е хрумвало да спра да опитвам. Но това, че пътят ми не беше много лесен, ми помага да изпитвам известна съпричастност към студентите, на които нещата не им се получават веднага. Това ми позволява да говоря с тях по начин, по който вероятно не бих могъл, ако самият аз не бях имал подобно преживяване.

    Работил сте в IBM Research Lab, след което се премествате в университетските среди. Защо предпочетохте кариерата в университета пред тази в голямата компания?
    Корпоративните изследвания и тези в университетите сe различават много в дългосрочен план. Компаниите могат да бъдат фантастично място за правене на проучвания, при условие че това, което правите, е в съответствие с това, което фирмата иска да прави. В крайна сметка бизнесът трябва да прави пари. Но когато компаниите изпаднат в затруднение и не печелят пари, тогава проучванията просто изглеждат като разход. Ако ще излезете от бизнеса след година, времевият хоризонт за изследванията от 5 до 10 години няма голямо значение. Така подкрепата за проучвания в компаниите е малко на приливи и отливи. Мисля, че е много трудно за фирмите да поддържат изследвания за много дълъг период от време, защото през това време компанията ще има своите възходи и падения. Докато мисията на университетите, поне в САЩ, е да правят изследвания. Това е една от функциите им. Така че няма значение колко зле се справя университетът, все ще се правят проучвания. Това беше причината в крайна сметка да се преместя в академичните среди.

    Как можем да намерим баланса между ползите и рисковете от изкуствения интелект?
    Не знаем напълно отговора днес. Най-близката аналогия, въпреки че не е перфектната, е възходът на интернет в началото на 90-те години. Ако погледнете назад, до голяма степен хората са били прави за нещата, които са очаквали да се случат. Но тогава те са надценили ползите и са подценили възможните проблеми. Например хората са били много развълнувани, че всеки ще може да пазарува и да бъде онлайн. Тези, чийто глас не се е чувал особено, са получили повече възможности. И всичко това се оказа вярно. Но станахме свидетели и на много дезинформация. Системите за алгоритмични препоръки се оказа, че имат отрицателни ефекти, които не са били оценени напълно по онова време. Така че пропуснахме някои от тези недостатъци. Със сигурност имаше хора, които си даваха сметка за тях. Но масово не се осъзнаха рисковете.

    А в момента има ли хора, които си дават сметка за потенциалните рискове от AI и които се опитват да ни предупредят?
    Да, сигурен съм, че има хора, които разбират по-добре от мен какви са рисковете и ползите. Този път заради опита ни например със системите за препоръки има малко повече страх от потенциални негативни последици. Всъщност просто още не сме наясно. Сигурен съм, че ще има проблеми, но още не знаем какви точно ще са те.

    „AI е толкова мощен, че трябва да бъде регулиран както ядрените оръжия“, подчерта неотдавна Сам Алтман – шефът на OpenAI, компанията зад ChatGPT. „Кръстникът на изкуствения интелект“ напусна Google заради рисковете от технологията. Колко притеснени трябва да бъдем? И трябва ли да продължим да развиваме нещо, което никой – дори създателите му, не разбират и не могат да контролират?
    Мисля, че можем да направим разлика между развитието на технологията и употребата ѝ. Според мен непосредствена нужда от регулиране има по отношение на използването на AI за контрол на критични за сигурността системи. Вероятно не бихте искали AI да управлява вашия самолет без пилот. Смятам, че нужда от регулиране има при поставянето на AI в нови технологии, позволяващи му да контролира и взема решения с потенциално големи последствия. Това не означава, че не можем да продължим да развиваме технологията и да я тестваме в по-малко рискови ситуации. Трябва първо да натрупаме опит там, преди да я използваме в друга среда.

    Как можем да регулираме AI, преди той да започне да ни регулира? Каква трябва да е първата стъпка? Дали трябва да се изисква „оценка на сигурността“, преди новите AI продукти да бъдат пуснати, както Китай предложи?
    Вече разбираме кои роли са потенциално опасни. Като примера с пилотирането на самолет. Има много други подобни ситуации, в които технологията трябва да е строго регулирана, тъй като грешките ще имат драматични последици. Вероятно доста добре преценяваме подобни рискове. И вече има хора, разбиращи тези домейни. Можем да разчитаме, че регулаторните агенции и други организации с опит в тези традиционни приложения ще предложат нови закони или ще надградят съществуващите разпоредби, когато е нужно.
    Най-значимите проблеми вероятно ще възникнат около нови области на приложение. Например дали е добре да използваме AI като психолог. ChatGPT e много добър при воденето на човешки разговор. Или поне създава впечатление у хората, че си говорят с нещо, което мисли и им отговаря. И възниква въпросът трябва ли това да се регулира заради влиянието му върху човека. Можете да си представите как ще бъдат проектирани системи, които биха се опитали да повлияят на много хора за политически или други цели. Днес в тази област няма много регулации. Ще има много експерименти около тези видове AI системи и потенциалът да се случи нещо лошо е значителен.

    Вие лично притеснен ли сте относно тези нови AI системи?
    Има много работа за вършене, за да сме сигурни, че AI се използва адекватно и не нанася вреди на обществото. Но фактът, че темата се дискутира, е много окуражаващ. Няма да навлезем в тази област напълно на сляпо. Тя привлича вниманието на политиците навсякъде. Рискът е, че политиката по принцип се движи по-бавно и има тенденция да бъде реактивна. Обикновено чакате нещо лошо да се случи и след това вземате мерки, за да не се повтори. Не можем да си позволим твърде големи бедствия от този вид. Така че в областите с най-сериозни последствия ще трябва да бъдем много предпазливи. И е правилно по отношение на тях да бъдем песимисти. Но има много области, където можем да си позволим да бъдем по-големи оптимисти и да оставим нещата да се развиват естествено.

    В кои сфери трябва да сме по-предпазливи и в кои може да надделее оптимизмът?
    В критични за сигурността сфери, като контрол на сложни системи, където има риск хората да бъдат сериозно наранени. Там трябва да сме много внимателни. Но вече имаме добри регулаторни режими за повечето от тях.
    Сериозно трябва да ни тревожат областите на голяма конкуренция между мощни организации – независимо дали големи компании, или национални държави, водени от собствените си интереси, които се опитват да внедрят системите по-бързо.
    Бих се притеснявал по отношение на военните приложения например. Неизбежно е да има такива. Не мисля, че можете да спрете страните да се възползват от AI като възможност за гарантиране на сигурността си по евтин и ефективен начин. Но ще трябва добър обществен контрол върху разгръщането на военната употреба на AI.
    Вероятно обаче най-много се тревожа за политическата сфера. Очаквам да видя AI да се използва за политически цели, граничещи с широко разпространени кампании за дезинформация. Това е сфера, по отношение на която съм песимист. Тук мисля, че ще станем свидетели на лоша употреба на AI. И не виждам как може да регулираме това, без първо да натрупаме известен опит с недостатъците му.

    Споменахте военните приложения. Как ще се развие надпреварата между САЩ и Китай за надмощие в изкуствения интелект? На какви предимства може да разчита САЩ?
    Не мисля, че ще има огромна техническа разлика. Ако погледнете AI системите, които се изграждат днес, няма съставка в тях, която да е ограничена до една нация. Така че веднъж, след като стане ясно, че нещо е възможно и други ще могат да стигнат до същия резултат, защото имат изчислителната мощ. Използваните техники са добре известни. Дори ако детайлите се пазят в тайна, останалите в крайна сметка ще ги разберат и това няма да отнеме много време. Така че не считам, че ще има голяма разлика по отношение на чистата технология. Мисля, че от значение ще е как те са интегрирани в цялостните системи. А това зависи много повече от политическата и социалната организация на толкова различни страни като Китай и САЩ.
    AI ще промени армиите. Но това ще се случи постепенно. Поне в началото разликите ще бъдат по-незабележими. Така че ще отнеме известно време, преди изкуственият интелект да направи голяма революция в начина, по който функционират армиите.

    Но ако технологията стане широкодостъпна за всички, от нея ще могат да се възползват и престъпни групи. Колко притеснени трябва да бъдем от подобни сценарии?
    Да, това е неизбежно. Ще бъде интересно да видим през следващите няколко години какво ще се случи с дезинформацията и AI. Очаквам да видя много експерименти в използването на изкуствения интелект по този начин от престъпни групи. Според мен при следващите президентски избори в САЩ вероятно ще видим някои иновативни приложения на AI. Има много групи, които се подготвят за подобно нещо. Считам, че има сериозна причина за безпокойство. От друга страна, не е като да не е имало дезинформация в предишни политически кампании. Да, нова техника е, но донякъде разбираме какви са потенциалните ефекти. Мисля, че има надежда не да се предотврати подобно нещо, но поне да бъде смекчен ефектът му.
    Опасенията са, че престъпни групи ще измислят нещо тотално непознато, с което не сме се сблъсквали преди или с което не знаем как да се справим. И че щетите ще бъдат по-големи от нормалното. Шансовете това да се случи са 100%. В даден момент ще има нещо подобно. И да се надяваме, че няма да е много лошо.

    IBM обяви, че ще замести хиляди работни места с AI. Други компании също представиха подобни планове. Кои индустрии и работни места ще бъдат засегнати в най-голяма степен от новите AI системи?
    Това, което почти сигурно ще се случи, е революция на работното място. Като всяка друга технология, тя ще автоматизира определени аспекти на работата. Така че някои работни позиции определено ще изчезнат.

    Кои работни места ще изчезнат според Вас?
    Ако вземем технология като ChatGPT, тя се справя много добре с генерирането на текст. Но допуска фактологични грешки, защото не е обучена да е точна. Тренирана е да генерира правдоподобно звучащ човешки текст. Така че може да каже напълно безсмислени неща със страхотна увереност. И какво можете да правите с нея? Какво е реалното ѝ приложение? Защото за почти всичко, за което трябва да сте много прецизни, ще ви се наложи да имате човек за контрол.
    Така че ще има професии, при които технологията ще позволи на хората да станат по-продуктивни. Защото те ще разполагат с този помощник, който ще отнеме част от тежката работа, а за тях ще остане да изгладят неточностите, за да направят добър продукт. И всеки, работещ с много текст, вероятно ще бъде в такава позиция.
    Например заетите в правни позиции на начално ниво вероятно ще станат по-висококвалифицирани. Няма да имате нужда от толкова много хора, но тези, с които разполагате, ще могат да свършат повече работа.
    Друга област е телемаркетингът. Много работни места там ще изчезнат. Истината е, че повечето заети в тази сфера така или иначе не са особено добри, а ChatGPT вероятно е почти толкова успешен в опитите да убеди хората да купуват различни неща.
    Така че всякакви работни места, където високото качеството не е задължително, а всичко, което ви интересува, е да го направите по-евтино, тези позиции може да изчезнат напълно.

    Какъв ще е ефектът върху софтуерната индустрия?
    В софтуерната индустрия технологията ще направи хората по-продуктивни. Но вероятно няма да премахне голям брой работни места. Това е моето предположение. ChatGPT може да генерира шаблони за код, но кодът трябва да работи. Програма, която е точна на 99%, по същество е безполезна. Това е много ниско качество. 99,9% все още е доста зле. Не бихте искали да използвате програма, която работи само 99,9% от времето. Така че все още ще трябва да тествате и да прегледате кода, за да сте сигурни, че наистина прави това, което искате. Но в програмирането доста време се губи в опити да разберете как да използвате система, която не познавате. Например трябва да свържете една система с друга и да ги накарате да говорят помежду си. Може да прекарате цял ден в опит да разберете как и едната, и другата система комуникират с външния свят, за да можете да напишете трите реда код, които ги карат да говорят помежду си. И ако ChatGPT може да ви даде преднина за това как изглеждат тези 3 реда код, току-що спестихте може би 2/3 от деня. Това е значително. Тук технологията ще окаже голямо влияние и ще помогне за ускоряване на разработването на нов софтуер.

    Като бивш декан на Факултета по компютърни науки в Станфорд и професор там днес какъв съвет бихте дали на младите хора – какви умения да придобият, за да бъдат по-адаптивни към промените?
    Компютърните науки са важни. Да разбирате малко от програмиране и да имате идея за това как работи софтуерът, дори и ако прехраната ви няма нищо общо с разработването на автоматизирани компютъризирани системи, да имате някакъв усет за това как тези системи са изградени и какви са техните силни и слаби страни, е ценно. Това вероятно би било от полза за много хора. Така че, ако всички преминеха въвеждащ курс по програмиране, светът вероятно щеше да бъде по-добро място.

    Интервю: Детелина Калфова

    Нагоре
    Отпечатай
     
    * Въведеният имейл се използва само за целите на абонамента, имате възможност да прекратите абонамента по всяко време.

    преди 12 часа
    Германската KAYSER Automotive инвестира в завод за автомобилни компоненти в Плевен
    Компанията ще развива дейността си в Логистичен парк БПД Плевен
    преди 13 часа
    Nvidia отчете рекордни приходи
    Акциите на компанията отбелязват 200% ръст спрямо година по-рано
    преди 15 часа
    ЕК разследва TikTok за алгоритми, водещи до пристрастяване
    Китайската социална мрежа има над 1 млрд. потребители
    преди 18 часа
    Sameday България планира да инвестира над 17 млн. лева през 2024 г.
    През 2023 г., Sameday отчита 2,6 млн. доставени пратки, с 38% от тях получени чрез автоматизирани шкафчета за доставка извън дома
    преди 19 часа
    Capital One придобива Discover
    Сделката на стойност $35,3 млрд. ще обедини двете най-големи компании за кредитни карти в САЩ
    преди 20 часа
    БНБ: Чуждите инвестиции у нас с ръст от 28% за година
    Най-големите вложения в страната за януари - декември 2023 са от Швейцария, Австрия и Белгия