неделя, 23 юни 2024   RSS
    Барометър | Региони | Компании | Лица | Назначения


    3452 прочитания

    Ето кои индустрии може да промени тази нова област на изкуствения интелект

    Не мога да си представя ChatGPT да управлява самолети или да ни лекува. Най-големият въпрос е как да се направи AI по-надежден – един от световните лидери в областта на Neurosymbolic AI – проф. Суарат Чаудури, Тексаски университет в Остин, пред Economy.bg
    20 февруари 2023, 10:51 a+ a- a

    Преди дни се проведе първата лекция от новата серия на Института за компютърни науки, изкуствен интелект и технологии (INSAIT), при която топ учени в основата на последните новости в изкуствения интелект и информатиката ги представят в София.

    Първото събитие беше с лектор проф. Суарат Чаудури от Тексаския университет в Остин, САЩ – един от световните лидери в областта на Neurosymbolic AI. Невросимволичният изкуствен интелект обединява машинното и човешкото познание.

    Какво точно представлява тази нововъзникваща подобласт на AI, как тя се различава от другите видове изкуствен интелект, какви са предимствата и предизвикателствата пред развитието ѝ, тя ли е следващият етап от AI, в кои индустрии може да намери приложение Neurosymbolic AI, може ли да измести хората от работата им, какъв тип умения са нужни за работа в тази сфера – тези и други въпроси коментирахме с проф. Суарат Чаудури.

    Проф. Чаудури, как виждате потенциала на INSAIT и защо решихте да участвате в тяхното събитие?
    Наистина съм развълнуван относно INSAIT. Жалко е, че въпреки че България разполага с такъв научен и инженерен талант, се налага много българи да заминат в чужбина, за да правят изследвания в компютърните науки. Надявам се INSAIT да бъде голяма стъпка към промяната на това. И че ще привлече учени и инженери от цял свят да работят в България, което може да е от полза и за тях, и за страната.
    Що се отнася до това защо се съгласих да дойда тук – познавам работата на Мартин Вечев от дълго време. Посетих го в Швейцария преди 5 – 6 години. Много високо ценя работата му. И когато чух, че работи за създаването на тази институция, бях наистина развълнуван, защото каквото и да прави, изглежда се справя много добре. Освен това искам да видя как науката и технологиите процъфтяват по целия свят. На мен това ми изглежда страхотна възможност за България. И исках да разбера за какво става дума.

    Какво представлява невросимволичният изкуствен интелект?
    Neurosymbolic AI (бел. ред.: невросимволичeн изкуствен интелект) е нова област на изкуствения интелект. Тя свързва две полета. Едното е deep learning и невронните мрежи, което беше много успешно през последното десетилетие. Това е много по-стара идея, но през последните 10 и повече години наистина стана много успешна при решаването на практически задачи. Например ChatGPT се основава на deep learning.
    Сега невросимволичният ИИ свързва тази област с класическата компютърна наука, където хората пишат код и ние разбираме какво прави програмата, която пишем. Проблемът с deep learning е, че много често не разбираш защо виждаш определени резултати. Нямате увереността, че ако веднъж сте получили добър резултат, това ще е валидно и следващия път. Виждаме това в момента с този AI Bing чат.
    Надеждата ми е, че чрез свързването на тези две полета може да се получи нещо по-голямо от сбора на частите. Може да имаме едновременно изкуствен интелект, който да се учи от големи количества данни, както правят невронните мрежи, но в същото време имаме някои гаранции като тези, които бихме получили с написания от човек код. В невросимволното програмиране може да изградите системи, в които ще има части, тренирани с данни чрез невронни мрежи. Но ще има и други, които програмист би написал.
    Например, използвате невронна мрежа в контекста на шофиране на кола. Можете да си представите програмист, който описва някои от законите на физиката, които винаги трябва да се спазват. В този случай поведението, което невронната мрежа ще демонстрира, сега е ограничено от границите, поставени от програмиста. И така няма да се стигне до поведение извън тях. Това е надеждата.
    Говорим за рамка, в която хората и ИИ могат да си сътрудничат помежду си. AI се разглежда като помощник в по-голям процес, който включва до голяма степен човека. И човекът е в състояние да определи правила, които AI трябва винаги да спазва, докато се учи да изпълнява задачи.

    Споменахте шофирането. Може ли да дадете други примери от ежедневието, където Neurosymbolic AI може да намери приложение?
    Шофирането е добър пример, по-конкретно автономното шофиране. Правени са опити за използване на deep learning и невронни мрежи, започвайки от снимките, направени от камерата, и завършвайки с действията, които автомобилът предприема. Имаше опити целият този процес да се тренира с помощта на невронни мрежи, но не беше много успешен. Една от големите причини беше ненадеждността на невронните мрежи. Те имат тенденция да запомнят всякакви аспекти на данните от ниско ниво. Но при по-различни сценарии, които неизбежно възникват, когато поставите самоуправляващата се кола на истински път, се стига до ненадеждно поведение много пъти. При шофирането, където безопасността е абсолютно критична, това е неприемливо. И невросимволичният подход към този проблем ще бъде, като дефинирате правила за това какво трябва да се прави и какво – не.

    Какви други приложения може да има Neurosymbolic AI в бъдеще? В кои индустрии?
    Например в здравеопазването отдавна се обсъжда използването на AI за подпомагане на лекари, рентгенолози, хирурзи. Във всички тези области има сериозни последствия от неправилно поставени диагнози или неточно поведение на робота по време на операция. Тук смятам, че този вид надежден AI подход и по-конкретно невросимволичният AI може да играе голяма роля.

    С каква точност в момента изкуственият интелект може да постави диагноза?
    Има области, при които се счита, че невронните мрежи са изключително надеждни при разчитането на рентгенови снимки. Но проблемът е, че те също са и много несигурни. Ако имате входна информация, различаваща се значително от това, с което невронните мрежи са тренирани, може да се стигне до непредвидимо лош резултат. Тук е разликата с хората. Да, ние може да се заблудим понякога, но с достатъчно практика не правим такива глупави грешки, при които дори малка промяна в изображението да ни подведе да мислим, че не става дума за рак, а за нещо съвсем друго.

    Значи, на този етап не можем да разчитаме на изкуствения интелект за поставяне на точни медицински диагнози?
    Не, човек винаги трябва участва. Но при невросимволичния подход смятаме да направим това човешко участие по-систематично. Имам предвид, че когато проектирате AI системата, трябва да започнете с предположението, че човек участва в използването и контрола ѝ.
    Да се върнем към примера с шофирането. Този процес има различни етапи. Има етап на компютърно зрение с постъпващи снимки. Но след като разпознаете обектите на пътя чрез компютърното зрение, какъв тип решения вземате? Тогава идва последният етап, където поемате контрола с включването на физическото устройство. При различните етапи има различни очаквания. При невросимволичния процес ще има човек, който да напише програма, но ще има и възможност част от кода да бъде написан от изкуствен интелект, вместо процесът да се основава изцяло на примери или данни.

    Може ли да сравните Neurosymbolic AI с другите видове изкуствен интелект, като например генеративния AI?
    Neurosymbolic AI свързва 2 традиции на изкуствения интелект – традицията на невронните мрежи и по-старата символна традиция. През последните 10 – 15 години невронните мрежи станаха все по-популярни. Съвременният генеративен AI е напълно базиран на невронни мрежи. И така, като свържем подхода, базиран на невронни мрежи, с по-стария символен подход, ние се опитваме да постигнем най-доброто от двата свята.

    Невросимволичният изкуствен интелект ли е следващият етап на AI?
    Не знам дали е следващият етап. Мисля, че е много обещаващ подход. Трябва да покажем възможностите му в конкретни приложения, както направи deep learning.

    Какви са предимствата на Neurosymbolic AI?
    Връщам се отново към въпроса за областите, където безопасността е от решаващо значение. Там смятам, че ще има най-голям ефект. Конкретно, очакваме приложения в инженерната сфера, по-специално в автономни системи като роботи. Мисля, че това е област, в която невросимволичният AI може да окаже голямо влияние. Също така има все по-голям интерес към внедряването на машинно обучение в други видове критични софтуерни системи, например операционни системи и компютърни мрежи и т.н. Има всякакви решения на ниско ниво, които могат да се вземат в тези системи и има дискусия за това как можем да заменим някои от тези части с помощта на машинно обучение. Но това може да стане само, ако има гаранции за безопасност, защото в крайна сметка не искате операционната система да започне да се държи като Bing Chat през последните няколко дни. Така че въпросът за мен е как можем да постигнем този вид комбинация и да покажем реални демонстрации, че правим нещо, което е по-добро от deep learning.

    Как Neurosymbolic AI може да промени начина, по който си взаимодействаме с технологиите в бъдеще?
    Мисля, че невросимволичният изкуствен интелект може да направи AI по-приемлив в реални критични за безопасността приложения. И по този начин може да пренесе силата на AI в много повече области от живота ни, отколкото използваме днес.
    Например, предполагам, че ще можем да използваме изкуствен интелект, базиран на невросимволни методи, но може би ще има и други видове технически идеи, които също ще се появят.
    Но си представям, че ще можем да използваме помощта на AI в много от ежедневните си задачи, когато например инвестиране, шофиране, когато нашият лекар диагностицира медицинското ни състояние. Ако успеем да постигнем надежден AI, тогава ще можем да го внедрим в много от тези задачи. И това са много важни области на приложение, които потенциално могат да опростят и обогатят живота ни.

    Какъв очаквате да бъде цялостният ефект от Neurosymbolic AI върху обществото?
    Очаквам да видим повече AI в повече приложения. Например много от сложните задачи, които изпълняваме всеки ден, ще бъдат опростени с помощта на AI асистенти.

    Може ли Neurosymbolic AI системите да автоматизират някои задачи и да изместят хората?
    Да, например различните видове приложения в роботиката. Все още не сме успели да изградим домакински роботи, които да функционират надеждно отвъд съвсем прости устройства. И разбира се, решаването на този проблем ще изисква много повече от просто невросимволичен AI. Нужни са иновации по отношение на самите физически устройства и как да станат те по-достъпни. Но мисля, че AI компонентът тук е много важен и тези методи могат да помогнат.
    Но също и други области, като споменатите вече медицински диагнози. Също може да имаме AI асистент, който ни помага с писането на код, с инвестиционни решения и т.н.
    Не мисля, че има някаква непосредствена опасност AI да замени хората в твърде много индустрии поради ненадеждността.

    Това ли е основната бариера?
    Да, мисля, че това е най-важната причина. В най-добрия случай тези системи като ChatGPT могат да ни заслепят с блясъка си. Но проблемът е, че този блясък не е последователен. Освен това те са напълно непрозрачни. И това е огромната разлика с традиционния човешки писмен код. Няма човек, който да може да разбере какво представлява цялата сложна софтуерна система като тази на Windows или Mac OS. Но има начини, има практики, които можем да следваме, за да открием къде точно нещо се е объркало и инженерите поправят грешки през цялото време. Със система като ChatGPT или голяма невронна мрежа е много трудно да се определят пропуските във всяка конкретна част от системата. Това означава, че имаме система, която често е много добра или изглежда много добра, но също така често прави грешки. И освен това не можем да разберем защо греши, когато го прави. За мен това е фатален недостатък.
    Не мога да си представя например внедряване на система като ChatGPT за управление на самолети или коли, да инвестира нашите спестявания, да ни лекува от сложни заболявания. За мен това е най-големият въпрос по отношение на AI в момента – как да направим изкуствения интелект по-надежден. И тук смятам, че невросимволичните методи наистина могат да помогнат.

    Какъв тип умения трябва да притежава човек, за да може да работи в областта на Neurosymbolic AI?
    Бих казал, че експертизата в областта на компютърните науки и изкуствения интелект. Когато съветвам студенти за това какви курсове да вземат, им казвам, че е много важно да се изградят солидни основи, защото няма конкретни технически тенденции, те често идват и си отиват. Deep learning например е супермодерен днес. Но преди 20 години такива бяха невронните мрежи – област, която не е виждала голям напредък от много дълго време. Така че не е ясно как ще се развие индустрията през следващите 20 години. Най-добрият начин да се подготвите за всичко, което предстои, е да изградите солидни основи.
    Но конкретно за Neurosymbolic AI е важно да се разбере същността на символните методи, логиката, програмни езици и т.н., но също така и deep learning и статистическите методи. Освен това опит в машинното обучение от всякакъв вид ще бъде много полезен.

    Какви са основните предизвикателства пред развитието на Neurosymbolic AI?
    Голямо предизвикателство е мащабът или така да се изградят тези системи, че да могат да работят по много сложни задачи. Ако си представим система като ChatGPT – тя има милиарди параметри. Може да прочете много голяма част от наличния в интернет текст и след това отнема много време за трениране, но е ясно как да се справим с този мащаб. При невросимволните методи все още не знаем как да се справим с такъв мащаб. Това е въпрос, по който работим активно. Измисляме нови методи, но ще отнеме известно време, преди да разберем как да мащабираме нещата. Бих казал, че това е голямо предизвикателство.
    Друга трудност е, че изисква доста усилия по отношение на курирането на човешкото знание, което да бъде използвано от системата. Как да съберем правилата, които невронносимволичната система трябва да следва по ефективен начин. Това също е голям въпрос.
    По-конкретно ако си представите, при шофиране има толкова много правила на поведение, които хората следват, когато са на пътя, и те не са записани никъде. Освен това има разнообразни закони за движение по пътищата, които варират в различните страни. Изглежда, че само събирането на универсален набор от правила ще бъде много трудно. В идеалния случай ще се изучат големи части от това, но как да го направите, без да попаднете в същите капани на ненадеждност. Това е голям отворен въпрос.

    Коя е темата във Вашата област, която Ви вълнува най-много в момента?
    Наистина съм развълнуван от областта на AI в момента. Мисля, че стигаме етап, в който първоначалното вълнение от модел като ChatGPT започва леко да затихва, защото осъзнаваме, че има много проблеми, които все още трябва да се решат. И за мен това е чудесна възможност за учените в тази област.

    Интервю: Детелина Калфова

    Нагоре
    Отпечатай
     
    * Въведеният имейл се използва само за целите на абонамента, имате възможност да прекратите абонамента по всяко време.

    21 юни 2024, 16:35
    21 юни 2024, 15:24
    България пое ротационното председателство на Съвета на гуверньорите на ЕИБ
    Вицепремиерът и министър на финансите Людмила Петкова, в качеството си на гуверньор за България на ЕИБ, е новият ротационен председател на Съвета на гуверньорите на финансовата институция
    21 юни 2024, 13:40
    21 юни 2024, 11:37
    Предстои четвъртото издание на фестивала „Ало, Космос! Говори България!“
    Тази година освен научни работилници, интераĸтивни изложения и разговори с учени от различни области на науката програмата ще предложи и среща с астронавта Майкъл Лопес-Алегрия
    21 юни 2024, 10:54
    Българският INSAIT изпреварва Kеймбридж, Корнел и Технион на знаков форум за AI
    Сред авторите се записва името на един от най-младите участници в историята на CVPR – единадесетокласничката Рени Паскалева