четвъртък, 30 март 2023   RSS
    Барометър | Региони | Компании | Лица | Назначения


    1642 прочитания

    Какво ще промени ChatGPT: Димитър Георгиев - Мениджър „Информационна сигурност“ в Мнемоника

    Вижте как ChatGPT ще се отрази на бизнеса, хората и работата в сферата на технологиите според Димитър
    16 март 2023, 10:54 a+ a- a

    Димитър Георгиев - Мениджър „Информационна сигурност“ в Мнемоника. Снимка: Мнемоника

    С появата си през ноември 2022 чатботът ChatGPT, създаден от изследователската лаборатория с нестопанска цел OpenAI, привлече вниманието на технологичната общност. За първи път изкуствен интелект успешно автоматизира интелектуален труд и очакванията са това да доведе до сериозни промени за хората и бизнеса. 

    Как изглеждат тези промени в представите на лидери в България и как ChatGPT ще промени работата в сферата на високите технологии? В новата рубрика на Economy.bg „Какво ще промени ChatGPT“ показваме гледната точка и прогнозите на ИТ лидери и професионалисти с дългогодишен опит във водещи технологични компании в България. 

    Вижте какво коментира Димитър Георгиев - Мениджър „Информационна сигурност“ в Мнемоника.

    Кои според Вас ще бъдат основните промени за бизнеса и хората вследствие на ChatGPT?
    Нашумелият ChatGPT не е първата вълна на обществена дискусия по отношение на изкуствения интелект и ролята му в нашия свят. Едва няколко месеца преди това популярен беше DALL·E 2 – друг модел на OpenAI, който генерира изображения на база описание на естествен език. Дори и преди това технологиите за машинно обучение и изкуствен интелект намираха приложение в бизнеса, докато отпечатъкът им върху ежедневния живот на хората беше значително по-малък. Друг интересен продукт от тези парадигми е и уеб приложението This Person Does Not Exist (https://this-person-does-not-exist.com), което само по себе си е развлекателно и интересно от теоретична и академична гледна точка, но може да намери малко употреба в помощ на хората и бизнеса. Разбира се, това зависи от гледната точка: портрети, генерирани от алгоритъма, лесно могат да бъдат използвани по злонамерен начин, за да могат атакуващи да заблуждават свои жертви в социални мрежи и други места, където присъствието на снимка би дало чувство за легитимност или близост.

    Никоя от тези технологии обаче не предизвика интереса, който наблюдавахме при появата на ChatGPT в края на ноември 2022 г. Популярно сравнение е броят дни, които са отнели на дадена услуга да достигне първия си милион потребители: при небезизвестната социална мрежа Facebook това са били 10 месеца, а при ChatGPT – едва 5 дни. Въпреки замайващата статистика тези резултати се дължат не на непосредствено намиране на употреба на новата тенденция в бизнес средите, а на любопитството на хората към една нашумяла тема, която едновременно буди носталгия към киношедьоврите на отминалите десетилетия и дава фрагменти от мечти за утрешния свят, където човешкият труд е далечен спомен.

    Причината за това е проста: ChatGPT, както и всеки друг продукт, базиран на машинно обучение, в голяма степен се основава на принципите на статистиката, а съществува един цитат, (вероятно) изречен от Марк Твен: „Има три вида лъжи: лъжи, проклети лъжи и статистика“. Казано по друг начин, машинното обучение разчита на обширните масиви от информация, с които се захранва, за да произведе резултат. От това произлизат няколко проблема – един от най-големите от които е, че поради големия обем от информация, разбира се, не всяко индивидуално съждение може да бъде проверено за валидност, тъй като това изисква огромна инвестиция на време и експертен ресурс, който да потвърди или отрече предполагаеми факти в дълбоко експертни и дори понякога спорни теми.

    Това означава, че процесът по машинно обучение може да бъде захранен с грешна информация, която да се предава към консуматорите ѝ, както и действително се случва – нашумяха случаи, в които ML-базирани AI чатботове агресивно настояват, че грешна информация е вярна. Следното например е споделено от Маркъс Хътчинс по отношение на новия Bing бот:

    Допълнително и специфично за ChatGPT, когато инструментът не може да отговори на даден въпрос поради липса на информация за него, той пита събеседника си за повече данни. Това, разбира се, отваря врата към умишлено захранване с фалшива информация и саботиране на продукта.

    Трети проблем е, че обикновено съдържанието, генерирано от такива инструменти, често може да се оприличи на сглобен пъзел, който е нареждан според съвпадение на частите, без да се гледа получаваното изображение. Иначе казано, съдържанието е сухо и монотонно, дори „лишено от душа“. 

    Поради невъзможността за пълно доверие в информацията бизнесът все още не може да се осланя пълноценно на изкуствения интелект и машинното обучение, освен ако той не е тясно обвързан със специфичните предизвикателства на даден индустриален сектор или дори конкретна компания. Необходими са профилирани специалисти и експерти, които да коригират продукта, генериран от инструмента, или да го допълват, за да отговаря по-добре на изискванията към него. Има изключение от това правило: компанията за създаване на дигитално съдържание с увеселителен характер BuzzFeed например в края на януари обяви, че освобождава 12% от служителите си, като ще ги замени с продукти на OpenAI. Не го намирам за повратен момент, тъй като такъв тип съдържание не е с достатъчно голямо въздействие, за да подобри качеството ни на живот или работа.

    На мнение съм, че големи промени в бизнеса на този етап не се очакват. Ако има едно нещо, което ChatGPT доказа, то е, че машините могат да говорят на естествен език. ChatGPT обаче е базиран на трето поколение технология, докато в непосредствено бъдеще очакваме да се появи четвърто поколение – как ще се използва, предстои да разберем. 

    Как според Вас ChatGPT ще промени работата на ИТ професионалистите и ще се отрази на ИТ сектора?
    Дори към момента ИТ професионалистите са ценен ресурс. Това, с което технологиите като ChatGPT могат да допринесат, може лесно да се опише с името на продукт, който от GitHub стартира миналата година като добавка към интегрирани среди за разработка: Copilot (втори пилот). Това приложение има възможност да помага на софтуерни инженери, като в реално време допълва техния изходен код, за да спести писането на еднообразни и повтарящи се функции, например алгоритми. Тази функция далеч не може да замени един разработчик, но пък може да му помогне да се фокусира в решаването на действителни проблеми. Сходно, ИТ специалисти от всички сектори на бранша биха могли да се възползват от подобието на втори пилот, което ChatGPT предлага, за да постигнат аналога на добавена виртуалност в своята работа чрез симбиоза между човек и изкуствен интелект.

    Технологията има потенциал да бъде използвана като интелигентна търсачка, която по умен начин агрегира информация от няколко източника, за да даде отговор на специфичен въпрос. Дори тук отново следва да се прилага сериозна доза предпазливост: задаваните въпроси трябва да са достатъчно специфични, за да може да се намери отговор, но и в същото време достатъчно добре замъглени, за да бъдат лишени от конкретика, тъй като всички заявки, отправени към системата, се съхраняват и имат потенциал да бъдат използвани по някакъв начин на по-късен етап – било то заради злоупотреба или дори като се използват за обучение на модела – което да доведе до тяхното неправомерно изтичане. Представете си, че сте администратор на бази данни във финансова институция и предоставяте извадка от базата на ChatGPT с молба да напише заявка за намиране на всички разплащателни операции на клиенти в последния час, и по-късно разберете, че подобни бъдещи въпроси получават отговори в примери, използвайки същата база данни.

    Има и други подводни камъни, следващи от горните аргументи: ако не се даде достатъчно конкретика на ChatGPT или ако въпросът не е такъв, чийто отговор вече е познат на ChatGPT, възможно е инструментът да не може да предостави вярна информация. Тази несигурност отново изисква намесата на опитен специалист, за да могат да бъдат открити потенциални проблеми и те да бъдат отстранени, преди информацията да бъде използвана по същество. Така например скрипт, написан от ChatGPT, никога не следва да бъде използван, без първо да бъде потвърден, което означава, че е необходимо специалистът, който го използва, или да бъде вещ в съответната сфера, или да разполага с време за допълнително обучение, за да верифицира резултатите. В много случаи тази допълнителна необходимост не оправдава времето, разходите и рисковете, които се въвеждат от употребата на ChatGPT. Съществува например следната диаграма, която помага да се определи дали ChatGPT може да бъде използван за решаването на даден проблем:

    Във всеки случай навлизането на технология, която да подобрява, улеснява и прави по-бърза работата на човека, е нещо, което в ИТ сектора ще се приеме с отворени обятия. До каква степен ChatGPT може да помогне за реализацията на такъв свят, силно зависи от профила на дейност и нивото на експертиза на съответната организация.

    Вижте по какви проекти работи Мнемоника в България

    Вижте профила и актуалните позиции за работа на Мнемоника в Jobs.bg 


    ВИЖТЕ ОЩЕ КОМЕНТАРИ В РУБРИКАТА КАКВО ЩЕ ПРОМЕНИ ChatGPT:

    Виктор Цветков - CTO на Телерик Академия
    Атанас Райков - Вицепрезидент във Viber
    Борис Христов - Основател на 356labs
    Светлин Николаев - Директор „Иновации и UX“ в Progress
    Бьорн Стансвик - Founder & CEO в МенторМейт
    Боян Кроснов - Chief of Product в StorPool
    Веселин Арнаудов - Директор на Advanced Development Center към Office of the CTO във VMware
    Алексей Рубцов - Изпълнителен Директор на Luxoft България
    Боян Шейтанов - Ръководител на проекти и екипи в Astea Solutions
    Иван Ангелинин - Технически Директор на Cosmos Thrace
    Стоян Дамов - Съосновател и СТО на Tick42
    Михаил Панайотов - CTO на TechPods
    Веселин Борисов - Tech Lead в Devision

    Нагоре
    Отпечатай
     
    * Въведеният имейл се използва само за целите на абонамента, имате възможност да прекратите абонамента по всяко време.

    преди 10 часа
    преди 11 часа
    Дават ваучери за обучения за придобиване на цифрови учения
    Стойността на ваучерите ще зависи от вида и продължителността на курсовете
    преди 12 часа
    ЕК ще подобрява бизнес средата в ЕС с по-малко бюрокрация
    Очаква се годишно да бъдат спестени около 437 милиона евро административна тежест
    преди 13 часа
    преди 15 часа
    Everty придобива Sofia Office Center
    Това е петата инвестиционна сделка на Everty в България
    преди 16 часа
    Доклад: Изкуственият интелект може да измести 300 млн. души от работата им
    Вижте за кои професии има най-голям риск според проучването на Goldman Sachs