Какво ще промени ChatGPT: Стоян Дамов - Съосновател и СТО на Tick42

Стоян Дамов - Съосновател и СТО на Tick42. Снимка: Личен архив

С появата си през ноември 2022 чатботът ChatGPT (повече ТУК), създаден от изследователската лаборатория с нестопанска цел OpenAI, привлече вниманието на технологичната общност. За първи път изкуствен интелект успешно автоматизира интелектуален труд и очакванията са това да доведе до сериозни промени за хората и бизнеса. 

Как изглеждат тези промени в представите на лидери от ИТ сектора в България и как ChatGPT ще промени работата в сферата на високите технологии? В новата рубрика на Economy.bg „Какво ще промени ChatGPT“ показваме гледната точка и прогнозите на ИТ лидери и професионалисти с дългогодишен опит във водещи технологични компании в България. 

Вижте какво коментира Стоян Дамов - съосновател и СТО на българската софтуерна компания Tick42. Създадена през 2010, Tick42 основно предоставя професионални услуги на глобални инвестиционни банки и хедж фондове. Освен това разработва и собствен продукт - Glue42 – платформа за интегриране на приложения.

Стоян, кои според Вас ще бъдат основните промени за бизнеса и хората вследствие на ChatGPT?
Искам да отбележа, че казаното по-долу е мое лично неекспертно мнение. Ползвам редица Generative AI софтуери, включително ChatGPT от самото начало, но опитът ми е потребителски.

Най-просто казано, ChatGPT е софтуер, способен да генерира отговори на зададени въпроси или да предсказва следващите думи, които бихте написали в документ, имейл или дори програмен код. Чатботът е захранен с огромен текстов корпус (еквивалента на 3 милиона романа), включително с непроверено съдържание от интернет. След това е трениран и донастройван ръчно от хора, за да изгради модел, който да определя „най-верния“ или „подходящ“ отговор от множеството, които вътрешно генерира. Най-впечатляващото е, че резултатният текст не е дословно копиран от изходния, ползва богат речник и професионален изказ.

Изпитвам смесени чувства към ChatGPT и считам, че технологията има огромен потенциал, но нарочно беше пусната прекалено рано с цел да бъде първа на пазара и да привлече огромен интерес и инвестиции (и очевидно постигна целта си).

Трагикомичен пример за това, че OpenAI избързаха е, че когато попитах ChatGPT за десет причини, които го правят опасен за човечеството, той отговори, че може да доведе до пристрастяване, да експлоатира хора (особено деца), да разпространява омраза, фалшиви новини и пропаганда и т.н. На въпроса защо може да бъде полезен, отговори, че помага на хората да завързват нови приятелства...

Тъй като за положителните качества на чатбота се пише много, искам да предупредя за опасностите от неговата употреба и нека читателите ви преценят сами дали и как ChatGPT ще повлияе на личния им живот или бизнеса им.

Първо, ChatGPT не е интелект и не може да разсъждава без значение колко пъти ще срещнете името му в близост до AI или изкуствен интелект. Чатботът не може да създава нищо ново и иновативно и не може да решава проблеми, за които няма известно решение. Човешкият мозък съдържа 100 милиарда клетки, свързани в безброй синаптични връзки и към днешна дата нито едно направление на науката не разбира как точно функционира (ние сме едно чудо на чудесата). Аз лично не бих се тревожил за създаването на „естествен” интелект (AGI), който напълно да замени човека в каквато и да е интелектуална дейност в следващото столетие. 

Ето и някои от сериозните проблеми на ChatGPT.

OpenAI най-открито споделят, че понякога чатботът се обърква и може да даде грешен или подвеждащ отговор или да не „разбере“ правилно въпроса ви. ChatGPT, обаче се „чувства длъжен“ да отговори, дори и отговорът да бъде абсолютно погрешен. Особеното тук е, че не знаете дали отговорът е 5%, или 100% грешен. Това го прави абсолютно безполезен (да не кажа вреден) за здравни, финансови, правни или каквито и да е съвети. Най-важното е, че вие трябва да разбирате материята и да знаете повече от ChatGPT, за да може да проверите информацията в отговора му. В противен случай рискувате да използвате напълно погрешна такава. А ако знаете повече от бота, нужен ли ви е наистина?

Моделът е трениран с информация до 2021 година и всичко, което се е случило след това, му е неизвестно. Чатботът винаги ще бъде „назад“ от събитията в света и информацията, която човечеството генерира ежедневно. Включително всяка нова информация, която може да опровергае научни „факти“ и теории, като миазмата или френологията. Следователно, отново рискувате да използвате остаряла или вече погрешна информация.

Както споменах в началото, част от текста, с който е трениран ChatGPT е непроверена (немодерирана) информация от интернет. Това крие риска чатботът да произведе отговор, който съдържа предубеждения или омраза (за което сме си виновни ние хората). Следователно, както и при социалните мрежи, моделът има нужда да се модерира непрекъснато от армия от хора, за да отсява ужасната и опасната информация и да не заучи неподходящо съдържание. При скоростта, с която се генерира информация в интернет, този модел на модериране е обречен на неуспех. Остават и въпросите „кой бръсне бръснаря“ или кой модерира модераторите и коя информация е неподходяща, или дори опасна.

OpenAI предупреждават, че информацията, която ChatGPT ползва, може да включва и такава с авторски права. Към момента не съществува организация, която да регулира AI софтуер и аз лично предричам бум на съдебни дела за плагиатство, както и огромни печалби на компаниите, които са създали или създават софтуер за откриването на такова. Възможно е притежателите на интелектуалните права да измислят съвместен финансов модел с OpenAI, при който съдържанието им може да се използва, но никой не знае как ще се развият нещата.

ChatGPT естествено засилва мързела у хората, тъй като човешкият мозък е оптимизационна машина и прави всичко възможно да свърши възможно най-малко. Доказателство за това е, че ученици и студенти вече го използват, за да пишат есета и вземат изпити въпреки всички проблеми, които описах. Учителите са обречени да гадаят дали написаното от ученика е оригинално, или генерирано от чатбота. Не е учудващо, че учебната система на Ню Йорк го забрани в публичните училища. Сигурен съм, че много други щати и държави ще ги последват. 

Според мен ChatGPT е прав, че може до доведе до зависимост и тази зависимост крие риска да убие естественото любопитство, жаждата за знания и креативността у хората. Дано не съм прав.

И последно, да не забравяме, че ChatGPT се предлага от OpenAI LP - частна стопанска организация (за печалба) и за обикновените хора като нас е „черна кутия“ - няма нужда да разбираме как точно работи или как се модерира съдържанието. Компанията, в която в момента се инвестират милиарди долари, в един момент ще има една единствена цел - да добави още няколко цента към цената на акциите си, но не е ясно на каква цена. OpenAI могат да ви спрат достъпа със или без причина, а ако нещо се обърка, ще ви заплатят неустойка до $100. Помислете си дали искате да основете новия си бизнес върху ChatGPT, или не.

Как според Вас ChatGPT ще промени работата на ИТ професионалистите и ще се отрази на ИТ сектора?
Не мисля, че програмистите за застрашени да загубят работата си, не и в идните десетилетия. Единствените IT професии, за които ми хрумва, че могат да бъдат засегнати, са техническата поддръжка (които и в момента са частично заменени с интелигентни чатботове) и техническите писатели (но значително по-малко).

С удоволствие плащам $10 на месец, за да ползвам GitHub Copilot (още от бета-версията му), който е базиран на същата технология като ChatGPT - GPT-3. Copilot ми помага, като се опитва да допълни или напише без никаква помощ код, който разработвам. 

Въпреки че работи доста добре, и тук проблемите са много подобни на тези, които обясних в предишния въпрос.

Способността на модела да генерира чисто нов текст, който не е директен copy/paste от изходния, е толкова полезен, колкото и вреден. Моят опит показва, че в около 30-40% от случаите, Copilot си „измисля“ решения, които са напълно погрешни и понякога смехотворни.

Но нека приемем, че процентът на „успеваемост” се вдигне до 80%, 90% или дори 99%. Бихте ли се подложили на роботизирана операция, задвижвана от софтуер написан от ChatGPT, ако има 1% шанс да сгреши? Какво друго не бихте поверили на такъв софтуер? Най-вероятно не бихте му поверили нищо, знаейки че има фиксиран шанс за неуспех.

Както споменах по-горе, за да ползваш Copilot или ChatGPT за генериране на код, трябва да разбираш материята по-добре от софтуера и да си способен да провериш решението, което ти предлага. Например с колеги на шега използвахме ChatGPT, за да реши задача, която даваме на техническите интервюта и той привидно се справи. Кодът изглеждаше, че работи, но беше грешен. Това прави подобен софтуер подходящ само за старши програмисти и нагоре. 

Най-опасното е, че генерираният код може да е използвал изходен код, който е лицензиран и в последствие да бъдете съдени особено ако е използван дословно, а не преписан с разбиране. Уебсайтът на ChatGPT изрично споменава, че генерираният код може да е свързан с редица комерсиални или open source лицензи.

В заключение искам да кажа, че ChatGPT не е „опасен папагал зубрач с впечатляващ речник и изказ“. Тази технология има огромен потенциал и всякакви възможности за приложение. През детството на дъщеря ми с години съчинявахме безброй истории и ако разполагах с ChatGPT и Midjourney, щеше да ми бъде значително по-лесно. Но се радвам, че и двамата се напъвахме да си ги измисляме сами и със сигурност бяха уникални.

Моят съвет е да бъдете бдителни и да ползвате ChatGPT или който и да е друг, задвижван от Machine Learning софтуер внимателно и с разбиране.

Дръжте далеч от деца :)