Александър Попов: Ще се превръщаме все повече в киборги

Александър Попов е завършил английска филология и компютърни науки и притежава докторска дисертация в областта на информатиката, с фокус върху компютърната лингвистика. Работи в Института по информационни и комуникационни технологии в БАН, редактор е във фантастичното списание ShadowDance и преподава научна фантастика в Софийския университет. Често пише за литература в различни формати и от различни гледни точки.

Свързахме се с него по повод участието му като лектор в тазгодишното издание на Astea Conference: Practical Magic, за да научим повече за пресечните точки между фантастика и реалност и развитието на изкуствения интелект. Ето какво сподели той пред екипа на Economy.bg:

Кои разминавания между визията на известни фантасти за развитието на изкуствения интелект и това, което се случва на практика, са Ви впечатлили най-много?
Най-известните фантастични романи на тема ИИ обикновено се занимават с изкуствено създадени съзнания, които са равни или превъзхождащи човешкото, но винаги подобни на него (напр. Хал от „Одисея в космоса“, роботите на Айзък Азимов, Невромантик от едноименния роман на Уилям Гибсън и т.н.). Това е разбираемо, тъй като генерира сюжети, които хем са коренно нови за нас, хем са близки. За мен обаче е по-интересно как тези зараждащи се съзнания ще се различават на фундаментално ниво от човека. Какво би се случило, например, ако някой от нехуманоидните роботи на Boston Dynamics развие форма на напреднал интелект? Ако роботът прилича по тялото и свойствата си повече на куче или на паяк, отколкото на човек, тогава как би се различавала неговата мисъл от човешката? Тези въпроси присъстват в научната фантастика, но може би тепърва настъпва времето да бъдат по-сериозно мислени от широката публика. Така например, един много забавен разказ от преди няколко години – „Cat Pictures Please” на Naomi Kritzer – описва ИИ, който се събужда в сървърите на Google, тайно от човешките си разработчици, и решава да помага на хората в замяна на… котешки снимки. Звучи абсурдно, но за работещия в областта на машинното самообучение такъв сценарий всъщност е по-малко налудничав. Един от първите нашумели модели за разпознаване на образи на Google беше трениран да класифицира именно котки, а пък един от популярните методи в изкуствения интелект е този на обучението с утвърждение, т.е. софтуерът получава награда за всяко правилно действие, нещо като еквивалент на допаминовата система при човека. Така че нещо на пръв поглед също толкова странно би могло да се случи – вероятно след доста повече време и включващо по-скромна версия на ИИ, но не по-малко изненадващо. Кой знае за какво биха си общували умните ни вещи след десетина години? С нарастването на сложността и обема на данните, а и на самите когнитивни модели, на човешките истории може би ще им се налага да отстъпват все повече от изкуствата за сметка на някаква логика встрани от тях. На фантастите ще им се налага да разказват от гледната точка на не-човеци.

През 2017 Facebook прекрати един от проектите си, след като се установи, че два алгоритъма са започнали да комуникират по между си на собствен език. Как се стига до това изкуствен интелект да си измисли собствен език и този етап от развитието му неминуем ли е?
В случая тълкуването на въпросния експеримент е много важно. Немалко медии избират да интерпретират фактите по един малко крив начин, или просто не се задълбочават достатъчно, за да вникнат какво действително стои зад една така оповестена новина. Двата чатбота на Facebook използват съществуващи думи на английски език, за да комуникират помежду си - прости молби и инструкции, като обаче ги подреждат в на пръв поглед безсмислени за човек комбинации (например в поредици като „the the the”). Този речник явно се оказва достатъчно изразителен, за да могат алгоритмите да конструират някакъв собствен метод на комуникация, който вероятно им върши по-добра работа от естествения човешки език. На пръв поглед това може да звучи страшно, но трябва да си дадем сметка, че такъв един език е по-полезен най-вече защото е много по-лесен за научаване от гледна точка на машината. Колкото и да напреднаха през последните години езиковите технологии, все още сме далече от софтуер, който действително разбира човешки език. Така че тези алгоритми вероятно не са направили някакво епохално откритие, което вещае появата на истински машинен интелект. Резултатите обаче са изключително интересни от гледна точка на дисциплини като теория на информацията и езикознание. Впрочем, през същата година един от екипите за машинен превод на Google докладва подобни, дори по-интересни резултати – модел за машинно самообучение е развил сравнително устойчива лингва франка и използва този „език“ като междинна стъпка при прехода между различни двойки човешки езици. Но и в този случай става дума за метод, който открива  интересни и важни свойства на човешки дейности, не за коренно нов метод на комуникация.

Разработването на собствен език крие ли рискове за човечеството според Вас?
Човешкият език е може би най-удивителната технология, с която разполагаме, а може би и една от първите. Машинният език – тоест инструкциите, които задвижват компютърните системи – може да опише много по-точно и в по-фин детайл определени типове информация. Но той не може да бъде двусмислен, да борави с метафори, да конструира измислени светове и да оставя бели полета, които трябва да бъдат попълни от въображението, не и по устойчив начин. Когато изкуствените интелекти започнат да разбират и използват човешките езици на такова ниво, ще можем да кажем, че сме създали машини, притежаващи т. нар. „обща интелигентност“, които биха могли да ни бъдат равностойни партньори. Ако пък машини развият собствени езици, които са функционално еквивалентни или превъзхождащи човешките в тези отношения, то тогава те биха представлявали своего рода „свръхразум“. Все пак човек не е създал сам езика, той е продукт на дълги еволюционни процеси – биологични и социални. Така че, ако изкуствен интелект сам се справи с тази задача, можем да очакваме всичко от него. За щастие, все още сме много далеч от такива сценарии. Наистина е важно да използваме това време, за да решаваме не само чисто технологичните проблеми по пътя към все по-мощен ИИ, но и етическите и философските такива. Те ще възникват все по-често. 

В един по-тясно дефиниран смисъл, разработването на нови езици с цел непроследима комуникация или високочестотна търговия, например, би могло да е изключително опасно. Но тогава опасността би произхождала в много по-голяма степен от хората и техните ценности, не толкова от самия софтуер.

Ще се промени ли драстично комуникацията между хора и между хора и машини през следващите 50 години според Вас?
Тя вече се е променила много, макар и това някак да остава в периферията на съзнанието ни. В съвсем буквален смисъл ние всички комуникираме ежедневно с машини – изборите ни къде да кликнем и какво да купим директно захранват множество самообучаващи се алгоритми, най-вече собственост на технологични гиганти като Facebook, Google, Amazon, но и не само. Трябва ясно да осъзнаем, че това ни променя дори на чисто биологическо ниво, преподреждайки невронните пътеки в мозъците ни. В един чудесен български фантастичен роман – „Хакери на човешките души“ на Иван Попов, издаден още през 2004 г. – има една чудесна мисъл, която гласи: „Човек за човека е бот. А бот за бота е човек. Но що за човек е ботът? И що за бот е човекът?“ Споделям мнението, че по-големите промени ще произлязат от все по-тясното свързване на човешкото с машинното. Ще се превръщаме все повече в киборги и най-голямата опасност от това би била да продължаваме да си мислим, че сме си все същите хора от 20-и век. Затова е важно в тези технологични процеси да бъдат въвлечени в много по-голяма степен хуманитаристиката, образованието, философията и изкуствата – за да запазим критическата способност да разпознаваме все по-размиващите се граници между човек и машина, но и за да осмисляме по-добре новите хоризонти на битието ни.

Какво да очакват хората от презентацията Ви по време на конференцията на Astea Solutions?
Ще се опитам да предложа една малко по-неочаквана гледна точка към технологиите, които се разработват в полето на ИИ. А именно – как един популярен метод, използван включително за разработването на машинни преводачи, може да послужи за критически и философски инструмент, който да ни даде обяснение за това как художествените светове се изграждат в съзнанията ни. Тоест, какво превръща един измислен свят в пространство със своя собствена логика и способност да ни „омагьосва“, така че да искаме да прекарваме още и още време в него. Ще се опитам да загатна и идеята, че реалността, в която пребиваваме всеки ден, също е малко или много измислена от собствените ни съзнания и се подчинява на подобни закономерности. Надявам се, че това кратко въведение би могло да бъде полезно за хора в творческите индустрии и изкуствата, но и за IT специалистите. Голям привърженик съм на интердисциплинарността и вярвам, че преминаването отвъд и обратно през границите на навика може да ни направи по-добри специалисти, с каквото и да се занимаваме.