Можем ли да създадем умни машини, без да изгубим контрол над тях?

Трябва ли да се страхуваме от създаването на суперинтелигентен изкуствен интелект? В презентация за TED неврологът и философ Сам Харис очертава някои от най-големите рискове, които крие усъвършенстването на умните машини. Процес, които е неизбежен и ще продължава година след година с оглед стремежа на човечеството към непрекъснат прогрес и подобряване на технологиите. Според Харис един от най-сериозните проблеми е, че хората гледат на създаването на свръхумни машини като на нещо „готино“ и не осъзнават реалните заплахи, които са свързани с този процес. Когато това се случи, тези машини ще започнат да се самообучават и самоподобряват, а резултатът ще е „експлозия на интелигентност“.

Според Харис този процес може да се окаже извън пределите на човешкия контрол. Много хора си представят, че армия от злонамерени роботи ще ни атакуват, но това не най-вероятният сценарий, посочва ученият. Проблемът е, че нашите машини ще станат спонтанно недоброжелателни. По-скоро трябва да се безпокоим, че ще създадем машини, които са много по-компетентни от нас и при най-малкото разминаване между техните и нашите цели, могат да ни унищожат.

Нещо повече, с появата на свръхумен изкуствен интелект може да се окаже, че спектърът на интелигентността се простира много по-далеч, отколкото ние си представяме, допуска Харис. Ако сътворим машини, които са по-интелигентни от нас, те най-вероятно ще проучат този спектър по начини, които ние дори не можем да си представим. И ще ни превъзхождат по начини, които не можем да си представим...

Също толкова ограничени са и нашите представи за времето, в което могат да се случат тези промени. Много хора си представят, че това няма да стане факт поне още 50 или 100 години. Ако интелигентността е само въпрос на обработка на информация и ние продължаваме да подобряваме нашите машини, то в даден момент ще достигнем до някаква форма на свръхразум. Но ние нямаме никаква представа, колко време ще ни отнеме, за да осигурим условия, които да ни гарантират спокойствие и безопасност. Вижте видеото: