Нов призив за повече регулация в сектора на ИИ

Снимка: Daimler

В отворено писмо десетки експерти от индустрията предупредиха, че изкуственият интелект (ИИ) може да доведе до изчезване. Писмото беше публикувано на 30 май от Центъра за безопасност на изкуствения интелект (CAIS), група за застъпничество, която има за цел да намали рисковете от ИИ в обществен мащаб, според нейния уебсайт. Тя сравнява потенциалните ефекти на ИИ с пандемии, причинени от смъртоносни болести и ядрена война.

Сам Алтман, милиардерът, съосновател на създалата ChatGPT OpenAI, подписа писмото заедно с изпълнителните директори на фирмите за изкуствен интелект Google DeepMind и Anthropic. То е подписано и от д-р Джефри Хинтън, д-р Йошуа Бенгио и д-р Ян Лекун, група компютърни учени и професори, често описвани като „кръстниците на ИИ“ заради тяхната обширна работа в развитието на областта на дълбокото обучение на ИИ. Те спечелиха престижната награда Тюринг през 2018 г. за своите усилия.

В допълнение към тези „тежки играчи в индустрията“, разнообразна гама от знаменитости и професори подписаха писмото, включително певицата Граймс (която е използвала ИИ за творческо изследване) и популярния водещ на подкаст и невролог Сам Харис, пише Quartz.

„Намаляването на риска от изчезване от ИИ трябва да бъде глобален приоритет наред с други рискове от обществен мащаб като пандемии и ядрена война“, се казва в изявлението от едно изречение. Неговата краткост и сравнително широк обхват позволяват то да бъде подписано от хора с широк спектър от гледни точки.

Алтман, едно от най-разпознаваемите лица в ИИ, редува думите, че се „страхува“ от ИИ и го подкрепя като „най-великата технология, която човечеството досега е разработвало“ (и това в едно и също интервю), припомня още Quartz.

Изпълнителният директор на OpenAI се срещна с президента на САЩ Байдън и даде показания пред съдебната комисия на Сената по-рано този месец, като поиска от законодателите засилено регулиране на неговата индустрия. „Най-големият ми страх е, че причиняваме значителна вреда на света“, каза Алтман по време на свидетелските показания. „Ако тази технология се обърка, може да се обърка доста.“

Алтман очерта как ще изглеждат новите разпоредби в публикация в блог, съвместно с други двама съоснователи на OpenAI. Той призова за три големи реформи, включително засилена координация между разработчиците на ИИ по целия свят и създаването на усъвършенствана технология, която може да овладее потенциален „суперинтелект“, създаден от ИИ.

Той също така насърчи формирането на глобална регулаторна група за ИИ технологията, подобна по структура на Международната агенция за атомна енергия, с правомощия да инспектира системи, да изисква одити и да тества за съответствие със стандартите за безопасност.

Междувременно стана ясно, че Групата на седемте (Г-7) ще се срещне, за да обсъди проблемите, породени от инструменти за генеративен изкуствен интелект (ИИ) като ChatGPT, съобщи Япония.

Лидерите на Г-7, която включва САЩ, ЕС и Япония, се споразумяха да създадат междуправителствен форум, наречен „Хирошима ИИ процес“, за да обсъждат въпроси около бързо развиващите се инструменти за ИИ.

Представители на правителствата на Г-7 ще разгледат въпроси като защита на интелектуалната собственост, дезинформация и как трябва да се управлява технологията, каза министърът на комуникациите на Япония Такеаки Мацумото.