петък, 11 октомври 2024   RSS
    Барометър | Региони | Компании | Лица | Назначения


    1214 прочитания

    Технологичните компании ще позволят на правителствата да тестват техните AI инструменти

    Това стана ясно по време на срещата, посветена на сигурността на ИИ във Великобритания
    03 ноември 2023, 09:48 a+ a- a

    За първи път най-напредналите технологични компании ще позволят на правителствата да тестват техните инструменти за изкуствен интелект (ИИ/AI). Това съобщи брирабнският премиер Риши Сунак по време на срещата на високо равнище, чиято основна тема е безопасността на ИИ, а Илън Мъск предупреди, че технологията в крайна сметка може да замени всички човешки работни места.

    Компании, включително Meta, Google DeepMind и OpenAI, се съгласиха да позволят на регулаторите да тестват най-новите им продукти с изкуствен интелект, преди да ги пуснат за широко ползване, в ход, който според официални лица ще забави надпреварата за разработване на системи, които могат да се конкурират с хората, пише The Guardian.
    Сунак направи съобщението в четвъртък (2 ноември) след двудневна среща на върха в Блечли Парк, на която разнообразна група, включително най-богатият човек в света, вицепрезидентът на САЩ и високопоставен китайски държавен служител, се съгласиха, че ИИ представлява сериозен риск за човечеството.

    Говорейки пред репортери в края на срещата на върха, Сунак каза: „Вярвам, че постиженията на тази среща на върха ще наклонят везните в полза на човечеството.“
    Премиерът също така обяви международна подкрепа за експертен орган, вдъхновен от Междуправителствения панел по изменението на климата, който да бъде председателстван от един от „кръстниците“ на модерния AI.

    Тези действия бяха приветствани след това от технологичния милиардер Илън Мъск в разговор между двамата в централен Лондон, по време на който Мъск описа това, което вижда като драматично различно бъдеще за човечеството. „Тук виждаме най-разрушителната сила в историята“, каза той. „Ще дойде момент, в който няма да има нужда от работа. Можете да имате работа, ако искате работа... но AI ще може да прави всичко.“ Мъск каза, че смята, че срещата е постигнала значима промяна в развитието на напредналия AI. „Просто да имате представа и да можете да подчертаете опасенията пред обществеността ще бъде много мощно“, каза той.

    Говорейки при закриването на срещата на върха, Сунак каза, че споразуменията, постигнати с множество държави и компании за AI, значително са намалили заплахата, представлявана от технологията. Въпреки това той беше принуден да защити доброволния характер на споразумението за тестване, тъй като правителството му отказа да въведе законодателство, което да ограничи развитието на ИИ.

    Обяснявайки, че Обединеното кралство трябва да се движи по-бързо, отколкото позволява законодателният график, той каза: „Технологиите се развиват с такова темпо, че правителствата трябва да се уверят, че можем да сме в крак“. Той каза, че в крайна сметка „обвързващи изисквания“ вероятно ще бъдат необходими за AI фирмите.

    Съгласно споразумението, обявено в Блечли Парк, правителства с „единомишленици“ и AI компании се споразумяха да работят заедно за тестване на безопасността на новите AI модели преди и след пускането им.

    Големите езикови модели, които са в основата на инструменти като чатбота ChatGPT, ще бъдат тествани в сътрудничество с правителствата срещу редица опасности, включително националната сигурност, безопасността и обществените вреди.

    Този ход следва издаването на изпълнителна заповед от Белия дом тази седмица, която изисква от големите технологични фирми да представят резултати от тестове за своите модели на правителството на САЩ, преди да станат публични.

    Сунак каза, че тестването ще бъде водено от нови институти за безопасност на ИИ в САЩ и Обединеното кралство, като британският орган се позиционира като „глобален център“ за многостранната инициатива , която не включва участието на Китай.

    Споразумението за тестване е подкрепено от ЕС и 10 държави, включително САЩ, Обединеното кралство, Япония, Франция и Германия. Водещите AI компании, които са се съгласили да тестват, включват Google, OpenAI, Amazon, Microsoft и Meta.

    Сунак каза, че генералният секретар на ООН Антонио Гутериш е помогнал да се осигури подкрепата на международната общност за експертна група, която да публикува доклад за „състоянието на науката за ИИ“. „Тази идея е вдъхновена от начина, по който беше създадена Междуправителствената група по изменение на климата, за да постигне международен научен консенсус“, каза Сунак. „С подкрепата на генералния секретар на ООН всяка страна се ангажира да номинира експерти.“

    Йошуа Бенгио, известен като един от кръстниците на съвременния изкуствен интелект, ще ръководи изготвянето на първия доклад за безопасност. Бенгио, носител на наградата ACM Turing, еквивалентът на Нобеловата награда за компютърни науки, беше виден глас в полза на предпазливост в дебата за развитието на ИИ. Той е и главният, подписал писмо, публикувано през март, призоваващо за шестмесечно прекъсване на „гигантските“ експерименти с AI, и подкрепи изявление през май, предупреждаващо, че рискът от изчезване от ИИ трябва да се третира със същия приоритет като смекчаването на обществен риск от пандемии и ядрена война.

    Притесненията около AI, терминът за компютърни системи, които могат да изпълняват задачи, обикновено свързани с интелигентни същества, варират от заплахата от масово произвеждана дезинформация по време на избори до напреднали системи, избягващи контрола и заплашващи човечеството.

    Организаторите успяха да издадат комюнике в началото на срещата, подписано от 28 правителства, включително Обединеното кралство, САЩ, ЕС и Китай. „Декларацията от Блечли“ обещава, че подписалите страни ще работят заедно по споделени стандарти за безопасност в процес, оприличен от служителите на срещите на върха COP относно климатичната криза.

    Нагоре
    Отпечатай
     
    * Въведеният имейл се използва само за целите на абонамента, имате възможност да прекратите абонамента по всяко време.

    преди 8 часа
    „Смарт Солар Технолоджис“ инвестира 240 млн. лв. в Стара Загора
    Новият завод на компанията ще създаде над 800 нови работни места
    преди 11 часа
    ЕЦБ ще намали лихвените проценти с по 0,25% през октомври и ноември
    Това показва проучване на „Ройтерс“ сред икономисти
    преди 13 часа
    Над 110 млн. са регистрираните електронни прегледи за по-малко от 2 години
    Общият брой на издадените електронни рецепти надхвърли 63 млн.
    преди 13 часа
    Франция разкри строг бюджет
    Страната се опитва да се справи с повишаващия се дълг и дефицит чрез орязване на разходите и по-високи данъци
    преди 14 часа
    AMD обяви нови AI чипове
    Според компанията AI пазарът ще нарасне до $500 млрд. в следващите 4 години
    преди 14 часа
    Заводът за лагери в Сопот се разраства с инвестиция за над 14 млн. лв.
    СКФ Бeрингс България получи сертификат за инвестиция клас A