неделя, 25 февруари 2024   RSS
    Барометър | Региони | Компании | Лица | Назначения


    1000 прочитания

    Технологичните компании ще позволят на правителствата да тестват техните AI инструменти

    Това стана ясно по време на срещата, посветена на сигурността на ИИ във Великобритания
    03 ноември 2023, 09:48 a+ a- a

    За първи път най-напредналите технологични компании ще позволят на правителствата да тестват техните инструменти за изкуствен интелект (ИИ/AI). Това съобщи брирабнският премиер Риши Сунак по време на срещата на високо равнище, чиято основна тема е безопасността на ИИ, а Илън Мъск предупреди, че технологията в крайна сметка може да замени всички човешки работни места.

    Компании, включително Meta, Google DeepMind и OpenAI, се съгласиха да позволят на регулаторите да тестват най-новите им продукти с изкуствен интелект, преди да ги пуснат за широко ползване, в ход, който според официални лица ще забави надпреварата за разработване на системи, които могат да се конкурират с хората, пише The Guardian.
    Сунак направи съобщението в четвъртък (2 ноември) след двудневна среща на върха в Блечли Парк, на която разнообразна група, включително най-богатият човек в света, вицепрезидентът на САЩ и високопоставен китайски държавен служител, се съгласиха, че ИИ представлява сериозен риск за човечеството.

    Говорейки пред репортери в края на срещата на върха, Сунак каза: „Вярвам, че постиженията на тази среща на върха ще наклонят везните в полза на човечеството.“
    Премиерът също така обяви международна подкрепа за експертен орган, вдъхновен от Междуправителствения панел по изменението на климата, който да бъде председателстван от един от „кръстниците“ на модерния AI.

    Тези действия бяха приветствани след това от технологичния милиардер Илън Мъск в разговор между двамата в централен Лондон, по време на който Мъск описа това, което вижда като драматично различно бъдеще за човечеството. „Тук виждаме най-разрушителната сила в историята“, каза той. „Ще дойде момент, в който няма да има нужда от работа. Можете да имате работа, ако искате работа... но AI ще може да прави всичко.“ Мъск каза, че смята, че срещата е постигнала значима промяна в развитието на напредналия AI. „Просто да имате представа и да можете да подчертаете опасенията пред обществеността ще бъде много мощно“, каза той.

    Говорейки при закриването на срещата на върха, Сунак каза, че споразуменията, постигнати с множество държави и компании за AI, значително са намалили заплахата, представлявана от технологията. Въпреки това той беше принуден да защити доброволния характер на споразумението за тестване, тъй като правителството му отказа да въведе законодателство, което да ограничи развитието на ИИ.

    Обяснявайки, че Обединеното кралство трябва да се движи по-бързо, отколкото позволява законодателният график, той каза: „Технологиите се развиват с такова темпо, че правителствата трябва да се уверят, че можем да сме в крак“. Той каза, че в крайна сметка „обвързващи изисквания“ вероятно ще бъдат необходими за AI фирмите.

    Съгласно споразумението, обявено в Блечли Парк, правителства с „единомишленици“ и AI компании се споразумяха да работят заедно за тестване на безопасността на новите AI модели преди и след пускането им.

    Големите езикови модели, които са в основата на инструменти като чатбота ChatGPT, ще бъдат тествани в сътрудничество с правителствата срещу редица опасности, включително националната сигурност, безопасността и обществените вреди.

    Този ход следва издаването на изпълнителна заповед от Белия дом тази седмица, която изисква от големите технологични фирми да представят резултати от тестове за своите модели на правителството на САЩ, преди да станат публични.

    Сунак каза, че тестването ще бъде водено от нови институти за безопасност на ИИ в САЩ и Обединеното кралство, като британският орган се позиционира като „глобален център“ за многостранната инициатива , която не включва участието на Китай.

    Споразумението за тестване е подкрепено от ЕС и 10 държави, включително САЩ, Обединеното кралство, Япония, Франция и Германия. Водещите AI компании, които са се съгласили да тестват, включват Google, OpenAI, Amazon, Microsoft и Meta.

    Сунак каза, че генералният секретар на ООН Антонио Гутериш е помогнал да се осигури подкрепата на международната общност за експертна група, която да публикува доклад за „състоянието на науката за ИИ“. „Тази идея е вдъхновена от начина, по който беше създадена Междуправителствената група по изменение на климата, за да постигне международен научен консенсус“, каза Сунак. „С подкрепата на генералния секретар на ООН всяка страна се ангажира да номинира експерти.“

    Йошуа Бенгио, известен като един от кръстниците на съвременния изкуствен интелект, ще ръководи изготвянето на първия доклад за безопасност. Бенгио, носител на наградата ACM Turing, еквивалентът на Нобеловата награда за компютърни науки, беше виден глас в полза на предпазливост в дебата за развитието на ИИ. Той е и главният, подписал писмо, публикувано през март, призоваващо за шестмесечно прекъсване на „гигантските“ експерименти с AI, и подкрепи изявление през май, предупреждаващо, че рискът от изчезване от ИИ трябва да се третира със същия приоритет като смекчаването на обществен риск от пандемии и ядрена война.

    Притесненията около AI, терминът за компютърни системи, които могат да изпълняват задачи, обикновено свързани с интелигентни същества, варират от заплахата от масово произвеждана дезинформация по време на избори до напреднали системи, избягващи контрола и заплашващи човечеството.

    Организаторите успяха да издадат комюнике в началото на срещата, подписано от 28 правителства, включително Обединеното кралство, САЩ, ЕС и Китай. „Декларацията от Блечли“ обещава, че подписалите страни ще работят заедно по споделени стандарти за безопасност в процес, оприличен от служителите на срещите на върха COP относно климатичната криза.

    Нагоре
    Отпечатай
     
    * Въведеният имейл се използва само за целите на абонамента, имате възможност да прекратите абонамента по всяко време.

    преди 1 ден
    Nvidia стана 4-тата най-голяма компания в света
    Пазарната капитализация на производителя на чипове достигна $1,96 трилиона
    преди 1 ден
    ЕС прие 13-и пакет от санкции срещу Русия
    За първи път се налагат санкции на китайски фирми, които помагат на Кремъл
    преди 1 ден
    преди 1 ден
    Над 120 BILLA магазина ще имат каси на самообслужване до края на 2024
    Веригата започва да въвежда в обектите си хибридния модел на плащане още през 2020
    преди 1 ден
    МОН: Над 156 хиляди ученици се обучават в професионални паралелки
    Националната търговско-банкова гимназия е училището с най-много учебни предприятия в света
    преди 1 ден
    преди 2 дни
    Colliers: Хибридният модел на работа ще се запази и тази година
    Развитието на споделени работни места вероятно ще се ускори през 2024, сочи доклад на компанията