EK предлага законови правила за изкуствения интелект

Европейската комисия предлага нови правила и действия, чиято цел е Европа да стане световен център за надежден изкуствен интелект (ИИ). Комбинацията от първата по рода си правна законодателна рамка по отношение на ИИ и новия координиран с държавите членки план ще гарантира безопасността и основните права на хората и предприятията и същевременно ще активизира в целия ЕС навлизането на ИИ и инвестициите и иновациите в него.

Този подход ще бъде допълнен от нови правила относно машините, като за целта правилата за безопасност ще бъдат адаптирани с цел да се увеличи доверието на потребителите в новото гъвкаво поколение продукти.

Маргрете Вестегер, зам.-пред. на ЕК, заяви: "С тези революционни правила ЕС застава начело на създаването на нови глобални норми, които да бъдат гаранция за това, че можем да се доверим на ИИ".

Еврокомисарят по въпросите на вътрешния пазар Тиери Бретон добави: "ИИ е средство, не цел. Той е в употреба от десетилетия, но промени капацитета си благодарение на увеличените изчислителни мощности. Това разкрива огромен потенциал в най-разнообразни области — здравеопазване, транспорт, енергетика, селско стопанство, туризъм, киберсигурност. Но крие и някои рискове".

Новите правила ще се прилагат пряко по еднакъв начин във всички държави членки въз основа на ориентирано към бъдещето определение за ИИ. Те следват основан на риска подход:

Неприемлив риск: Системите с ИИ, които се считат за несъмнена заплаха за безопасността, поминъка и правата на хората, ще бъдат забранени. Тук се включват системите и приложенията с ИИ, които манипулират човешкото поведение с цел заобикаляне на свободната воля на потребителите (например играчки с гласов асистент, които насърчават опасно поведение от страна на малолетни лица), и системи, които дават възможност за социален ранкинг от страна на държавното управление.

Висок риск: Системите с ИИ, идентифицирани като високорискови, включват технологиите с ИИ, използвани при:

- критични инфраструктури (например транспорт), които биха могли да изложат живота и здравето на гражданите на риск;
- образование и професионално обучение, което може да определи достъпа на лица до образование и професионално развитие (например оценяване на изпитни резултати);
- свързани с безопасността елементи на продуктите (например приложение с ИИ в роботизираната хирургия);
- заетост, управление на работници и достъп до самостоятелна заетост (например софтуер за сортиране на професионални автобиографии при наемане на работа);
- основни частни и публични услуги (например кредитни оценки, които лишават гражданите от възможността да получат определен кредит);
- правоприлагане, което може да засегне основните права на гражданите (например оценка на надеждността на доказателства);
- управление на миграцията, убежището и граничния контрол (например проверка на автентичността на документи за пътуване);
- правораздаване и демократични процеси (например прилагане на закона към конкретен набор от факти).

Високорисковите системи с ИИ ще бъдат обект на строги задължения преди те да могат да бъдат пуснати на пазара:

- адекватна оценка на риска и системи за неговото ограничаване;
- високо качество на наборите от данни, захранващи системата, с цел минимизиране на рисковете и дискриминационния резултат;
- поддържане на записи за дейността, за да се гарантира проследимостта на резултатите;
- подробна документация, предоставяща цялата необходима информация за системата и целта ѝ, за да могат органите да оценят нейното съответствие;
- ясна и адекватна информация за потребителя;
- подходящ човешки надзор с цел минимизиране на риска;
- висока степен на устойчивост, сигурност и точност.

Всички системи за биометрична идентификация от разстояние по-специално се считат за високорискови и като такива подлежат на строги изисквания. Използването им в реално време на публично достъпни места за целите на правоприлагането по правило е забранено. Допуснатите неголеми изключения са строго дефинирани и регулирани (например когато това е строго необходимо за издирването на изчезнало дете, за предотвратяване на конкретна и непосредствена терористична заплаха или за откриване, локализиране, идентифициране или подвеждане под съдебна отговорност на извършител или заподозрян в извършването на тежко престъпление). За подобно използване трябва да бъде получено разрешение от съдебен или друг независим орган и то да бъде съответно ограничено във времето, пространството и претърсваните бази данни.

Ограничен риск, т.е. системи с ИИ със специфични задължения за прозрачност: При използването на системи с ИИ като чатботовете потребителите следва да бъдат наясно, че взаимодействат с машина, за да могат да вземат решение дали да продължат взаимодействието или да се откажат.

Минимален риск: В предложението за законодателен акт се допуска свободното използване на приложения като видеоигри с ИИ или филтри за спам. Огромната част от системите с ИИ попадат в тази категория. Предложеният регламент не регулира тази област, тъй като тези системи с ИИ крият минимален или никакъв риск за правата или безопасността на гражданите.

Що се касае до управлението, ЕК предлага националните компетентни органи за надзор на пазара да упражняват надзор при прилагането на новите правила. Създаването на Европейски съвет за изкуствения интелект ще улесни тяхното прилагане и ще стимулира разработването на стандарти за ИИ. В допълнение за ИИ, който не е високорисков, се предлагат доброволни кодекси за поведение, както и регулаторни лаборатории, които да улеснят отговорните иновации.

Европейският подход към новите продукти от категорията „Машини“
Продуктите от категорията „Машини“ обхващат широка гама от потребителски и професионални продукти, като се започне от роботи и се стигне до косачки, 3D принтери, строителни машини, промишлени производствени линии. Новият Регламент за машините ще гарантира, че новото поколение машини подсигурява безопасността на ползвателите и потребителите и насърчава иновациите. Докато Регламентът за ИИ ще обхване рисковете за безопасността на системите с ИИ, новият Регламент за машините ще гарантира безопасното интегриране на системите с ИИ в цялостната машина. Стопанските субекти ще трябва да извършват само едно оценяване на съответствието. Освен това новият Регламент за машините ще отговори на пазарната нужда от повече правна яснота в настоящите разпоредби, облекчаване на административната тежест и намаляване на разходите на дружествата, като за целта се допуснат цифрови формати за документацията и таксите за оценяване на съответствието се адаптират за МСП, но същевременно се гарантира съгласуваността със законодателната рамка на ЕС за продуктите.