Регламентът (ЕС) 2024/1689 (AI Act) за установяване на хармонизирани правила за изкуствения интелект определя рамка за разработването, пускането на пазара, внедряването и използването на системи с изкуствен интелект (ИИ) в Европейския съюз. Основната му цел е да насърчи развитието на ориентиран към човека и надежден ИИ, като същевременно осигури високо ниво на защита на здравето, безопасността и основните права на гражданите. Регламентът се прилага към всички ИИ системи, които се използват в ЕС, включително тези, разработени извън Съюза, ако резултатите от тях се използват в ЕС.
 
Регламентът забранява определени практики, свързани с ИИ:
1. Използване на ИИ за манипулация на поведението – системи, които съществено изменят човешкото поведение по начин, който може да причини значителна вреда.
2. Използване на ИИ за експлоатация на уязвими групи хора – особено спрямо деца, възрастни хора или лица в уязвимо положение.
3. Биометрично категоризиране – системи, които класифицират хората въз основа на биометрични данни с потенциал за дискриминация.
4. Използване на ИИ за дистанционна биометрична идентификация в реално време в обществени пространства – с изключение на определени ситуации като правоприлагане.
 
Според Регламент (ЕС) 2024/1689 системите с изкуствен интелект се разделят на високо рискови и такива с общо предназначение. Високорисковите системи с изкуствен интелект включват системи за критична инфраструктура като транспорт и енергетика, които могат да застрашат живота и безопасността, системи за образование, за заетост и човешки ресурси, за правоприлагане – например използвани за оценка на риска и идентификация, за социални и финансови услуги – като определяне на кредитоспособност или достъп до социални помощи. ИИ с общо предназначение представлява система с изкуствен интелект, която не е разработена за конкретна задача, а може да бъде приложена в широк спектър от области и задачи. Такива системи могат да се използват в различни контексти, като например обработка на естествен език, разпознаване на образи, автоматизация на процеси и др. Те са универсални и могат да бъдат адаптирани за различни приложения, което ги прави по-гъвкави, но също така изискват по-строги мерки за сигурност и етика.
 
Високорисковите системи трябва да отговарят на строги изисквания, включително за:

1. управление на риска – идентификация и оценка на рисковете;
2. прозрачност – информираност на потребителите относно използването на ии;
3. мониторинг и документация – постоянно наблюдение и поддържане на документация за съответствието на системата;
4. точност, надеждност и сигурност – системите трябва да бъдат проектирани за максимална точност и безопасност;
5. съществуване на механизми за човешка интервенция при необходимост.

 
От доставчиците на системи за ИИ Регламентът изисква:

• оценка на съответствието: гарантиране, че системите отговарят на регулаторните изисквания преди пускането им на пазара;
• документация и регистрация: поддържане на техническа документация и регистриране на системата в съответните бази данни;
• мониторинг и поддръжка: наблюдение на системата след пускането й на пазара и предприемане на корективни действия при нужда.

От внедрителите на системи за ИИ се очаква:

• правилно използване: употреба на системите в съответствие с инструкциите и ограниченията, предоставени от доставчиците;
• информираност на потребителите: осигуряване, че потребителите са информирани за използването на ИИ и неговите възможности и ограничения;
• мониторинг и реакция: следене на работата на системата и реакция при възникване на инциденти или отклонения.

С оглед на сложността на високорисковите системи с ИИ и свързаните с тях рискове, се въвежда процедура за оценяване на съответствието им с изискванията на Регламента от национални регулаторни (нотифицирани) органи. Те извършват:

• Оценка и сертификация за съответствие на високорисковите системи с ИИ с изискванията на регламента преди те да бъдат пуснати на пазара.
• Надзор и одит на сертифицираните системи, за да се гарантира, че те продължават да отговарят на регулаторните изисквания.
• Информираност и прозрачност относно оценките и сертификациите, които извършват, чрез публични регистри и доклади.

Създават се регулаторни лаборатории (sandbox) в областта на ИИ на национално равнище, за да се улесни разработването и изпитването на системи с ИИ под строг регулаторен надзор, преди тези системи да бъдат пуснати на пазара или пуснати в действие по друг начин, още от регулаторни лаборатории (sandbox), които представляват контролирани среди за тестване на системите. Въвежда се постоянен мониторинг след пускане на пазара, регистрация и проследимост, както и санкции при неспазване на Регламента.
 
Създава се Службата по изкуствен интелект (Службата по ИИ), която е централен орган в рамките на Европейския съюз, създаден за координиране и управление на дейностите, свързани с ИИ. Основните й функции включват:

1. Надзор и регулация: осигуряване на спазването на регламентите за ИИ;
2. Консултации: подкрепа и насоки към държавите членки и индустрията;
3. Координация на иновациите: Подкрепа за развитието и прилагането на иновативни ИИ технологии;
4. Оценка на рисковете: идентифициране и управление на рисковете, свързани с ИИ системите в ЕС.

Службата по ИИ ще играе ключова роля в прилагането на регламентите и насърчаването на етични и безопасни ИИ практики в ЕС.
 
Доставчиците на системи с ИИ, които не са високорискови, са насърчавани да изготвят кодекси за поведение, предназначени да поощряват прилагането на доброволна основа на някои или на всички задължителни изисквания, приложими за високорисковите системи с ИИ, подходящо адаптирани с оглед на предназначението на системите и по-ниския риск, като вземат предвид наличните технически решения и най-добрите практики в сектора. Те ще бъдат разработвани с участието на различни заинтересовани страни и ще се прилагат доброволно, но ще се насърчават чрез признание от страна на регулаторните органи.
 
Регламент (ЕС) 2024/1689 следва да се прилага от 2 август 2026 г. Същевременно, като се има предвид неприемливият риск, свързан с използването на ИИ по определени начини, забраните, както и общите разпоредби на настоящия регламент следва да се прилагат още от 2 февруари 2025 г. Инфраструктурата, свързана с управлението и системата за оценяване на съответствието, следва да започне да функционира преди 2 август 2026 г., поради което разпоредбите относно нотифицираните органи и структурата на управление следва да се прилагат от 2 август 2025 г. Като се има предвид бързият темп на технологичния напредък и възприемането на модели на ИИ с общо предназначение, задълженията на доставчиците на модели на ИИ с общо предназначение следва да се прилагат от 2 август 2025 г. Кодексите за добри практики следва да бъдат готови в срок до 2 май 2025 г., за да се даде възможност на доставчиците своевременно да докажат спазването им. Службата по ИИ следва да гарантира, че правилата и процедурите за класифициране са актуални с оглед на технологичното развитие. Освен това държавите членки следва да установят и изпратят до Комисията правилата относно санкциите, включително административните глоби и имуществени санкции, и да гарантират, че те се прилагат правилно и ефективно към началната дата на прилагане на настоящия регламент. Поради това разпоредбите относно санкциите следва да се прилагат от 2 август 2025 г.
 
Регламентът (ЕС) 2024/1689 създава рамка за управление, контрол и насърчаване на иновациите в областта на изкуствения интелект в ЕС. Чрез строгите си изисквания и мерки за подкрепа, той цели да гарантира безопасността, прозрачността и етичността на ИИ системите, като същевременно стимулира иновациите и конкурентоспособността на европейския пазар.
                                              

Регламент - 2024/1689 - BG - EUR-Lex (europa.eu)