13. 3. 2024

Europoslanci dnes schválili nová pravidla pro fungování umělé inteligence

Akt o umělé inteligenci je podle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo Evropskou unii.

Co nové nařízení upravuje a co bude představovat pro vydavatele a jimi vytvářený obsah?

Na tato témata se zaměříme při jednom z budoucích seminářů pro členy profesní asociace Česká unie vydavatelů.
 

Níže zatím uvádíme pouze stručný výběr z přijatého znění evropského nařízení označovaného jako "AI Act":

• Cílem nařízení je chránit základní práva, demokracii a právní stát před vysoce rizikovou umělou inteligencí a zároveň podporovat inovace a zajistit Evropě v této oblasti vedoucí postavení.
• Nařízení stanoví povinnosti pro umělou inteligenci v závislosti na jejích potenciálních rizicích a míře dopadu.
• Nová pravidla zakazují některé aplikace umělé inteligence, které ohrožují práva občanů. Týká se to například systémů biometrické kategorizace, která je založena na citlivých charakteristikách, necíleného stahování snímků obličeje z internetu nebo kamerových záznamů za účelem vytvoření databází rozpoznávání obličeje.
• Zakázány budou také systémy rozpoznávání emocí na pracovišti a ve školách, hodnocení sociálního kreditu osob, prediktivní policejní práce (je-li založena výhradně na profilování určité osoby nebo posouzení jejich charakteristik) a umělá inteligence, která manipuluje s lidským chováním nebo zneužívá zranitelnost lidí.
• Používání systémů biometrické identifikace donucovacími orgány je v zásadě zakázáno, s výjimkou přesného výčtu úzce vymezených situací. Biometrickou identifikaci "v reálném čase" lze použít pouze tehdy, jsou-li splněny přísné záruky, například pokud je její použití časově a geograficky omezeno a bylo k němu předem vydáno zvláštní soudní nebo správní povolení. V praxi se to může týkat například pátrání po pohřešovaných osobách nebo předcházení teroristickým útokům.
• Používání biometrické identifikace až zpětně je považováno za vysoce rizikové a lze se k němu uchýlit pouze po předchozím soudním povolení v souvislosti s trestnými činy.
• Využití biometrického sledování bylo v původní pozici Evropského parlamentu zcela zakázáno. Při vyjednávání s členskými státy se ale do kompromisní verze nařízení opět dostalo, což někteří europoslanci kritizovali.
• V nařízení jsou rovněž stanoveny jasné povinnosti i pro další vysoce rizikové systémy umělé inteligence (vzhledem k tomu, že jejich používání může vést k významnému poškození zdraví, bezpečnosti, základních práv, životního prostředí, demokracie a právního státu).
• Za vysoce rizikové je považováno například využívání umělé inteligence v oblasti kritické infrastruktury, vzdělávání a odborné přípravy, zaměstnanosti, základních soukromých a veřejných služeb (jako je zdravotní péče či bankovnictví), vymáhání práva, migrace a správy hranic, spravedlnosti a demokratických procesů (například ovlivňování voleb).
• Občané budou mít právo podávat na systémy umělé inteligence stížnosti a znát důvody rozhodnutí, která byla učiněna na základě vysoce rizikových systémů a mají dopad na jejich práva.
• Obecné systémy umělé inteligence a modely, na nichž jsou založeny, musí splňovat určité požadavky na transparentnost včetně dodržování autorského práva EU.
• Výkonnější modely umělé inteligence pro obecné účely, které by mohly představovat systémová rizika, budou podléhat dodatečným požadavkům, k nimž patří například hodnocení modelů, posuzování a zmírňování jejich systémových rizik a hlášení incidentů.
• Takzvané deepfakes, tedy uměle vytvořené nebo zmanipulované obrázky, audionahrávky nebo videonahrávky, musí být jako takové jasně označeny.
• Nařízení vstoupí v platnost dvacet dní po vyhlášení v Úředním věstníku a bude plně účinné 24 měsíců po svém vstupu v platnost, s výjimkou zákazu nepřípustných praktik, který vstoupí v účinnost šest měsíců po vstupu nařízení v platnost, pravidel pro obecné systémy umělé inteligence včetně jejich správy (12 měsíců po vstupu v platnost) a povinností pro vysoce rizikové systémy (36 měsíců).

Zdroj: Evropský parlament