Matyáš Hlaváček | 8.10.2024
Soudní dvůr k otázce ručení při rozdělení společnostiDaně, účetnictví, právo a nejen to. Všechny klíčové novinky pro váš byznys.
Tatiana Rabinovich | 23. Dubna 2024
Evropský parlament dne 13. března 2024 schválil nařízení o umělé inteligenci (dále jen „Nařízení“). Jedná se přitom o světově první právní akt, který má ambice komplexně regulovat umělou inteligenci (dále jen „AI“). Formální schválení konečného textu nařízení Radou se očekává do konce dubna, načež bude nařízení zveřejněno v úředním věstníku. Převážná část nařízení nabude účinnosti 24 měsíců po zveřejnění. Připomínáme též, že nařízení je přímo účinné, což znamená, že osobám na území ČR budou plynout práva a povinnosti přímo z něj, a to bez ohledu na vnitrostátní legislativu.
Nařízení harmonizuje pravidla pro uvádění AI na unijní trh, uvádění AI do provozu a její použití. Významná část Nařízení je věnována též systémům, jejichž praktiky Evropská Unie (dále jen „EU“) považuje za natolik škodlivé, že v rámci Nařízení výslovně zakazuje jejich uvedení na trh, uvedení do provozu či používání.
V tomto článku vám přiblížíme, na jaké osoby se bude zákaz vztahovat, a jaké AI systémy budou v EU zakázány. Těšit se můžete i na další publikace o AI Nařízení, v nichž se budeme věnovat povoleným AI systémům a podmínkám pro jejich uvádění na trh, provoz a použití v EU v závislosti na jejich rizikovosti.
Osoby, které v souladu s Nařízením odpovídají za dodržování zákazu uvádění na trh, uvádění do provozu či použití AI provozujících nebezpečné praktiky, jsou zejména:
Nasazením je míněno jakékoliv užívání systému AI s výjimkou užívání pro čistě soukromou, neprofesionální potřebu. Jinými slovy, běžný uživatel internetu – spotřebitel – nebude odpovědnou osobou ve smyslu Nařízení, a to i kdyby za použití AI generoval a šířil nebezpečný obsah, např. poplašné zprávy či jinak zavádějící informace. Nelze ovšem vyloučit trestní či občanskoprávní odpovědnost takových osob.
Oproti tomu osoby, které užijí AI v rámci své obchodní činnosti, např. ke komunikaci se spotřebitelem či generování obsahu, budou odpovídat za dodržování zákazu nebezpečných funkcí AI, a to bez ohledu na to, zda mají přístup ke zdrojovému kódu daného systému – a tedy reálnou schopnost ovlivnit fungování užívaného systému.
Z působnosti Nařízení – včetně ustanovení o zakázaných praktikách – jsou výslovně vyjmuty:
Nařízení obecně zakazuje takové funkce AI, které člověka manipulují k jeho újmě nebo k újmě jiných osob, nebo které představují nepřijatelný zásah do soukromé sféry člověka.
Manipulativní AI
Zakázané jsou funkce AI, které používají podprahové techniky mimo vědomí osoby nebo záměrně manipulativní nebo klamavé techniky s cílem nebo účinkem podstatně narušit chování osoby nebo skupiny osob.
Za podstatné narušení chování osob se považuje výrazné zhoršení schopnosti osoby činit informovaná rozhodnutí, v důsledku čehož osoba učiní rozhodnutí, které by jinak neučinila, v důsledku čehož utrpí značnou újmu buď tato ovlivněná osoba, nebo jiná osoba či skupina osob.
Do této kategorie by mohly v praxi spadat zejména:
Zákaz se vztahuje také na funkce AI, které zneužívají slabostí osob nebo skupiny osob z důvodu věku, zdravotního postižení nebo zvláštní sociální či ekonomické situace, je-li cílem nebo účinkem tohoto zneužití podstatné narušení chování této osoby nebo skupiny osob způsobem, které jim způsobuje nebo může způsobit značnou újmu.
Do této kategorie budou spadat zejména systémy generující obsah navádějící snadno ovlivnitelné osoby k chování, které je pro ně škodlivé, např. ke konzumaci návykových látek či gamblerství. Do této kategorie by spadalo i generování obsahu s cílem nebo účinkem vymámit ze snadno ovlivnitelné osoby neoprávněné peněžité či nepeněžité protiplnění.
Nařízení zakazuje systémy AI sloužící k
V souladu s Nařízením by tak v EU nesměl být zaveden systém obdobný tomu, který již několik let funguje v Číně a který na základě průběžného hodnocení socioekonomického chování lidí umožňuje ukládat postihy, disciplinární opatření a omezení nemající přímou souvislost se sledovaným chováním.
Zákaz se dále vztahuje na systémy
Porušení výše uvedených zákazů je spojeno s přísnými finančními postihy. Odpovědné osobě může být uložena pokuta ve výši do 35 000 000 EUR nebo, jestliže je pachatelem společnost, do 7 % celkového světového ročního obratu za předchozí účetní období, podle toho, která částka je vyšší. Nařízení dále výslovně připouští souběh pokuty s jakýmikoliv dalšími postihy dle vnitrostátního práva.