V rámci pátého článku naší série o umělé inteligenci se budeme věnovat pravidlům, která upravují uvádění systémů UI na trh. Tato pravidla s sebou přinesl schválený Akt o umělé inteligenci, a mají za úkol nejen zajistit bezpečnost a důvěryhodnost systémů UI uváděných na trh, ale také chránit základní hodnoty Unie a práva fyzických osob. Jak totiž uvádí samotná důvodová zpráva k Aktu o umělé inteligenci, pravidla pro UI dostupnou na trhu Unie nebo jinak ovlivňující obyvatele Unie by se měla zaměřovat na člověka, aby lidé mohli důvěřovat tomu, že se tato technologie používá bezpečným způsobem a v souladu s právními předpisy, včetně dodržování základních práv. Zakázané postupy Jak již bylo zmíněno v úvodu, hlavním cílem těchto pravidel je zejména chránit základní hodnoty Unie a dodržování základních práv. Z tohoto důvodu jsou v rámci Aktu taxativně vymezeny určité praktiky, které jsou v oblasti umělé inteligence zakázány. Tyto zákazy se týkají praktik, které mají významný potenciál manipulovat s osobami prostřednictvím podprahových technik bez jejich vědomí, případně zneužívají zranitelnosti konkrétních zranitelných skupin, jako jsou děti nebo osoby se zdravotním postižením, s cílem podstatně ovlivnit jejich chování způsobem, který by mohl jim nebo jiné osobě způsobit, ať už fyzickou, tak psychickou újmu. Akt se však v rámci nastavování určitých mantinelů nezabýval pouze podprahovými technikami, ale také stanovil zákaz přidělování sociálního kreditu na základě UI pro obecné účely prováděné orgány veřejné moci, či používání (až na výjimky) biometrické identifikace na dálku „v reálném čase“, kterou jsme se zabývali v našem předchozím článku. Akt v těchto zákazech ovšem není nekompromisní. Mimo zmíněných výjimek v rámci biometrické identifikace, nebrání ani výzkumu těchto systémů UI pro legitimní účely, avšak za podmínek, že se výzkum nebude zaměřovat na využívání takovéhoto systému ve vztazích člověk-stroj, které vystavuje fyzické osobě újmě, a musí být prováděn v souladu s uznávanými etickými standardy vědeckého výzkumu. Uvedením na trh to nekončí Někdo by se mohl domnívat, že splněním všech kladených požadavků a konečným uvedením systému UI na trh je proces u konce. Takováto myšlenka je však mylná. Akt totiž řeší také tuto situaci, a to harmonizací způsobu provádění kontrol ex post, a to pomocí pravidel monitorování trhu a dozoru nad ním. To by mělo vést k tomu, že jakmile bude systém UI uveden na trh, budou mít orgány veřejné moci k dispozici dostatečné pravomoci a zdroje umožňující zasáhnout v případě, že systémy UI způsobí neočekávaná rizika a zaručit tak rychlou reakci. Účelem nejsou pouze omezení Je pochopitelné, že se Unie snaží právně zajistit, aby systémy UI, které budou uváděny na unijní trh byly mimo jiné bezpečné. Z Aktu však lze vyčíst, že Unie vnímá rovněž celou řadu výhod, které s sebou přináší a cílem právní úpravy je také zlepšit fungování vnitřního trhu. To lze dovodit zejména z důvodové zprávy, kde je stanoveno, že jedním z cílů Aktu je také usnadnit rozvoj jednotného trhu pro zákonné, bezpečné a důvěryhodné aplikace UI a zamezit jeho roztříštění. Zásadním pomocníkem pro uvádění systémů UI na unijní trh by mělo být chystané regulační pískoviště UI, které bylo představeno v rámci Aktu o umělé inteligenci, a jehož podstatou by měla být právě podpora inovací na základě vytvoření kontrolovaného prostředí. Závěr Vzhledem k nevyzpytatelnému vývoji na poli umělé inteligence je hlavním cílem Aktu o umělé inteligenci zabezpečit nejen hodnoty samotné Unie, ale i základní práva jejich obyvatel. Unie tak zakotvila v rámci Aktu nejen určitá pravidla pro uvádění systémů UI na trh a způsobů jejich kontroly ex post, ale rovněž představila pravomoci vnitrostátních orgánů, které budou moct tyto požadavky vymáhat. Samotný Akt však není pouze soubor různých omezení, nýbrž předkládá rovněž nástroje, které by měly pomoct inovacím v oblasti umělé inteligence, které v budoucnu v rámci naší série rovněž pokryjeme. The post Akt o umělé inteligenci Pravidla pro uvádění systémů UI na trh appeared first on AK Kalabus.
V úvodním článku naší série o Aktu o umělé inteligenci jsme popsali cíle Aktu o umělé inteligenci, stav legislativního procesu, předmět a oblast působnosti Aktu o umělé inteligenci a základní definice dle Aktu o umělé inteligenci. Jak plyne z našeho úv
projít na článekUměla inteligence (UI) je technologií, která se celosvětově neustále více a rychleji rozvíjí. O umělé inteligenci proto budeme slýchávat a budeme se s ní setkávat čím dál častěji s tím, jak se bude dále rozvíjet technologický pokrok v této oblasti. Jednot
projít na článekVe druhém článku naší série o Aktu o umělé inteligenci jsme blíže zabývali tím, co se myslí zakázanými postupy v oblasti umělé inteligence a jaké sankce případně hrozí za porušení těchto zákazů. Jak plyne z našeho předchozího článku, jedním ze zakázaný
projít na článekJe vskutku zvláštní, že v nadšených blábolech o umělé inteligenci je málo slyšet teorie jazyka. A pokud se ptáte proč, pak byste měli na otázku nalézt odpověď;)
projít na článekV šestém článku naší série o umělé inteligenci představíme tzv. vysoce rizikové systémy umělé inteligence (dále jen „vysoce rizikové systémy UI“). Tento pojem byl představen v rámci již známého Aktu o umělé inteligenci (dále jen „Akt“), přičemž se jedná o
projít na článek