V současné době existuje nespočet úspěšných pokusů o to kopírovat a v jistém slova smyslu i předčit lidskou inteligenci. Důkazem mohou být stroje skládající Rubikovu kostku, hrající šachy či čínskou stolní hru Go, kdy počítače dominovaly nad nejbystřejšími lidskými soupeři. Největším nedostatkem těchto modelů je však jejich neschopnost generalizace – jsou nevídaně dobré pouze v jedné specifické či pouze malé skupině činností. Právě díky široké využitelnosti velkých modelů generativní AI, jako je například série GPTx z výrobny OpenAI, Bard od Googlu či Stable Diffusion vyvíjený firmou Stability AI, mluvíme o revoluci interakce s technikou.

Generativní modely, často také nazývané základní či obecné modely (z anglického foundation models), jsou hluboké neuronové sítě schopné naučit se z trénovacích dat téměř jakýkoliv vzorec chování. Jsou versatilní v práci s různými druhy dat, ať se již jedná o text a zpracování přirozeného jazyka, audio či video záznamy a jejich tvorbu, nebo extrakci informací. Za tyto schopnosti je ovšem třeba zaplatit obrovskými nároky na vstupní data – těch jednak musí být velké množství a jednak musí být ve vysoké kvalitě. Platí totiž, že ze špatného vstupu nelze dojít ke správnému výsledku.

Společně s euforií musí přijít také vlna obezřetnosti, jelikož s takto mocnými nástroji se musí zacházet opatrně. Základní modely jsou lehce zneužitelné a generováním falešných médií či neschopností rozlišit stroj od člověka lze vytvářet dezinformace. Známé jsou také případy, kdy se natrénovaný jazykový model vymkl kontrole a začal produkovat neetický obsah, rozsáhle porušoval GDPR nebo jeho uživatel zneužil schopnosti generativní AI ke kybernetickým zločinům.

Abychom měli přehled, jak se jednotlivé verze Aktu o umělé inteligenci stavějí k problematice autonomní umělé inteligence a základních modelů, musíme mít povědomí o datu jejich vydání. Jelikož Komise vydala své stanovisko v roce 2021, dávno před strmým nárůstem popularity generativní umělé inteligence, jediná zmínka o generativní umělé inteligenci se nachází v Hlavě IV. v rámci AI systémů představujících omezená rizika. Týká se pouze transparenčních povinností u tzv. „deep fakes“, tedy u audio či video záznamů vygenerovaných či manipulovaných pomocí AI.

Poprvé se termín „obecný AI systém“ objevuje ve verzi Rady z roku 2022, kdy je přidán do definice AI systému a nařizují se u něj stejné restrikce jako pro systémy s vysokým rizikem, definované v Hlavě III. regulace. Regulovanými jsou nejenom předtrénované modely, ale také generativní modely specificky laděné na dalších datech.

Již stěžejním tématem je ovšem problematika základních modelů ve verzi Parlamentu, kdy je přidán článek zaměřený právě na jejich zodpovědné používání. Klade se zde důraz na kategorizaci generativních modelů, kvalitu použitých vstupních dat a technické dokumentace, zajištění stability a nevychýlenosti modelu napříč jeho životním cyklem, ale například také na požadavky na ESG konformitu. V rámci textu je také definován takzvaný úřad pro umělou inteligenci, jehož cílem je dozorovat a udržovat si povědomí o aktuálním stavu technologie, aby byla zachována nadčasovost legislativy. Za nedodržení pokynů AI Actu hrozí firmám pokuta ve výši 10 mil eur nebo 2 % obratu z předchozího roku.

Týká se chystaná regulace umělé inteligence i vaší společnosti? Vzestup generativní umělé inteligence představuje pro podniky zajímavé příležitosti a výzvy. Přestože AI Act vytváří podmínky pro odpovědný a etický vývoj a používání umělé inteligence, společnosti se musí pečlivě orientovat ve vyvíjejícím se regulačním prostředí. Společnost Deloitte nabízí komplexní podporu pro zajištění souladu se zákonem o umělé inteligenci. Připojte se k nám a přijměte budoucnost inovací v oblasti umělé inteligence zodpovědně a s důvěrou. Další informace naleznete na našich webových stránkách.