Akt EÚ o AI: čo sa vás skutočne týka

Väčšina malých firiem v EÚ, ktoré používajú AI hlasového agenta alebo podporného chatbota pre zákazníkov, sú nasadzujúcimi subjektmi systému s nižším rizikom, nie poskytovateľmi vysokorizikového systému. Vyplýva z toho krátky a zvládnuteľný súbor povinností: oznámiť komunikáciu s AI, používať systém podľa dokumentácie, zabezpečiť skutočný ľudský dohľad a naďalej plniť GDPR.

Najprv dôležité upozornenie. Tento článok poskytuje všeobecné informácie pre majiteľov firiem, nie právne poradenstvo, a nevytvára vzťah medzi advokátom a klientom. Pravidlá sa vykladajú v konkrétnych súvislostiach, národné orgány aj usmernenia sa vyvíjajú a vaše odvetvie môže mať ďalšie požiadavky. Pred konkrétnym rozhodnutím sa poraďte s kvalifikovaným poradcom, ktorý posúdi vaše skutočné nasadenie.

Čo je akt EÚ o AI, zrozumiteľne

Akt EÚ o AI je horizontálnym nariadením Európskej únie o umelej inteligencii. Horizontálny znamená, že nie je určený jedinému odvetviu. Platí naprieč sektormi, podobne ako GDPR pre zubnú ambulanciu aj logistickú firmu. Jeho základná myšlienka je jednoduchá: pravidlá pre AI systém majú byť primerané riziku, ktoré vytvára pre ľudí.

Tento pohľad si zapamätajte. Obavy z aktu často vznikajú pri čítaní titulkov o najpokročilejších modeloch s predpokladom, že hovoria aj o vašom asistentovi na rezervácie. Zvyčajne nehovoria. Medializované povinnosti, balíky technickej dokumentácie, posudzovanie zhody, systémy riadenia kvality a monitorovanie po uvedení na trh sa viažu na konkrétne kategórie systémov a roly v dodávateľskom reťazci. Päťčlenná inštalatérska firma s AI na telefóne je v úplne inej pozícii než spoločnosť, ktorá vyvíja a predáva základný model.

Akt pre takmer každého formalizuje dve zásady, ktoré dobrí prevádzkovatelia už poznali. Ľudí nemožno zavádzať v tom, či hovoria so strojom. A za reálne správanie AI má zodpovedať konkrétna identifikovateľná osoba. Z týchto dvoch bodov vyplýva takmer všetko, čo má malý alebo stredný poskytovateľ služieb urobiť.

Akt zároveň očakáva, že organizácie poskytujúce alebo používajúce AI zabezpečia primerané porozumenie u ľudí, ktorí so systémami pracujú. Komisia to označuje ako AI gramotnosť. V malej firme nejde o školiaci program. Ide o to, aby recepčná riešiaca odovzdané prípady, vedúci ambulancie aj človek kontrolujúci týždenné prepisy vedeli, čo asistent smie a nesmie, kde zlyháva a ako prevziať rozhovor.

Ako fungujú rizikové kategórie a kam zvyčajne patrí hlasový agent

Európska komisia opisuje štyri kategórie. Najvyššie sú praktiky s neprijateľným rizikom, ktoré sú úplne zakázané pre jasné ohrozenie bezpečnosti, živobytia a práv ľudí. Nasleduje vysoké riziko, ktoré zahŕňa použitia so závažnými rizikami pre zdravie, bezpečnosť alebo základné práva. Potom je riziko vyžadujúce transparentnosť: použitia, pri ktorých je hlavné, aby ľudia vedeli, s čím komunikujú. Najnižšie je minimálne alebo žiadne riziko. Podľa Komisie sem patrí veľká väčšina AI systémov používaných v EÚ.

Kam patrí recepčný asistent? Systém, ktorý víta volajúcich, odpovedá na otázky o hodinách a službách, zaznamenáva správy, rezervuje či presúva termíny a neobvyklé situácie odovzdáva človeku, bežne patrí do kategórie s požiadavkami transparentnosti. Nerozhoduje o prístupe k zamestnaniu, vzdelaniu, úveru, základným službám či právam. Rieši bežnú agendu recepcie a hlavným záujmom je, aby volajúci vedel o automatizácii.

Taký je bežný prípad. Treba však presne pomenovať, čo môže nasadenie posunúť inam. Riziková klasifikácia podľa aktu vychádza zo zamýšľaného účelu systému v konkrétnom kontexte. Ak hlasového asistenta rozšírite o posudzovanie zdravotnej naliehavosti a odporúčanie, či má pacient prísť na vyšetrenie, zdravotné výsledky už závisia od jeho výstupu. Ak konverzačná AI triedi alebo hodnotí uchádzačov o prácu, vstupuje do oblasti zamestnávania. Ak odvodzuje emocionálny stav volajúceho a koná podľa neho, ide o oblasť, ku ktorej akt pristupuje osobitne obozretne. Pre kliniku či agentúru, ktorá postupne rozširuje asistenta pôvodne určeného len na telefonáty, to nie je teoretická otázka.

Praktické pravidlo je jednoduché. Klasifikácia nie je vlastnosťou technológie, ale úlohy, ktorú jej dáte. V jednom odseku opíšte účel asistenta jazykom úloh, nie funkcií. Pri zmene odseku ho znovu posúďte. Ak ešte rozhodujete o jeho úlohách, článok o tom, čo AI recepčná skutočne je, vysvetľuje realistický rozsah tejto roly.

Musíte volajúcim oznámiť, že hovoria s AI?

V zásade áno. Táto povinnosť sa vašej firmy dotkne najpriamejšie. Prehľad regulačného rámca Komisie hovorí jasne: ľudia majú vedieť, že komunikujú so strojom, aby sa mohli informovane rozhodnúť. Rovnaký prehľad uvádza, že pravidlá transparentnosti začínajú platiť v auguste 2026.

Technicky je to jednoduché, pokušenie zavádzať však existuje. Dodávatelia predávajú realistický hlas. Niektoré firmy chcú, aby volajúci verili, že hovoria s človekom, pretože sa obávajú vplyvu oznámenia na konverziu. Je to problém súladu s pravidlami a podľa našich skúseností aj obchodná chyba. Volajúci, ktorý počas rozhovoru odhalí zavádzanie, sa nahnevá. Napraviť to stojí výrazne viac než drobné nepohodlie z úprimnej úvodnej vety.

Ako vyzerá dobré oznámenie v telefonáte:

• Oznámenie zaznie ako prvé, pred vyžiadaním osobných údajov, nie až po mene a dátume narodenia.
• Používa bežné slová. Vete o automatizovanom asistentovi ambulancie rozumie každý. Výrazom ako konverzačný AI agent už nie.
• Ponúka aj cestu von. Povedzte volajúcemu, ako sa dostane k človeku, a pri takej žiadosti hneď konajte.
• Je rovnaké naprieč kanálmi. Ak firma prevádzkuje webový chat aj telefónnu linku, zásada platí pre oboje.

Oznámenie komunikácie s AI je iná otázka než súhlas s nahrávaním hovoru. Nahrávanie upravujú predpisy o ochrane údajov a v niektorých členských štátoch aj ďalšie národné pravidlá. Považujte ich za dve oznámenia s dvoma účelmi, nie za jednu vetu, ktorá sa neúspešne snaží vybaviť oboje.

Poskytovateľ alebo nasadzujúci subjekt: ktorá rola je vaša?

Toto rozlíšenie určuje vaše povinnosti a pre majiteľa malej firmy je najužitočnejšie vyjasniť si práve toto.

Poskytovateľ je vo všeobecnosti subjekt, ktorý AI systém vyvíja a uvádza ho na trh alebo do prevádzky pod vlastným menom či ochrannou známkou. Nasadzujúci subjekt ho používa pod vlastnou právomocou pri svojej činnosti. Ak odoberáte službu, ktorú agentúra alebo softvérový dodávateľ vytvára, hostuje, udržiava a aktualizuje, a používate ju na prijímanie vlastných hovorov, vy ste nasadzujúci subjekt a dodávateľ je poskytovateľ.

Náročné technické povinnosti, dokumentácia, riadenie rizík a posudzovanie zhody pri vysokorizikovom systéme tak patria poskytovateľovi. Vaše povinnosti ako nasadzujúceho subjektu sú prevádzkové: používať systém podľa pokynov, zabezpečiť zmysluplný ľudský dohľad, sledovať nevhodné správanie, hlásiť vážne problémy poskytovateľovi a uchovávať záznamy, ktoré ukážu, čo sa stalo.

Dve upozornenia. Roly nie sú nemenné. Vlastná značka na systéme, akoby ste ho vytvorili, alebo podstatná zmena jeho účelu vás môžu posunúť k povinnostiam poskytovateľa. Druhý, častejší problém: zmluva roly vôbec neuvádza. Žiadajte ich doplnenie. Dodávateľ, ktorý odmieta určiť poskytovateľa, vám tým dáva užitočnú informáciu.

Ako akt o AI dopĺňa vaše existujúce povinnosti podľa GDPR

Najčastejší omyl je predstava, že akt o AI nahrádza GDPR alebo že znalosť aktu automaticky vyrieši ochranu údajov. Nevyrieši. Oba predpisy odpovedajú na odlišné otázky a platia súčasne.

GDPR upravuje osobné údaje. Keď volajúci uvedie meno, číslo alebo dôvod hovoru, spracúvate osobné údaje a platia všetky existujúce povinnosti: právny základ, zber len potrebných údajov, určená lehota namiesto nekonečného uchovávania, funkčné vybavovanie žiadostí o vymazanie, záznamy o spracovateľských činnostiach a riadne riešenie prenosov mimo EÚ. Na tom nič nemení, že spracovanie robí model namiesto človeka. Podrobnosti nájdete v príručke GDPR a AI zákaznícka podpora.

Akt o AI upravuje systém. Skúma jeho účel a rizikovosť, existenciu dokumentácie, oznámenie komunikácie s AI a možnosť zmysluplného ľudského dohľadu a zásahu.

Môžete splniť jeden predpis a porušiť druhý, preto treba samostatné kontroly. Dokonalé oznámenie AI nepomôže, ak prepisy bez záruk putujú do tretej krajiny. Bezchybné uloženie v EÚ zase nevyrieši systém, ktorý potichu napodobňuje človeka. Pri prekrývaní, ku ktorému pri zvuku a prepisoch dochádza neustále, najprv riešte ochranu údajov. Je zrelšia, regulátori jej lepšie rozumejú a skôr sa stane predmetom sťažnosti zákazníka.

Praktický kontrolný zoznam: povinnosť, význam a zodpovedná osoba

Nasledujúca tabuľka je praktickým zhrnutím uvedeného. Predpokladá bežný prípad: malú či strednú firmu poskytujúcu služby v EÚ, ktorá používa zákazníckeho asistenta od dodávateľa na rezervácie a bežné otázky.

Oblasť povinností	Čo to znamená v praxi	Kto zvyčajne zodpovedá
Zoznam AI systémov	Jednostranový zoznam používaných AI systémov: čo každý robí, kto ho dodáva a s akými údajmi pracuje. Pri každej zmene ho skontrolujte.	Vy
Dokumentácia systému a návod na použitie	Opis zamýšľaného účelu, schopností, známych obmedzení a správnych prevádzkových podmienok od poskytovateľa. Majte kópiu, nestačí uistenie, že existuje.	Dodávateľ vytvorí, vy uchováte
Riziková klasifikácia použitia	Písomný opis účelu asistenta a posúdenie príslušnej rizikovej kategórie. Pri každom rozšírení rozsahu ho prehodnoťte.	Spoločná zodpovednosť, rozhodujete vy
Oznámenie komunikácie s AI	Zrozumiteľná veta na začiatku každého rozhovoru, ktorá človeku oznámi, že komunikuje s automatizovaným asistentom.	Vy určíte, dodávateľ zavedie
Ľudský dohľad a odovzdanie človeku	Konkrétna zodpovedná osoba, jasný zoznam situácií na odovzdanie hovoru človeku a postup, ktorý funguje počas pracovných hodín aj mimo nich.	Vy
Znalosti personálu (AI gramotnosť)	Každý, kto systém používa alebo kontroluje, rozumie jeho rozsahu, spôsobom zlyhania a prevzatiu človekom. Poučte ho a pri zmene systému znalosti obnovte.	Vy, s podkladmi od dodávateľa
Zaznamenávanie a uchovávanie záznamov	Záznamy dostatočné na rekonštrukciu konania systému a jeho dôvodov, uchovávané počas stanovenej lehoty, nie dlhšie.	Dodávateľ poskytne, vy určíte uchovávanie
Právny základ, minimalizácia a vymazanie (GDPR)	Vaše existujúce povinnosti ochrany údajov uplatnené na zvuk, prepisy a všetky CRM záznamy vytvorené asistentom.	Vy ako prevádzkovateľ osobných údajov
Miesto uloženia a prenosy údajov	Zistite, v ktorej krajine sa skutočne nachádza zvuk, prepisy aj spracovanie modelom vrátane každého ďalšieho sprostredkovateľa v reťazci.	Dodávateľ oznámi, vy overíte
Monitorovanie a hlásenie incidentov	Pravidelná kontrola vzorky interakcií a postup na rýchle hlásenie závažných porúch poskytovateľovi.	Spoločná zodpovednosť

Nič z toho nevyžaduje oddelenie súladu s predpismi. Na prvé posúdenie väčšinou stačí jeden dokument a jeden otvorený rozhovor s dodávateľom. Problémom nebýva náročnosť, ale chýbajúca zodpovedná osoba.

Na čo sa pýtať dodávateľa pred podpisom

Súlad s predpismi sa najľahšie posudzuje pred zaplatením. Tieto otázky sa oplatí položiť písomne. Zároveň ukážu, či je dodávateľ seriózny prevádzkovateľ alebo iba predajca s ukážkou.

Akú rolu má každá strana a je uvedená v zmluve?

Pýtajte sa priamo, či sa dodávateľ považuje za poskytovateľa AI systému a vás za nasadzujúci subjekt. Žiadajte, aby sa toto rozdelenie uviedlo v zmluve spolu s podmienkami spracúvania údajov. Nejasnosť tu nie je neutrálna. Riziko presúva na toho, koho možno najľahšie zastihnúť, teda na vás.

Môžem vidieť dokumentáciu, nielen jej zhrnutie?

Žiadajte zamýšľaný účel, prevádzkové podmienky a známe obmedzenia. Kapitola obmedzení je najvýpovednejšia časť dokumentácie dodávateľa. Dokument bez podstatných obmedzení opisuje produkt, ktorý nikto poctivo neotestoval.

Kto tvorí dodávateľský reťazec za vami?

Rozpoznávanie reči, jazykový model, telefónia, úložisko prepisov a analytická vrstva často zahŕňajú štyri rôzne spoločnosti. Potrebujete ich zoznam, pretože povinnosti ochrany údajov sledujú údaje, nie faktúru. Otázkam o údajoch z hovorov sa venuje článok o bezpečnosti AI hlasových agentov.

Ako v praxi funguje odovzdanie človeku?

Nechajte si predviesť živé prepojenie, zaznamenanie správy mimo pracovného času a hovor človeka, ktorý vysloví slovo sťažnosť. Dohľad musí byť súčasťou návrhu, nie iba vyhlásením v pravidlách. Ak je odovzdanie neobratné už v ukážke, o ôsmej večer bude horšie.

Čo sa stane, ak odídem?

Formát exportu prepisov a záznamov hovorov, lehota vymazania a písomné potvrdenie dokončeného vymazania. Pýtajte sa pred podpisom, pretože po ňom už nemáte vyjednávaciu páku.

Kde malé firmy robia chyby

Opakujú sa tri vzorce. Ani jeden nespočíva v nesprávnom čítaní nariadenia.

Súlad s predpismi len ako úloha pri spustení. Zoznam sa napíše týždeň pred ostrým štartom a už sa nemení. O šesť mesiacov má asistent tri nové schopnosti, druhú linku a prístup do systému pacientov, no dokument nič z toho neuvádza. Rozširovanie rozsahu je bežnou súčasťou života fungujúceho systému. Naplánujte štvrťročnú pätnásťminútovú kontrolu a stránku aktualizujte.

Predpoklad, že všetko rieši dodávateľ. Dodávatelia majú reálne povinnosti a dobrý vám dokumentáciu poskytne bez urgovania. Povinnosti nasadzujúceho subjektu však zostávajú vám: dohľad, správne používanie, oznámenie vlastnými slovami, rozhodnutia o uchovávaní a postavenie prevádzkovateľa podľa GDPR. Žiadna dodávateľská zmluva ich neprenesie.

Rozširovanie použitia len preto, že to nástroj dokáže. Pri klientoch na to upozorňujeme najčastejšie. Hlasový asistent, ktorý spoľahlivo rezervuje a presúva termíny, odpovedá na otázky o hodinách, ceste a službách a prijíma správy, je hodnotný systém s nízkym rizikom. Rovnaká technológia použitá na zdravotné triedenie, výber uchádzačov alebo vymáhanie dlhov je regulačne iná vec s výrazne vyššími nárokmi. Schopnosť nie je povolenie. Zámerne úzky rozsah je stratégiou súladu aj cestou k lepšiemu výkonu, ako vysvetľuje príručka o trénovaní AI hlasového agenta.

Poctivé zhrnutie: pre veľkú väčšinu poskytovateľov služieb v EÚ nie je akt o AI takou prekážkou, ako sa vykresľuje. Práce je málo, je prevažne administratívna a prekrýva sa s tým, čo už dobre riadená firma má mať: prehľad systémov, úprimnosť voči zákazníkom, konkrétneho zodpovedného človeka a písomné odpovede dodávateľov. Problémy majú firmy, ktoré nikdy nič z toho nezaznamenali.

Často kladené otázky

Vzťahuje sa akt EÚ o AI aj na malú firmu s desiatimi zamestnancami?

Akt vychádza z toho, čo AI systém robí a ako sa používa, nie z veľkosti firmy. Aj desaťčlenná klinika s AI hlasovým agentom na prijímanie hovorov patrí do jeho pôsobnosti ako nasadzujúci subjekt, hoci najnáročnejšie povinnosti majú poskytovatelia rizikovejších systémov. Malá firma s nízkorizikovým zákazníckym asistentom má v praxi krátky zoznam: oznámiť AI, používať systém podľa pokynov, viesť základný prehľad nasadených systémov a naďalej plniť GDPR. Akt zahŕňa aj podporu určenú menším organizáciám.

Musím volajúcim oznámiť, že hovoria s AI?

V zásade áno. Prehľad regulačného rámca Európskej komisie uvádza, že ľudia majú vedieť o komunikácii so strojom, aby sa mohli informovane rozhodnúť. Pri telefóne je riešenie jednoduché: oznámte to zrozumiteľne v úvodnej vete pred zberom údajov. Stačí krátke oznámenie, že volajúci hovorí s automatizovaným asistentom ambulancie. Skrytie v pravidlách ochrany súkromia nestačí.

Som poskytovateľom alebo nasadzujúcim subjektom AI systému?

Ak kupujete alebo odoberáte AI systém, ktorý niekto iný vytvára, udržiava a uvádza na trh, a používate ho pod vlastnou právomocou pre svoju firmu, takmer vždy ste nasadzujúcim subjektom. Dodávateľ je poskytovateľom. Roly majú odlišné povinnosti, preto na rozlíšení záleží. Nie je však nemenné. Ak systém označíte za vlastný alebo zásadne zmeníte jeho účel, môžete prevziať povinnosti poskytovateľa. Rolu nechajte zapísať do zmluvy, nespoliehajte sa na predpoklad.

Nahrádza akt o AI GDPR?

Nie. Platia súbežne a riešia odlišné otázky. GDPR upravuje osobné údaje v systéme: právny základ, minimalizáciu, uchovávanie, právo na vymazanie, záznamy o spracúvaní a prenosy mimo EÚ. Akt o AI upravuje samotný systém: rizikovosť účelu, dokumentáciu, oznámenie komunikácie s AI a zmysluplný ľudský dohľad. Nasadenie môže splniť jeden predpis a porušiť druhý, preto treba preveriť oboje.

Na čo sa pýtať dodávateľa AI pred podpisom zmluvy?

Písomne si vyjasnite rolu každej strany podľa aktu o AI. Vyžiadajte si dokumentáciu systému a návod na použitie, zoznam ďalších sprostredkovateľov a poskytovateľov modelov, miesto uloženia zvuku a prepisov, lehoty uchovávania aj informáciu, či sa vaše údaje používajú na trénovanie modelov dodávateľa alebo tretích strán. Pýtajte sa na odovzdanie človeku aj export a vymazanie údajov pri odchode. Dodávateľ, ktorý nevie odpovedať písomne, nie je pripravený na regulovaný trh.

Čo ak moja AI recepčná poskytne nesprávne informácie?

Nariadenie vás nezbavuje bežnej zodpovednosti voči zákazníkom. Preto je ľudský dohľad skutočnou povinnosťou, nie formalitou. Navrhnite ho: udržte asistenta v úzkom vymedzenom rozsahu, pri jeho prekročení odovzdajte rozhovor človeku, zaznamenajte každú interakciu na rekonštrukciu chýb a pravidelne kontrolujte vzorku prepisov. Asistent, ktorý prizná nevedomosť a prepojí hovor, je bezpečnejší než ten, ktorý improvizuje.