Už v roku 2010 publikoval americký New York Times článok oznamujúci počiatky testovania autonómnych vozidiel na cestách v Spojených štátoch, v ktorom autor poukázal na skutočnosť, že vozidlá bez šoférov už zďaleka nie sú fikciou.[1] Nie len nadšenie pre pokrok, ale aj rýchlo rastúci obchodný potenciál umelej inteligencie podnietili masívny prílev investícii do AI projektov v rôznych kútoch sveta. Spoločnosti ako Google, Facebook či Amazon spustili skutočné "preteky o AI", čo reflektuje nielen exponenciálne rastúci dopyt po kvalifikovaných výskumných pracovníkov, zriaďovanie nových laboratórií, ale aj zmeny v iných spoločenských oblastiach. Nie je to však len súkromný sektor, ktorý finančne podporuje túto oblasť vývoja. Ako potenciálne odvetvie výskumu označuje oblasť AI rovnako Európska Komisia, ktorá ku koncu minulého roka rozdelila celkom 66 mil. EUR na projekty v oblasti robotiky s cieľom digitalizácie Európskej únie.[2]

Právo a nové technológie

Pokiaľ sa chceme púšťať do úvah, ako by mal právny poriadok na tieto nové trendy reagovať, je nevyhnutné najprv identifikovať základné charakteristické znaky nových technológií. Rovnako by však bolo potrebné venovať pozornosť otázke, aké oblasti spoločenského života tieto technológie ovplyvnia, aké doposiaľ nezohľadnené problémy prináša nová technológia do popredia a aké aspekty ľudskej činnosti sa týmto problematizujú. Tak napríklad Európsky parlament vo svojom uznesení obsahujúcim odporúčania Komisii o občianskoprávnych pravidlách pre robotiku apeluje, aby sa rozvoj robotických technológií zameral na to, aby dopĺňal, a nie nahrádzal schopnosti človeka.[3]

Autonómne a inteligentné systémy

Čo vlastne znamená autonómny? Aký je teda rozdiel medzi automatizovanými a autonómnymi systémami? Stručne povedané, automatizovaný (ro)bot pracujúci v kontrolovanom prostredí môže vykonávať rutinné činnosti a dookola opakovať predpísaný postup, zatiaľ čo autonómny (ro)bot tiež dokáže plniť úlohy, ktoré má do istej miery „nacvičené“, ale môže tak robiť bez ľudskej interakcie s určitou mierou samostatnosti a nepredvídateľnosti. Autonómia týchto zariadení spočíva najmä v schopnosti analyzovať prostredie, samostatne konať, a prípadne sa aj učiť na základe spätnej väzby získanej z konkrétnych situácií. Autonómne systémy sú primárne vyvíjané s cieľom uľahčenia nášho života, zvýšenia efektivity práce a zabezpečenia väčšieho bezpečia.

Umelá inteligencia, čo všetko si pod ňou predstaviť? V súčasnosti neexistuje jednoznačná definícia umelej inteligencie. V prípade, kedy je autonómny systém schopný samostatného učenia, hlbšej analýzy a vymanenie sa spod kontroly výrobca či prevádzkovateľa, môžeme o takomto systéme hovoriť ako o nadanom umelou inteligenciou. V dnešnej dobe však možno prakticky hovoriť skôr o tzv. „strojovom učení“, tj. získavaní skúseností pomocou definovaných algoritmov. Iba pomocou strojového učenia však zatiaľ nemožno dosiahnuť skutočnej autonómie, resp. inteligencie.

Európsky parlament v spomínanom uznesení definuje autonómiu robota ako „schopnosť robiť rozhodnutia a uplatňovať ich voči okolitému svetu nezávisle na kontrole alebo vplyvu zvonka; ... autonómia je čisto technického charakteru a jej stupeň závisí na tom, ako bol robot konštruovaný“. Okrem toho ale ponúka tiež definičné znaky tzv. inteligentného (ro)bota spočívajúce v prepojenosti, schopnosti odovzdávať a analyzovať dáta, schopnosti samostatného učenia na základe skúseností a interakcie, aspoň menšie fyzické štruktúre, schopnosti prispôsobiť svoje konanie a svoju činnosť okolitému prostrediu a skutočnosti, že (ro)bot nie je v biologickom zmysle živý.[4]

Dôležitou otázkou, s ktorou sa právo bude musieť vysporiadať, je otázka právneho postavenia robotov vybavených AI technológiou, t.j. či by za istých okolností mohla existovať akási spôsobilosť robota byť nositeľom práv a povinnosti predvídaných právnym poriadkom, resp. či by robot mohol vlastnými (právnymi?) úkonmi nadobúdať práva a brať na seba povinnosti. To bude platiť najmä, ak AI bude schopná uvažovať a prejavovať vôľu, čo sú znaky typické pre človeka. Problematiku právneho statusu AI robotov reflektuje aj spomínané uznesenie Európskeho parlamentu, ktoré obsahuje, okrem iného, priamu výzvu Komisii, aby sa venovala vytvoreniu „špecifického právneho postavenia pre roboty v dlhodobom horizonte, aby sa aspoň tie najsofistikovanejšie autonómne roboty mohli považovať za elektronické osoby zodpovedné za náhradu akejkoľvek škody, ktorú môžu spôsobiť.“[5]

Je teda možné objektívne predpokladať, že pokiaľ úroveň vedy a techniky pokročí predvídaným spôsobom, bude potrebné vhodným doplnením právnych predpisov, prípadne všeobecne uznávaných štandardov, vyriešiť, okrem spomínanej otázky štatútu „elektronickej osoby“, niekoľko ďalších zásadných oblastí na účely zabezpečenia právnej istoty a predvídateľnosti v právnych vzťahoch.

Zodpovednosť, etika a ďalšie otázky spojené s AI

Jednou z najfrekventovanejších právnych polemík v prípade autonómnych systémov, robotov a AI je aj zodpovednosť za ich konanie. Táto špecifická eticko-právna téma však v Európskej únii zatiaľ nie je riešená komplexne. V prípade vzniku škody bude preto potrebné aplikovať národné občianskoprávne predpisy zdôrazňujúce najmä zodpovednosť prevádzkovateľa, resp. vlastníka veci.

V tejto súvislosti sa môže ísť o zodpovednosť za škodu spôsobenú vecou podľa ust. § 421a Občianskeho zákonníka (napr. keď pri plnení zmluvy použije jedna strana robota či iný spôsob aplikácie AI), zodpovednosť za škodu spôsobenú prevádzkou dopravného prostriedku podľa ust. § 427 a nasl. Občianskeho zákonníka (napr. v prípade škody spôsobenej prevádzkou autonómnych vozidiel a dronov), či zodpovednosťou za vady výrobku, pokiaľ škoda nastane v súvislosti s poruchou daného systému. Z pohľadu celkového trendu AI sa však nazdávame, že súčasná právna úprava zodpovednosti za škodu bude pre danú oblasť v budúcnosti nedostatočná. Hoci je v súčasnosti náročné predpokladať, ktorým smerom sa bude vývoj legislatívy upravujúcej zodpovednostné vzťahy AI uberať, je nepochybné, že zodpovednosť autonómnych systémov obsahujúcich AI bude musieť reflektovať najmä ich právne postavenie.

Odborná literatúra popisuje tiež veľké množstvo etických otázok súvisiacich s témou AI, a to najmä v rovine tzv. roboetiky (angl. roboethics) a v rovine etiky strojov (angl. machine ethics). V prvom prípade sa jedná o otázky, s ktorými sa stretávajú osoby navrhujúce, vyvíjajúce a prevádzkujúce inteligentné (ro)boty. V druhom prípade ide o oblasť zaoberajúcu sa situáciami, keď tieto inteligentné (ro)boty majú rozhodnúť o konkrétnom postupe a v rámci svojej obmedzenej rozhodovacej autonómie je robot nútený zohľadniť určitú etickú otázku.

V tejto súvislosti je však potrebné si uvedomiť, že etické rozhodovanie vo všeobecnosti neprináša absolútne správne alebo absolútne nesprávne riešenia daných situácii. Inými slovami, rozhodnutie, ktoré istá skupina ľudí považuje za správne, resp. v ich ponímaní etické, nemusí automaticky predstavovať správne (etické) rozhodnutie v očiach iných ľudí.

Finálne riešenie týchto, ale aj ďalších (nielen) etických dilem by podľa aktuálneho právneho stavu mohlo a malo zohľadňovať 7 kľúčových požiadaviek zakotvených len v nedávno vydanom dokumente expertnej skupiny, ktorú úlohou vytvorenia akýchsi všeobecných etických štandardov AI poverila Komisia. Cieľom Etických smerníc pre dôveryhodnú umelú inteligenciu, ako znie názov uvedeného dokumentu, však nie je len poskytnúť základný zoznam princípov a zásad pre umelú inteligenciu, ale skôr „ponúknuť usmernenia na ich konkrétne vykonávanie a zavádzanie týchto princípov do systémov umelej inteligencie“.[6] Hoci v uvedenom prípade ide len o prostriedok soft law, t.j. právne nezáväzný dokument, jeho relevantnosť, a to najmä v kontexte súčasnej legislatívnej „núdze“, netreba podceňovať. Navyše, Komisia rovnako plánuje už počas blížiaceho sa leta spustiť pilotný proces získavania spätnej väzby ohľadom praktickej aplikovateľnosti etických smerníc s cieľom ich následného zlepšenia, do ktorého sa možno registrovať tu. Rovnako tak bolo vytvorené a spustené verejné fórum, ktorého účelom je najmä výmena skúsenosti všetkých zainteresovaných strán ohľadom implementácie najvhodnejších postupov týkajúcich sa etických problémov AI, do ktorého sa možno zapojiť tu. Dôležité je však zdôrazniť, že prijatím etických smerníc legislatívne úsilie Komisie nekončí. Na základe získanej spätnej väzby, ako aj ďalších poznatkov vyplývajúcich z ich praktickej aplikovateľnosti Komisia sľubuje prijať ďalšie kroky už v roku 2020.

Okrem vyššie uvedeného predstavuje AI a najmä spomínané strojové učenie veľkú výzvu pre oblasť ochrany osobných údajov, súkromia a tiež autorských práv vrátane práv súvisiacich (najmä práv k databázam), pretože dáta možno považovať za základnú „potravu“ súčasného fungovania AI. AI logicky ovplyvní aj oblasť kybernetickej bezpečnosti, keďže tieto systémy môžu predstavovať nové zraniteľné miesta v prípadoch kybernetických útokov. Vyvstávajú však ďalšie, z pohľadu AI zatiaľ nevyriešené otázky, a to najmä otázky z oblasti duševného vlastníctva (napr. kto bude nositeľom autorských práv v prípade diel vytvorených inteligentnými robotmi), hospodárskej súťaže, či pracovného práva.

Záver

Hoci autonómne systémy prinášajú nepredstaviteľný potenciál významným spôsobom zlepšiť kvalitu života, zároveň sa spájajú, okrem vedecko-technických problémov, s množstvom pomerne komplexných spoločensko-právnych otázok. Z pohľadu de lege ferenda bude preto v záujme nastavenia vhodných a spoločnosťou akceptovateľných pravidiel koexistencie systémov AI a ľudstva nevyhnutné vykonávať priebežné vyhodnocovanie vývoja nových technológií a využívania AI v spoločnosti, podporovať verejné diskusie spoločenských otázok dotýkajúcich sa danej oblasti, ako aj aktívne participovať nielen v národných, ale najmä v medzinárodných fórach zameraných na formovanie pravidiel pre nové technologické obdobie AI. Pokrok je len veľmi ťažko zastaviteľný, a preto sa nepochybne už dnes možno tešiť na príchod AI budúcnosti, ktorej vánok začína byť čím ďalej citeľnejší, a to aj napriek (zatiaľ) nedostatočnej právnej úprave.





HAVEL & PARTNERS s.r.o., advokátska kancelária

Centrum Zuckermandel
Žižkova 7803/9
811 02  Bratislava

Tel.:    +421 232 113 900
Fax:    +421 232 113 901
e-mail:    office@havelpartners.sk

________________________________
[1] Markoff, J., "Google Cars Drive Themselves, in Traffic", The New York Times, říjen 2010. Dostupné na www, k dispozícii >>> tu.
[2] Commission awards €66.000.000 to new robotics and artificial intelligence projects | Digital Single Market. European Commission | Choose your language | Choisir une langue | Wählen Sie eine Sprache [online]. Dostupné na www, k dispozícii >>> tu.
[3] Uznesenie Európskeho parlamentu zo dňa 16. 2. 2017 obsahujúce odporúčania pre Komisiu k normám občianskeho práva v oblasti robotiky (2015/2103(INL)
[4] Uznesenie Európskeho parlamentu zo dňa 16. 2. 2017 obsahujúce odporúčania pre Komisiu k normám občianskeho práva v oblasti robotiky (2015/2103(INL)).
[5] Uznesenie Európskeho parlamentu zo dňa 16. 2. 2017 obsahujúce odporúčania pre Komisiu k normám občianskeho práva v oblasti robotiky (2015/2103(INL)), bod 59 písm. f).
[6] Etické smernice pre dôveryhodnú umelú inteligenciu. Dostupné na www, k dispozícii >>> tu.


© EPRAVO.SK – Zbierka zákonov, judikatúra, právo | www.epravo.sk