Je to rok, čo Európska komisia uverejnila návrh nariadenia o umelej inteligencii.
Z hľadiska spotrebiteľov sa táto téma môže javiť ako relatívne odťažitá, opak je však pravdou. Spotrebitelia a ich inteligentné zariadenia vytvárajú obrovské množstvo dát, správanie prakticky každého z nás je rôznym spôsobom monitorované a vyhodnocované. A práve umelá inteligencia je ideálna pre spracovanie všetkých týchto údajov. dTest sa zameral na hlavné otázky, na ktoré by sa mal spotrebiteľ vopred opýtať, než začne používať zariadenie využívajúce prvky umelej inteligencie.
Používate chytrý mobilný telefón, počítač, uvažujete o chytrej domácnosti alebo takú domácnosť už máte? Jazdíte autom a chodíte po uliciach? Potom je dôležité vedieť, že počítačové programy spracovávajú údaje, ktoré vaše správanie vytvára, a to rôznym spôsobom a k rôznym účelom.
„S umelou inteligenciou je to ako s ohňom. Je to dobrý sluha, ale zlý pán,“ uvádza Eduarda Hekšová, riaditeľka spotrebiteľskej organizácie dTest, a dodáva: „Spotrebitelia si musia byť vedomí základných princípov umelej inteligencie a súčasných i budúcich pravidiel jej používania.“
Už v súčasnej dobe je spracovanie údajov fyzických osôb významne regulované, najmä všeobecným nariadením o spracovaní osobných údajov, ktoré je i u nás známe pod anglickou skratkou GDPR. Tieto pravidlá musí zachovávať i každý systém, ktorý sa sám učí a optimalizuje, teda systém využívajúci umelú inteligenciu. Tieto systémy nemôžu ľubovoľne spracovávať vaše osobné údaje, napríklad nemôžu bez právneho dôvodu sledovať vaše správanie na ulici a spájať toto správanie s inými dátami. Návrh nového nariadenia o umelej inteligencii ide však ďalej.
„Dôvodom pre pripravovanú európsku reguláciu umelej inteligencie je zachovanie základných práv a hodnôt Európskej únie, pri zachovaní konkurenčných výhod, ktoré rozvoj systémov užívajúcich umelú inteligenciu môžu spoločnosti prinášať,“ vysvetľuje Eduarda Hekšová, a pokračuje: „Niektoré praktiky, ako napríklad takzvaný ‚social scoring‘ známy z Číny, má byť chystaným nariadením jednoznačne zakázaný.“
A čo by vás ako spotrebiteľov malo pri výbere zariadenia alebo aplikácie z pohľadu rizík spojených s umelou inteligenciou zaujímať? Prvou otázkou, ktorú si musíte položiť, je, či zariadenie alebo aplikácie niekam po internete odovzdáva dáta. Druhou otázkou je, či vám vadí možnosť, že zariadenie alebo aplikácia za vás do väčšej alebo menšej miery môže rozhodovať. Pokiaľ vám to vadí, musíte si zistiť, či vám boli dostatočne, jasne a zrozumiteľne vysvetlené kritériá pre toto rozhodovanie a či s týmito kritériami súhlasíte.
„Je možné, že priemerný spotrebiteľ bude mať s hodnotením dopadov zariadenia a aplikácie užívajúcich nástroje umelej inteligencie ťažkosti,“ obáva sa Eduarda Hekšová a pokračuje: „To je však len špička ľadovca. Umelá inteligencia môže spracovávať a hodnotiť celý rad údajov, ktoré sa spotrebiteľov dotýkajú nepriamo. Predstavte si dajme tomu svoj životopis zaslaný veľkej korporácii. Je možné, že veľké množstvo žiadostí o prácu vyhodnotí program bez účasti človeka s použitím kritérií, ktoré sa tento program naučil používať. Budú tieto kritériá v súlade so zákonom? To nevieme.“
dTest spoločne s ostatnými európskymi spotrebiteľskými organizáciami usiluje o posilnenie práv spotrebiteľov vo vzťahu k umelej inteligencii.
„Snažíme sa nariadenie doplniť o popis ďalších zakázaných praktík, zaistiť transparentnosť a práva spotrebiteľov na obranu a odškodnenie v prípadoch, kedy bude umelá inteligencia používaná v rozpore s týmto nariadením,“ uvádza Eduarda Hekšová a uzatvára: „Nové technológie vyžadujú dôveru spotrebiteľov, nesmú napomáhať k dehumanizácii spoločnosti.“
Pokiaľ potrebujete poradiť ohľadom svojich práv pri užívaní chytrých zariadení, môžete sa obrátiť na bezplatnú spotrebiteľskú poradňu dTestu elektronicky na adrese Spotrebiteľská poradňa alebo telefonicky na čísle 299 149 009 (platí pre Česko).
Autor: dTest.