Umelá inteligencia sa stáva jednou z hlavných spoločenských tém.
Jej príchod mnohí označujú za udalosť pri najmenšom porovnateľnú s priemyselnou revolúciou. V súčasnosti sa stretávame s modelmi založenými na strojovom učení, ktoré sú umelej inteligencii v pravom zmysle slova stále vzdialené. Riziká sú však hmatateľné už teraz. Spotrebiteľom preto neostáva než sa pripraviť na frontálny útok na ich zmysly.
Pokiaľ v súčasnosti bujnie verejná debata o umelej inteligencii (AI z anglického artificial intelligence), spravidla sa týka vyspelých jazykových modelov (systémov) založených na tzv. strojovom učení. Systém nemá vlastné vedomie, ale na základe príkazov človeka pracuje s určitou databázou informácií. Tieto informácie na základe zadefinovaných algoritmov vyhodnocuje, prepája a doplňuje. Fáza učenia sa následne prejavuje v tom zmysle, že systém pracuje s určitou mierou pravdepodobnosti a sám rozpoznáva charakteristické vzorce medzi modelovými dopytmi a odpoveďami, ktoré programátor označí za uspokojivé. Túto „skúsenosť“ je systém schopný využiť pri ďalších zložitejších úlohách bez toho, aby bolo nutné jeho algoritmy ďalej ručne upravovať.
Celý rad príležitostí, ešte viac rizík
Umelá inteligencia sa v najbližšej dobe zrejme výrazne uplatní v celom rade profesií. Jej prínos bude zrejmý najprv pri riešení stereotypných kancelárskych úloh, v príprave odpovedí na stále sa opakujúce otázky, pri vyplňovaní formulárov, plánovaní, triedení dát či pri vytváraní jednoduchých textových útvarov. S umelou inteligenciou sa však spája tiež celý rad bezpečnostných rizík, ktoré sú navyše umocnené jej prudkým tempom vývoja. Na čo si však v súvislosti s umelou inteligenciou musí dať spotrebiteľ pozor?
Schopnosť efektívnejšieho zberu a triedenia dát bude dozaista lákavá pre spoločnosti, ktoré sa zaoberajú spracovaním osobných údajov a ich marketingového využitia. Umelá inteligencia sa tak môže stať schopným pomocníkom nových šmejdov, ktorí môžu získané informácie o spotrebiteľoch, ich histórii vyhľadávania na internete a aktivitu na sociálnych sieťach využiť manipulácii s cieľom ovplyvniť ich ekonomické správanie.
„Častejšie sa budeme stretávať s personalizovanými zľavovými a cenovými ponukami, s článkami a recenziami, ktoré nás budú utvrdzovať k nákupu výrobku, ktorý sme sa snažili vyhľadať na internete a podobne. Otázky ochrany osobných údajov, regulácia spracovania osobných údajov a ich vymáhateľnosť sa tak stávajú čím ďalej naliehavejšie. Personalizované ponuky navyše môžu zneprehľadniť ponuky na trhu a vo svojom dôsledku pôsobiť diskriminačne voči iným spotrebiteľom,“ vysvetľuje Eduarda Hekšová, riaditeľka spotrebiteľskej organizácie dTest.
Manipulácia však nemusí končiť len pri nakupovaní. Umelá inteligencia môže rovnako dobre triediť a vyhodnocovať širokú paletu verejne prejavovaných názorov. V ne správnych rukách sa preto môže stať efektívnym nástrojom k šíreniu dezinformácií a nepravdivých správ presne cielenému publiku.
„Pri pohľade na obrázky vygenerované umelou inteligenciou zobra zujúce pápeža Františka v páperovej bunde či dramatické zatýkanie Donalda Trumpa, ktoré sa nedávno objavili vo verejnom priestore, je možné dôvodne sa obávať napríklad podoby budúcich volebných kampaní. Z dôvodov enormného pokroku sa navyše môžeme onedlho dočkať nielen obrázkov ale i vygenerovaných videí, ktoré budú na nerozoznanie od skutočného záznamu,“ hovorí riaditeľka dTestu.
Pozor si budeme musieť dať tiež na bezpečnosť a pravidelné aktualizácie všetkých sieťových zariadení ako sú modemy, Wi-Fi routery, ale tiež mobilné telefóny a počítače. Hekeri s využitím vírusov s prvkami umelej inteligencie budú mať jednoduchšiu cestu k napadnutiu týchto zariadení phishingovými a inými útokmi, a k následnej krádeži dát či identity.
„Z možných rizík, ktoré umelá inteli gencia predstavuje, je zrejmé, že spotrebitelia budú nútení informácie náležite overovať z niekoľkých zdrojov a byť viac než kedy predtým obozretní pri poskytovaní osobných a citlivých údajov,“ dodáva Eduarda Hekšová zo spotrebiteľskej organizácie dTest.
Je možné umelú inteligenciu regulovať?
Z pohľadu regulácie AI predstavuje tiež nebývalú výzvu. Na niektoré aspekty spojené s rizikami, ktoré plynú z jej rozvoja, má na európskej úrovni odpovedať pripravovaný akt o umelej inteligencii. Ten má umelú inteligenciu predovšetkým definovať, roztriediť jednotlivé systémy založené na umelej inteligencii podľa toho, aké pre spoločnosť predstavujú riziko anastaviť základné pravidlá ich používania. Z návrhu aktu vyplýva, že niektoré vysoko rizikové systémy umelej inteligencie by mali byť úplne zakázané. Ide napríklad o systémy využívajúce podprahové vnímanie či takzvaný social-scoring, teda oceňovanie spotrebiteľov určitou hodnotou či skóre podľa ich vlastností a ekonomického či sociálneho správania. Návrh má ďalej zaviesť celý rad povinností pre poskytovateľov systémov umelej inteligencie súvisiacich s hodnotením ich rizík, transparentnosťou a informovaním spotrebiteľa. Povinnosti voči spotrebiteľovi môžu zahŕňať uvedenie informácie o tom, či a akým spôsobom je AI využívaná, napríklad k spracovaniu dát spotrebiteľa, pri kúpe tovaru a vytváraniu nadväzujúcich cielených ponúk.
„Popri týchto povinností sa ďalej ponúka celý rad opatrení, ktoré teoreticky riešia niektoré riziká spojené s používaním umelej inteligencie. Medzi také opatrenia môže patriť zákaz použitia podoby či hlasu reálnych osobností bez ich súhlasu, označenie každého obsahu generovaného umelou inteligenciou či povinnosť informovať spotrebiteľa o tom, že komunikuje s umelou inteligenciou a možnosť „odvolať sa“ v takom prípade k živej osobe. Väčšina týchto pravidiel však prichádza neskoro a vo svete globálneho otvoreného internetu sú navyše v podstate nevymáhateľné,“ opisuje Hekšová.
A aké odporúčania by spotrebiteľom k potlačeniu rizík súvisiacich s umelou inteligenciou dala sama AI? (Odpoveď získaná prostredníctvom ChatGPT Mar 23 Version.)
- Buďte obozretní pri poskytovaní svojich osobných dát. Premýšľajte o tom, čo poskytujete online a s kým. Sledujte, ako sú vaše osobné údaje používané a aké sú vaše možnosti ochrany súkromia.
- Využívajte spoľahlivé softvérové nástroje. Skontrolujte, či sú spoľahlivé a či vám poskytujú dostatočnú ochranu. Uistite sa, že vám nainštalovaný softvér neprináša viac škody ako úžitku.
- Sledujte, ako sa vývojári a spoločnosti správajú k etickým otázkam týkajúcim sa umelej inteligencie. Sledujte novinky v tejto oblasti, zúčastňujte sa diskusií a vzdelávajte sa. Čím viac budete rozumieť tejto technológii, tým lepšie budete schopní ju používať a minimalizovať pritom riziká spojené s jej využitím.
Odpoveď umelej inteligencie dopĺňame aj o brožúru Peniaze a (ne)bezpečný internet.
Pokiaľ spotrebitelia majú otázky k tejto téme, môžu sa obrátiť na bezplatnú spotrebiteľskú poradňu dTestu alebo telefonicky na číslo 299 149 009 (Česko).
Autorka: Lucie Korbeliusová, dTest.