Generativna umetna inteligenca ogroža pravice potrošnikov in briše meje med resnično in umetno vsebino

20. junij 2023

V zadnjih nekaj mesecih je prišlo do bliskovitega porasta ponudbe storitev, ki jih poganja t.i. generativna umetna inteligenca. Ob vseh prednostih, ki jih lahko prinašajo za potrošnika, se vse bolj zavedamo tudi negativnih posledic.

Dodaj vsebino med priljubljene

Za dodajanje vsebine med priljubljene potrebujete uporabniški profil. Brezplačna registracija

Soočamo se namreč s kršenjem zasebnosti in osebne integritete ter z ustvarjanjem goljufij in dezinformacij. Potrošniške organizacije v EU in ZDA zato pozivajo, da morajo biti pravice potrošnikov v središču tako njenega razvoja kot tudi izvajanja.

Zavedati se moramo, da generativna umetna inteligenca lahko razširja popolnoma ponarejene vsebine, kar lahko vodi do krize zaupanja, saj ljudje ne bodo mogli vedeti, ali je slika, besedilo, zvok ali video resničen ali sintetičen.

Uporaba generativne umetne inteligence (AI) vzbuja resne pomisleke glede pravic in varnosti potrošnikov, saj ustvarja izzive, povezane z zasebnostjo in osebno integriteto, prevarami, dezinformacijami  in podobno. Ob tem se moramo zavedati tudi velike porabe energije in drugih virov ob uporabi ali ustvarjanju AI, kar ima resne posledice za podnebje in okolje.

Kdor nadzira tehnologijo lahko ustvarja odvisnost uporabnikov, določa pogoje uporabe in odloča o tem, kdo ima dostop

Potrošniške organizacije poudarjajo, da je potrebno zagotoviti, da sta razvoj in uporaba generativne umetne inteligence varna, zanesljiva in pravična. »Na žalost pa nam je zgodovina že pokazala, da ne moremo zaupati velikim tehnološkim podjetjem, da bi tovrstne stvari popravila sama«, pravi Find Myrstad, direktor digitalne politike pri Norveškem potrošniškem svetu, ki je o tem pripravil tudi posebno poročilo, ki ga lahko preberete tukaj.

Potrebujemo zakon o umetni inteligenci (AI), ki bo čim bolj učinkovit v smislu zaščite potrošnikov pred škodljivo uporabo te tehnologije.

»Institucije EU pozivamo, naj se uprejo močnemu lobiranju velikih tehnoloških podjetij, ki si prizadevajo da bi ublažili zaščito v nastajajočem zakonu,« pravi Ursula Pachl, namestnica generalnega direktorja Evropske potrošniške organizacije.

»V času, ko še čakamo na oblikovanje regulativ na področju umetne inteligence, je ključnega pomena, da se osredotočimo na ozaveščanje in opolnomočenje potrošnikov. Umetna inteligenca ima ogromen potencial, vendar morajo potrošniki prepoznati tudi nekatere pasti, predvsem v zvezi z njihovo zasebnostjo in varnostjo,« pravi Petra Lovišček z Zveze potrošnikov Slovenije.

Stvari lahko rešujemo le z roko v roki, a zato morajo imeti ustrezni organi pregona vsa potrebna sredstva in pristojnosti za spremljanje tehnološkega razvoja in za ukrepanje  proti podjetjem, ki uporabljajo generativno umetno inteligenco brez upoštevanja zakonodaje.

Potrošniške organizacije med drugim pozivamo k:

• okrepljeni zaščiti potrošnikov, saj bi tehnologija morala biti varna, zanesljiva in poštena, tako da bi bili potrošniki zaščiteni pred morebitnimi pastmi;
• vzpostavitvi splošne strategije pri uveljavljanju umetne inteligence, ki bi upoštevala najnovejša spoznanja in bi bila osredotočena na temeljne pravice ter ponujala stroge smernice za uporabo generativne umetne inteligence v javnem sektorju;
• ustreznim predpisom, ki bi tudi v prihodnosti urejali podrobnosti v primerih, ko obstoječi zakoni ne zadostujejo.

Nacionalni organi morajo ukrepati

Preteklo  bo več let, preden bomo dobili kakovosten mednarodni pravni okvir, ki bo bistvenega pomena za ustrezno zaščito potrošnikov. Na tem področju že danes lahko opažamo nekaj prizadevanj, ki naj bi stvari zapeljale v pravo smer. Tako se je, na primer, 14. junija Evropski parlament dogovoril o predlogu za ureditev razvoja in uporabe umetne inteligence, zakonu o umetni inteligenci (AI Act). Trenutno  potekajo pogajanja z Evropsko komisijo in Svetom.

Ta zakon bo pomembno vplival na razvoj in uporabo umetne inteligence. Vendar pa ljudje to tehnologijo že uporabljajo in škoda nastaja zdaj, v tem trenutku. Zato je pomembno, da nacionalni organi z odločnim ukrepanjem v času do sprejema evropske uredbe zapolnijo vrzel.

Tehnologija ne sme biti neobvladljiva sila

Tveganja generativne umetne inteligence za potrošnike so v omenjenem poročilu Norveškega potrošniškega sveta res dobro opredeljena. V času do pričetka uporabe zakonodaje EU o umetni inteligenci, morajo pristojni organi raziskati, kje lahko novi generativni izdelki in storitve, ki temeljijo na umetni inteligenci, škodujejo potrošnikom, in uveljaviti obstoječo zakonodajo o varstvu podatkov in varstvu potrošnikov.

Podjetja ne morejo biti oproščena upoštevanja obstoječih predpisov EU. Prav tako se potrošnikov ne sme manipulirati ali zavajati samo zato, ker je ta tehnologija nova.

Tehnologija ni in ne sme biti neka neobvladljiva sila, ampak jo je treba prilagoditi in oblikovati s temeljnimi pravicami, predpisi in družbenimi vrednotami. Če se tako odločimo, smo na tako imenovanem »voznikovem sedežu«. Zavedati se moramo, da se je mogoče s številnimi izzivi, s katerimi se soočamo, spopasti z zakoni, ki jih že imamo.