Generativna umetna inteligenca in manipulacije z njo: kaj je dobro vedeti?

20. junij 2023

Generativni AI-modeli za ustvarjanje novih vsebin izrabljajo velike količine podatkov, na podlagi katerih prepoznavajo posamezne vzorce in strukture. To so lahko besedila, slike, zvočni ali video posnetki, ki so lahko podobni vsebini, ki jo ustvarja človek.

Dodaj vsebino med priljubljene

Za dodajanje vsebine med priljubljene potrebujete uporabniški profil. Brezplačna registracija

ChatGPT, Midjourney, Stable Diffusion in DALL-E so med najbolj znanimi storitvami generativne AI. Podjetja, kot so Microsoft, Google in Snapchat, so tehnologijo že vključila v svoje storitve, vključno z iskalniki, obdelavo besedil in klepetom.

Generativna umetna inteligenca se ne zaveda same sebe in se ne more "naučiti" novih veščin sama, lahko pa simulira nekatere stvari, ki jih ljudje lahko počnejo z uporabo strojnega učenja.

Kaj morate vedeti o manipulaciji generativne umetne inteligence?

Preverite devet konkretnih primerov:

1. Kako razločiti umetno vsebino od resnične? Generativni modeli umetne inteligence imajo zmožnost ustvarjanja sintetične vsebine, ki je zelo podobna resnični vsebini, vključno z dialogi, glasovi, fotografijami in videoposnetki.
2. Generativna AI vpliva na ljudi. Študije so pokazale, da lahko generatorji besedil, ki simulirajo človeški dialog, vplivajo na čustva, razpoloženja in mnenja ljudi.
3. Močnejši kot je generativni model AI, večja je možnost manipulacije. Gre za kompleksne sisteme, ki imajo v ozadju ogromne količine materiala, in zato lahko dajejo vtis nezmotljivosti. Modeli ustvarjajo vsebine, ki so videti prepričljive in pravilne, a so dejansko napačne. To še posebej velja za generatorje besedila. ChatGPT, denimo, lahko ustvari besedilo, ki je videti zelo prepričljivo in temelji na dejstvih, vendar vsebuje dejanske napake ali zmote.
4. Generativni AI se lahko pripišejo človeške lastnosti. Ljudje živalim ali predmetom radi pripisujemo človeške lastnosti in sposobnosti, ko ti kažejo znake človečnosti, kot so obrazna mimika, vedenjski vzorci ali navidezne osebnostne lastnosti. Enako se zgodi tudi pri interakciji z generativnimi modeli umetne inteligence, zlasti z generatorji besedil.
5. Generativna AI je prihodnost spletne vsebine. Poročilo Europola iz leta 2022 ocenjuje, da bo do leta 2026 približno 90 % spletne vsebine lahko ustvarjene z umetno inteligenco.
6. Internet nima varovalk proti zlorabam. Tudi če vsebina prvotno ni bila ustvarjena za širjenje dezinformacij, je narava interneta takšna, da se pri deljenju vsebine na različnih platformah hitro izgubi kontekst in se zabriše odgovornost tistega, ki jo je ustvaril.
7. Komu ali čemu bomo sploh še lahko zaupali? Ker se umetno ustvarjena vsebina lahko širi brez omejitev, lahko to pomeni dvom tudi v primerih, ko je vsebina resnična. Na primer, če žvižgač razkrije informacije, ki razkrivajo korupcijo, lahko obtoženi posameznik ali institucija verodostojno trdi, da je razkrito gradivo lažno.
8. Globoki ponaredki so lahko uničujoči. Podkategorija t.i. »globokih ponaredkov« (deepfake), ki lahko vsebuje še posebej uničujoč učinek na žrtve, je »deepfake« pornografija. Glede na študijo podjetja Sensity je 96 % deepfake slik spolno eksplicitnih slik žensk, ki niso privolile v ustvarjanje slik.
9. Ne smemo zanemariti okoljskega vidika: da bi obravnavali pomemben vpliv generativne umetne inteligence na okolje, bi morala podjetja razkriti, koliko energije porabijo, kako je pridobljena in še posebej, koliko ogljika model AI odda v celotnem življenjskem ciklu, vključno z usposabljanjem, razvojem, uvajanjem in uporabo.