9 tveganj pri uporabi AI-ja, ki jih podjetja pogosto spregledajo

1. Prikrita izguba poslovne skrivnosti

Zakon o poslovni skrivnosti (ZPOSM) varuje poslovno skrivnost le, če jo podjetje varuje z razumnimi ukrepi. Ko zaposleni zaupne podatke vnašajo v brezplačne jezikovne modele, podjetje pozneje težko dokaže, da je skrivnost ustrezno varovalo. V pravilniku zato jasno določite, kateri podatki ne smejo v javna orodja, in zaposlenim ponudite varno poslovno alternativo.

2. Vsebine brez avtorske zaščite

Zakon o avtorski in sorodnih pravicah (ZASP) varuje individualne intelektualne stvaritve človeka. Vsebina, ki jo je v celoti ustvarila AI, zato morda sploh ni avtorsko delo, in drugim ne morete preprečiti, da jo uporabijo. Pri logotipih, kampanjah in drugih ključnih vsebinah poskrbite za izrazit človeški prispevek in ga dokumentirajte.

3. Odgovornost preide na vas

Akt o umetni inteligenci obveznosti deli med ponudnike in uvajalce sistemov AI. Če visokotvegani sistem bistveno spremenite, mu spremenite namen ali ga ponudite pod svojim imenom, lahko po 25. členu sami postanete ponudnik, z vsemi obveznostmi, ki to prinaša. Meja med manjšo in bistveno spremembo v praksi ni vedno očitna, zato vlogo podjetja preverite, preden orodje prilagodite ali ga vgradite v svoj izdelek.

4. Neoznačene AI vsebine in globe

Akt o umetni inteligenci v 50. členu ne zahteva oznake za vsako vsebino, ustvarjeno z AI. Posebne zahteve veljajo med drugim za globoke ponaredke in nekatera besedila, namenjena obveščanju javnosti o zadevah javnega interesa. Globe za kršitve v Sloveniji ureja izvedbeni zakon ZIUDHPUI. Določite, kdo v marketingu presodi, katere vsebine je treba označiti, in to zapišite v postopek objave.

5. Osebni podatki v tretjih državah

Ko AI orodje osebne podatke obdeluje na strežnikih zunaj EU, gre za prenos v tretjo državo. GDPR in ZVOP-2 zanj zahtevata ustrezno podlago, na primer sklep o ustreznosti ali standardne pogodbene klavzule, poleg tega pa pogodbo z obdelovalcem. Preverite, kje vaši dobavitelji hranijo podatke, in kjer je mogoče, izberite obdelavo v EU.

6. Prikrita pristranskost pri kadrovanju

AI modeli so večinoma naučeni na tujih podatkih, zato lahko slabše razumejo slovenske izobrazbene nazive, poklicne poti ali jezik. Posledica so krivične ocene kandidatov in zaposlenih, ki jih nihče ne opazi. Sistemi AI za zaposlovanje so po Aktu o umetni inteligenci visokotvegani, zato rezultate redno preverjajte in končno odločitev vedno prepustite človeku.

7. Manjkajoči sistemski dnevniki

Uvajalci visokotveganih sistemov AI morajo samodejno ustvarjene dnevnike (logs), ki so pod njihovim nadzorom, hraniti najmanj šest mesecev. Ob pritožbi ali pregledu nadzornega organa so ti zapisi pogosto edini dokaz, kako je sistem deloval. Že pred nakupom preverite, ali orodje dnevnike sploh beleži, kje se hranijo in kako jih izvozite.

8. Pasivni odpor v ekipi

Ko vodstvo ne pove, zakaj uvaja AI in kaj to pomeni za ljudi, si zaposleni odgovor izmislijo sami, običajno najslabšega. Motivacija pade, orodja ostanejo neuporabljena, najboljši pa začnejo iskati drugo službo. Jasna vizija, ki pove, kaj se spremeni, kaj ostane in kako bodo ljudje pri tem podprti, je zato del obvladovanja tveganj.

9. Zavarovanje, ki ne krije škode

Police za zavarovanje poslovne odgovornosti so pogosto nastale pred dobo AI in škode zaradi napačne AI odločitve ne omenjajo ali je celo izključujejo. Če to ugotovite šele ob odškodninskem zahtevku, je prepozno. Z zavarovalnim posrednikom ali zavarovalnico preverite, ali polica krije tudi uporabo AI, in pogoje po potrebi dopolnite.

Od skritih tveganj do načrta

Večino teh tveganj odkrijete z nekaj preprostimi vprašanji: kaj zaposleni vnašajo v orodja, kje se podatki hranijo ter kaj piše v pogodbah in zavarovalni polici. Ta mesec skličite en sestanek z upravo, IT, pravnikom in kadrovsko službo, pojdite skozi teh devet točk in za vsako določite odgovorno osebo in rok.

Za izhodišče sestanka preverite, ali je vaše podjetje pripravljeno na AI.