SADRŽAJ:
- Etika i umjetna inteligencija
- Primjeri AI predrasude
- Što su AI halucinacije?
- Što je AI pretreniranje (overfitting)?
- Što je deepfake?
- Kako AI uzrokuje dezinformacije?
- AI i sigurnost
Nakon lansiranja ChatGPT chatbota u studenom 2022. godine, umjetna inteligencija je postala fokus i tehnološka prekretnica na globalnoj sceni.
S brzim razvojem novih AI modela, korištenje umjetne inteligencije postaje svakodnevica u sve više industrija.
Široka primjena i utrka u razvoji i implementaciji AI tehnologije, ostavila je malo prostora za diskusiju izazova s kojima se trenutačni modeli suočavaju.
U ovom blogu ćemo istražiti trenutačne glavne probleme AI modela i tehnologije.
Etika i umjetna inteligencija
Etička AI pitanja postaju sve važnija i češća tema rasprave, najviše zbog problema koji proizlaze iz neregulirane upotrebe i implementacije.
Globalni stručnjaci su identificirali brojna etička pitanja te upozoravaju na potencijalnu štetu i društvene probleme koje AI može izazvati.
Najčešća AI etička pitanja su vezana za sljedeća područja:
Gubitak radnih mjesta
Brza i neregulirana zamjena radnika umjetnom inteligencijom može dovesti do značajnog gubitka radnih mjesta i drugih nepredviđenih posljedica.
Predrasude i diskriminacija
AI modeli nasljeđuju predrasude koje su zastupljene u podacima na kojima su trenirani, što potencijalno dovodi do diskriminacije.
Transparentnost i nedostatak informiranog pristanka
Do problema dolazi zbog toga što se ne prijavljuje korištenje AI tehnologije u proizvodima i uslugama, te zbog netransparentnog načina na koji se AI koristi.
Iskorištavanje intelektualnog vlasništva
Nepregledne količine digitalnih slika i teksta su korišteni za treniranje velikih jezičnih modela (LLM), pri čemu su umjetnici i dizajneri najvokalniji zbog korištenja njihovih djela bez dopuštenja.
Etička revizija
Trenutačno ne postaje univerzalno prihvaćeni standardi za reviziju AI sustava, što otežava proces identifikacije i ispravljanja etičkih problema.
Točnost i preciznost
AI generirani sadržaj u potpunosti ovisi o kvaliteti podataka na kojima je treniran. S obzirom na to da nije moguće provjeriti cjelokupne podatke i jamčiti njihovu kvalitetu, točnost generiranih odgovora je upitna.
Odgovornost
Teško je definirati odgovornost i posljedice za slučajeve gdje je AI samostalno donio odluku koja je prouzročila nesreću ili štetu.
Sigurnost
Slabe sigurnosne mjere, nedostatak transparentnosti i mogućnost manipulacije AI chatbota kako bi otkrio osjetljive informacije predstavlja ozbiljne sigurnosne prijetnje za organizacije i vlade.
Upotreba u znanstvenom sektoru
Čuli smo da AI može pomoći dijagnosticirati rak, ali neregulirana AI upotreba može imati ozbiljne zdravstvene posljedice.
Upotreba u pravu
Osim toga što je AI generirani sadržaj sporno pitanje u sudnicama, već se postavlja pitanje njegovog korištenja od strane pravnih stručnjaka koje može zakomplicirati sudske procese.
Vojna upotreba i autonomna oružja
Upotreba AI modela za vojne svrhe predstavlja značajan izvor etičke zabrinutosti, od stvaranja neravnoteže moći svjetskih sila do katastrofalnih posljedica izazvanim softverskim pogreškama.
Primjeri AI predrasude
Predrasude su odavno izazov u istraživanju, znanosti i širem društvu.
S obzirom na to da se sustavi umjetne inteligencije treniraju na podacima koje su kreirali ljudi, često nasljeđujući predrasude koje iskrivljuju generirani tekst i slike.
Tijekom posljednjih deset godine, bilo je mnogo takvih primjera, ali ćemo navesti samo nekoliko.
Amazonov algoritam za zapošljavanje je kažnjavao životopise ženskih kandidata, time dalje smanjujući broj žena u tehničkim zanimanjima. Zbog toga je Amazon modificirao algoritam te su ga u potpunosti prestali koristiti u 2017.
Algoritmi korišteni za odobravanje stambenih kredita su pogrešno identificirali rasu kao važan faktor za odobravanje, te su nepravedno diskriminirali protiv osoba koje nisu bijelci.
Takve AI predrasude mogu spriječiti pojedince i pojedine skupine ljudi u mogućnosti zapošljavanja i dobivanja kredita, time značajno utječući na njihove živote.
Što su AI halucinacije?
AI halucinacija je fenomen gdje AI model pogrešno identificira uzorak ili objekt, generirajući besmislen ili netočan odgovor.
Jednostavnije, chatbot ili računalni vid halucinira odgovor, izmišljajući činjenice ili slike koje korisnici mogu greškom prihvatiti kao činjenicu.
Što je AI pretreniranje (overfitting)?
AI pretreniranje je fenomen kada algoritam generira tekst ili sliku koja je preblizu ili identična podacima na kojima je model treniran.
Kada AI modeli pamte određene podatke iz seta za treniranje i u osnovi ih reproduciraju, to podiže pitanje privatnosti, sigurnosti i kršenja autorskih prava.
Što je deepfake?
Deepfake su digitalno manipulirane slike, videa i audio snimke kako bi oponašale izgled i glas stvarnih ili izmišljenih osoba.
Lako stvaranje točnih prikaza političara, slavnih osoba i običnih pojedinaca, toliko je opasna da su deepfakeovi označeni kao globalna sigurnosna prijetnja od strane SAD-a i drugih država.
Kako AI uzrokuje dezinformacije?
AI može dezinformirati korisnike zbog loše kvalitete podatka na kojima je treniran, kroz halucinacije i deepfakeove.
Još više zabrinjavajuće je činjenica da internetski trolovi, prevaranti i različite organizacije mogu koristiti AI za brže i jednostavnije širenje dezinformacija.
AI i sigurnost
Sve prethodno navedeno nas vodi prema problemu sigurnosti.
Već su zabilježeni incidenti gdje je manipulacijom Nvidia AI softver otkrio povjerljive podatke, a ChatGPT je otkrio osobne podatke zabilježene u podacima za treniranje.
Mogućnost manipulacije trenutnih AI modela koje omogućuju pristup osjetljivim informacijama postavlja pitanje – koliko su naši podaci sigurni s obzirom na tvrtke i vlade koje koriste AI?
Rasprava o AI problemima, zabrinutostima i etičkim pitanjima postat će sve češća kako tehnologija brzo napreduje.
Nadamo se da ćemo pronaći etičniji pristup razvoju AI-a, kontinuirano poboljšavajući modele koji imaju neograničen potencijal za dobro, ako se pravilno koriste.