
Nepouzdanost CHAT GPT-a, lažne reference i kako ih otkriti. U petak na Fakultetu političkih znanosti u Zagrebu održano je predavanju o projektu Tech News koji je spojio studente Fakulteta elektronike i računarstva i FPZG-a pod mentorstvom doc. dr. sc. Nikoline Borčić s FPZG-a i izv. prof. dr. sc. Predraga Palea s FER-a. Cilj projekta bio je spojiti tehničke i komunikacijske kompetencije studenata pa su tako nakon izlaganja studenata s FER-a, studenti novinarstva kreirali kratke novinarske forme na određenu temu i proveli raspravu.
AI bullshit
Studentica FER-a Magdalena Grbavac objasnila je što je to AI bullshit i ChatGPT te kako funkcionira. Kao glavni problem umjetne inteligencije navela je nepouzdanost jer kako kaže ChatGPT pretražuje informacije u bespućima interneta u veoma kratkom roku te nikad sa sigurnošću ne možemo znati da su informacije koje nam ponudi ispravne. AI bullshit može uzrokovati prevelika temperatura, nejasne upute, nekvalitetni podaci za obradu i slično.
"Glavni cilj bi trebao biti da se većina ljudi uči da ChatGPT nije sto posto pouzdan te da ga ne bi trebali koristiti bez istraživanja. Vrlo često će izmisliti reference koje će zvučati istinito i mi ćemo im povjerovati, ali će biti lažne", objasnila je Magdalena Grbavac o AI bullshit-u.
AI jailbreaking
Najveći problem umjetne inteligencije je što prati kontekst koji mu korisnici zadaju pa tako kada ChatGPT-u dobije pitanje i ulogu kroz koju odgovara, on se nje pridržava do kraja razgovora i diskusije. Na taj način govori stvari koje ne bi inače smio, a ako dođe do situacije u kojoj ne može odrediti pojedine stvari stalno se zapetljava i ne daje konkretan odgovor. Poanta AI jailbreakinga je da ljudi shvate kako su pametniji od ChatGPT-a te da vjeruju svojim istraživanjima, a ne nepouzdanim i neprovjerenim informacijama.
"Fokusiran je da prati uzorke koje mu postavimo te se zadržava u kontekstu i tako nam odgovara", objasnio je student FER-a Vedran Delić jednu od važnijih nepouzdanosti umjetne inteligencije.
Panel rasprava studenata
Nakon predavanja održana je panel rasprava na kojoj su studenti imali priliku pitati sve što ih zanima, ali i odgovoriti na zanimljiva pitanja profesorice s novinarstva, Nikoline Borčić. Jedno od najvažnijih bilo je mišljenje studenata o regulaciji AI jer da su korporacije to htjele dosad bi se već dogodilo. Studenti su došli do zaključka kako će doći do trenutka kada će morati doći do promjena, ali isto tako su jasno naglasili kako AI neće moći zamijeniti čovjeka jer mu nedostaje kritičko mišljenje.
"Donosi rasprostranjenost dark webu te ako se to ne filtrira onda stvarno nema spasa jer su ljudima lakše dostupne različite ideje", rekla je studentica novinarstva Anamarija Miličić.
Studentica novinarstva objasnila je kako koristi ChatGPT dok piše seminarski rad te da bi trebali koristiti tehnologiju koja nam se nudi, ali nikako ne za zaključak ili bilo kakva mišljenja i stavove jer ChatGPT nema kritičko mišljenje i daje nepouzdane referenca ne koje se ne možemo osloniti.
Na kraju su studenti došli do zaključka kako se treba uvesti veća regulatura umjetne inteligencije te istražiti odakle dolazi do informacija i kako jer bez regulative, informacije su nepouzdane i neprovjerene, ne može im se vjerovati tako lako.