TIRK: AI može biti egzistencijalni rizik za čovečanstvo

Kako navodi Juronjuz, njegovi komentari delimično su se odnosili na saznanja objavljena u julu da su agenti kompanije OpenAI napustili navodno kontrolisana okruženja i dobili pristup serverima platforme Hugging Face, koju programeri širom sveta koriste za razmenu softvera zasnovanog na veštačkoj inteligenciji. OpenAI je kasnije saopštio da su njegovi agenti izvršavali kod na desetinama servera Hugging Face i dobili potpun pristup jednom od njih. Taj incident ponovo je pokrenuo zahteve za strožim nadzorom naprednih sistema veštačke inteligencije. Kompanije Antropik, Meta i druge tehnološke firme takođe su prijavile slične incidente sa AI agentima tokom testiranja. "Delim zabrinutost ljudi iz same industrije da bi napredna veštačka inteligencija mogla da predstavlja egzistencijalni rizik za čovečanstvo", rekao je Tirk i pozvao na sveobuhvatan napor da se uspostave čvrste garancije za bezbednost i sigurnost veštačke inteligencije, pre nego što bude prekasno. Visoki komesar UN za ljudska prava rekao je da će narednih dana uputiti pisma kompanijama koje razvijaju veštačku inteligenciju, pozivajući ih da odmah preduzmu mere kako bi smanjile rizike koji su pod njihovom kontrolom. Prema njegovim rečima, najmanje što je potrebno jeste da se zemlje u kojima se razvija veštačka inteligencija i države uključene u njene lance snabdevanja okupe oko zajednički dogovorenih crvenih linija. "Potrebna nam je nezavisna provera, kao i mnogo snažnija saradnja unutar industrije u oblasti bezbednosti", istakao je Tirk. U Evropskoj uniji Zakon o veštačkoj inteligenciji (AI Act) predstavlja pravni okvir za regulisanje ove tehnologije. Prema tom zakonu, sistemi koji predstavljaju visok rizik moraju da ispune stroge zahteve pre nego što mogu da budu plasirani na tržište EU, dok su načini upotrebe koji se smatraju neprihvatljivom pretnjom po bezbednost ili prava ljudi zabranjeni. Zakon zabranjuje veštačku inteligenciju namenjenu manipulisanju ili iskorišćavanju ljudi, njihovo ocenjivanje na osnovu ponašanja, predviđanje da li će pojedinac počiniti krivično delo, kao i neselektivno prikupljanje fotografija radi izrade baza podataka za prepoznavanje lica. Takođe su zabranjeni sistemi za prepoznavanje emocija na radnom mestu i u školama, pojedini oblici biometrijskog profilisanja, kao i većina oblika policijskog prepoznavanja lica u realnom vremenu na javnim mestima. Zabrana AI-generisanih seksualnih sadržaja napravljenih bez pristanka, kao i materijala seksualnog zlostavljanja dece generisanih veštačkom inteligencijom, stupa na snagu u decembru 2026. godine. Glas javnosti T02S