Direktori vodećih hrvatskih IT firmi o razvoju umjetne inteligencije ^Istaknuto

Italija je prva država koja je zabranila korištenje ChatGPT modela zbog zabrinutosti oko privatnosti. I druge su zemlje o tome razmišljale, ali se čini da će i Italija popustiti u svojoj originalnoj zabrani. Baš kao što je i s drugim inovacijama - jednom kada je mačka puštena iz torbe, teško može nazad.

Treba razmišljati o potencijalnim problemima, od kojih je gorući onaj koji se odnosi na autorska prava s obzirom da jezični modeli koriste ogromne baze podataka, a drugi je onaj koji je navela Italija i odnosi se na zaštitu privatnosti.

Osim onih fundamentalnih izazova oko kršenja zakona ili nezakonitog korištenja gotovih sadržaja na webu, otvara se cijela gomila novih izazova. Ako ste HR manager, kako znate da je kandidat sam napisao zamolbu i životopis? Jesu li developeri rješavali prijemni zadatak za posao sami ili uz pomoć generativnih modela? Što je sa školama i fakultetima? Kako prepoznati uratke koje je student sam proizveo, a kako djelo umjetne inteligencije?

Nedavno je njemački umjetnik Boris Eldagasen na Sony World Photography natjecanju dobio nagradu i potom otkrio kako je nagrađenu fotografiju dobio uz pomoć AI-ja, te dodao kako je to napravio upravo da provjeri jesu li takvi natječaji spremni za prepoznavanje autentičnih slika i odgovor je ne.

Trebamo li se bojati razvoja AI-ja?

Ako se pita Elona Muska, koji je bio dio OpenAI-ja koji razvija ChatGPT, da. Elon je čak pozivao i na privremenu zabranu razvoja sličnih modela dok se ne reguliraju njihovo korištenje i alati za ograničavanje. Istovremeno su se pojavile glasine da on u tajnosti razvija novi model.

Ključno pitanje je kako predvidjeti razvoj tehnologije koja se razvija gotovo eksponencijalno. Osim što možemo razmišljati o tome da će umjesto autora ovaj tekst za par godina pisati AI model, a čitat ćete ga na mobilnoj aplikaciji koju je u par sekundi kreirala umjetna inteligencija, one duboke društvene promjene teško je predvidjeti jer će se otvoriti cijeli novi svijet primjena i promjena.

Da, neki developeri, novinari i ilustratori bi mogli izgubiti posao, ali će istovremeno porasti potražnja za kvalitetnim kreatorima promptova, odnosno uputa za generativne modele. Kao što smo vidjeli na primjerima, ChatGPT i u verziji četiri, koja je moćna, često navodi krive podatke, dok fenomenalni Midjourney ima velikih problema s prikazom prstiju na rukama generiranih modela, pa neće biti čudno ako na svojoj ilustraciji uočite ljude neobičnih vratova ili osobe sa sedam prstiju.

I dok su naše spoznaje pomalo ograničene, za pomoć smo pitali ključne ljude za tehnologije u vodećim hrvatskim tvrtkama te kroz njihova razmišljanja možemo bolje shvatiti na koji način generativni i drugi AI modeli mijenjaju našu svakodnevnicu i IT industriju.

AI kao asistent za izradu zlonamjernog sadržaja

ReversingLabs poznata je hrvatska tvrtka koja se bavi sigurnošću. Damjana Čuljka, direktora razvoja, pitali smo: Kako doživljavate potencijalni utjecaj AI alata poput ChatGPT-a na industriju, te koji su glavni izazovi i problemi koji bi mogli iz njih proizaći? Jeste li već odredili strategiju svoje tvrtke za suočavanje s mogućim poremećajima ili poboljšanjima koje može izazvati sve veća upotreba AI tehnologije u poslovanju?

„Svaki tjedan na stotine novih AI produkata ulazi na tržište i većina je usmjerena na povećanje produktivnosti, tj. brže izvođenje postojećih zadataka. ChatGPT je u velikoj mjeri ubrzao i poboljšao razvoj takvih produkata. Ionako brza, IT industrija prebacila se u još višu brzinu.

ReversingLabs već godinama radi na svom algoritmu strojnog učenja, koji je ugrađen u naš proizvod. Krajem prošle godine krenuli smo dublje proučavati generativnu umjetnu inteligenciju, i kako nam ona može pomoći u poboljšanju produktivnosti i produkata u kibernetičkoj domeni. Mogućnosti su neograničene – od pisanja koda do pisanja automatskih skripti za testiranje tog koda, od pronalaženja sigurnosnih prijetnji u postojećem kodu do pisanja dokumentacije. Dobar dio ciklusa razvoja softvera (SDLC) se u određenoj mjeri zbilja može odraditi pravilnom interakcijom s takvim alatima. Naravno, nije sve „plug&play“, još uvijek netko mora sve pregledati, odnosno potvrditi da je ono što smo dobili od generativnog AI-ja ono što smo i željeli dobiti. Mogućnost greške i dalje je značajna.

Ubrzani razvoj tehnologije, potreba tvrtki da se digitalno transformiraju i nedostatak talenata na tržištu bit će vjetar u leđa AI alatima. Lako je zamisliti da će oni omogućiti ne-tehničkom osoblju da obavlja razne tehničke zadatke na zadovoljavajućoj razini, što bi za kompanije moglo značiti da za obavljanje tih zadataka neće morati angažirati ljude s posebnim vještinama.

Kako nije sve uvijek ružičasto, AI alati se i zlorabe, i to na razne načine. U svijetu kibernetičke sigurnosti to su pokušaji zlouporabe ChatGPT-a za „proizvodnju“ zlonamjernog sadržaja, phishing napada i drugoga. Iako OpenAI ima sigurnosne provjere kojima nastoji to spriječiti, već postoje mnogi načini da se te provjere zaobiđu. Viđeni su slučajevi da se ChatGPT koristi za generiranje zlonamjernog koda, ali trenutno još nije na razini da to napravi na način koji neće biti prepoznatljiv većem broju sigurnosnih sustava. „Odličnu“ primjenu nalazi kao asistent koji ubrzava izradu zlonamjernog sadržaja, ali jednako tako ubrzava i otkrivanje zlonamjernog sadržaja. Tako da stvari ipak ostaju na borbi između dobrih i loših hakera, i njihove kreativnosti u suzbijanju ili stvaranju malicioznih sadržaja. I jedni i drugi sada imaju alat putem kojeg mogu biti brži u onome što rade.

Jedno je sigurno – AI će se nastaviti ubrzano razvijati te ćemo s vremenom vjerojatno vidjeti puno sofisticiranije napade izrađene ovom vrstom alata, a jednako tako i nove sigurnosne produkte i poboljšanja postojećih, koji će ubrzati suzbijanje novih i otprije poznatih vrsti kibernetičkih napada.

Manje maliciozno, ali vrijedno spomena u kontekstu ChatGPT-a je da smo vidjeli da su ga pojedini kandidati koristili za rješavanje programerskih zadataka koje smo im dali u procesu zapošljavanja. Radi se o složenijim zadacima pomoću kojih provjeravamo razinu znanja. Uveli smo dodatne provjere kako bismo utvrdili da zadatak nije riješen uz pomoć generativne umjetne inteligencije.“

Pomoć u implementaciji NLP rješenja

Velik dio domaće IT industrije bavi se produkcijom poslovnih softvera i rješenja. I u tu su domenu AI modeli ušli prije dosta vremena, a Domagoj Marić, voditelj odjela umjetne inteligencije i znanosti o podacima u Megatrendu, približio nam je svoje viđenje jezičnih modela.

„ChatGPT je definitivno ostavio trag na globalnoj IT sceni ove godine, a očekuje se da trag neće samo i ostati u ovoj godini. Pokazao je mogućnosti primjene umjetne inteligencije u industriji te da ona nije samo hype koji će proći. Približio je primjenu umjetne inteligencije (i njezine implikacije) čak i onima koji nisu dosad bili upoznati s njom. U kontekstu Megatrenda, jezični modeli poput ChatGPT-a godinama revolucioniraju način na koji implementiramo svoja NLP rješenja, bilo da se radi o klasifikaciji teksta, analizi sentimenta, pretraživanju podataka, strojnom prevođenju ili generalno sustavima virtualnih asistenata.

Pored očiglednih prednosti njegovog korištenja u industriji, postoje i neki izazovi koji postaju sve bitniji za riješiti. Najočigledniji izazov je pitanje privatnosti, što je naravno prvo pitanje koje treba postaviti kod bilo koje platforme kroz koju prolaze potencijalno osjetljivi podaci.

Direktno uz to imamo i pitanja pristranosti i etike, pošto je realno jezični model onoliko dobar koliko su dobri i njegovi podaci, nekad ti podaci mogu prouzrokovati neželjenu pristranost, koja povlači i razna etička pitanja primjene ChatGPT-a.

U svakom slučaju, prednosti korištenja ChatGPT-a brzo nadmašuju njegove potencijalne izazove i probleme, a svakako kroz sljedeće razdoblje očekujemo puno modifikacija načina na koji gledamo na njegovu primjenu.“

AI kao pomoć, a ne kao zamjena postojećih procesa

Microblink je tvrtka koja već dugi niz godina u svome poslovanju radi s modelima strojnog učenja i umjetne inteligencije, pa su bili logičan odabir za razgovor o ovoj temi. Svoje viđenje utjecaja alata poput ChatGPT-a iznio nam je Ivan Čapalija, ML Engineering Manager u Microblinku.

„ChatGPT je trenutno najpopularniji predstavnik velikih tekstualnih modela (eng. Large Language Model ili skraćeno LLM) i stvorio je veliko uzbuđenje, a time i očekivanja od AI-ja. Budući da se radi o alatima koji jako dobro razumiju i povezuju različita znanja i da se s njima može upravljati slikom, tekstom i/ili zvukom, mogućnosti su velike.

Napredak AI-ja pokazao je da vodi prema većoj produktivnosti kroz parcijalnu optimizaciju procesa i brže eksperimentiranje. Odnosno, resursi i vrijeme potrebno za obavljanje zadataka i razvoj novih proizvoda su se smanjili i upravo ta činjenica predstavlja glavni rizik za tvrtke koje neće proaktivno pratiti napredak u ovoj domeni. Već sada vidimo eksploziju startupova koji zbog navedenog u vrlo kratkom roku grade nove proizvode i brzo reagiraju na povratnu informaciju od korisnika. Naravno, nije svaka industrija idealna za rano integriranje ovih alata, ali će sigurno većina doći u doticaj s AI-jem kroz alate koje sada koriste. Naš savjet je da budete proaktivni i testirate sva nova AI poboljšanja te gledate na njih kao na pomoć, a ne potpunu zamjenu za svoje postojeće procese.

Popularni alati, kao što su ChatGPT, Dall-E, Bard, Midjourney i drugi, predstavljaju mali skup korisnih proizvoda temeljenih na AI-ju. Međutim, u pozadini akademska zajednica pokušava dublje istražiti puno širi prostor i stvoriti temelje za još korisnih alata. Microblink od svojih početaka koristi AI u razvoju svojih proizvoda i konstantno smo u koraku s akademijom. Iako ćemo svaki od AI alata analizirati i po potrebi uključiti u svoj razvojni proces, najviše ćemo pažnje posvetiti baznim algoritmima i arhitekturama koje su omogućile da ti alati postanu stvarnost.“

AI primjena u automatizaciji procesa

Jedna od najvećih domaćih tehnoloških kompanija je Ericsson Nikola Tesla, tvrtka koja ima izuzetno širok raspon djelovanja. Niti za njih AI i strojno učenje nisu novost, a Darko Huljenić, direktor Istraživanja u Ericssonu Nikoli Tesli, objasnio je na koji način gledaju na AI u svom razvoju.

„Uz kvalitetnu regulativu u ovom području, kao i mudro korištenje umjetne inteligencije u smislu provjere njezinih zaključaka koji ponekad mogu ići u krivom smjeru, umjetna inteligencija može donijeti niz koristi društvu. Konkretno, u području informacijsko-komunikacijskih tehnologija umjetna inteligencija donosi novu poslovnu vrijednost, omogućujući bolje performanse, veću učinkovitost, bolje korisničko iskustvo, kao i stvaranje novih poslovnih modela i korisničkih slučajeva za 5G, IoT i poslovne sustave.

Ericsson Nikola Tesla je kompanija orijentirana razvoju softvera i primjeni ICT-a u raznim domenama ljudskog djelovanja. Sukladno tome, u svojim svakodnevnim procesima primjenjujemo tehnologiju koja u sebi sadrži AI algoritme koji osiguravaju rješenja pojedinih problema ili pomažu u automatizaciji procesa. Kod primjene algoritama je najveći izazov pronaći dovoljnu količinu podataka za inicijalno treniranje AI modela učenja te kasnije provjeriti dobivene rezultate u kontekstu realne okoline. I dalje ćemo razvijati i koristiti AI tehnologiju jer pokazuje pozitivne efekte primjene, ali ćemo to činiti prvenstveno slijedeći sve etičke i ostale norme koje su nužne kako se takva tehnologija ne bi zlorabila, već doprinijela općem razvoju i osiguravanju tehnološke pomoći u svakodnevnom životu i poslovanju prema svim postavljenim normama.“

AI kao alat za produktivnost

Ante Magzan u javnosti je poznat po projektima kao što su HUB385, sudjelovanju u startup projektima STEMI i Include, no trenutačno uz sve svoje poslove najveći je fokus na tvrtki Afekt koja se predstavlja kao Creative engineering studio. Zbog dugogodišnje poduzetničke karijere i rada s tehnologijama kroz razne projekte, o korištenju i izazovima AI-a razgovarali smo Antom Magzanom.

Najviše vremena sam u mojoj tvrtki za kreativna rješenja od brandinga, vizualnih ideja do rješavanja poslovnih procesa i problema kompanija. U tom segmentu imamo sve više velikih tvrtki za koje radimo neku vrstu AI digitalnu transformaciju branda i poslovanja. One gledaju kako će razmišljati, kako se posložiti u izazovima koje donosi AI i u tom segmentu se na neki način borim protiv njega. S one druge strane radim i na stvarno raznovrsnim kreativnim projektima  sa suradnicima po Hrvatskoj, Americi i drugim zemljama. AI je već zamijenio neke od tih suradnika, pa uključujući djelomično i mene. Moja snaga je crtanje i multimedija. To više nemam potrebe raditi barem u idejnoj fazi, jer postoji hrpa aplikacija koje će to generirati ako znaš što želiš. Za finalni produkt se onda ipak angažiraju fotografi, ilustratori i ostali profesionalci, jer zasada AI i dalje ne može isporučiti finalni produkt.

U toj nekoj pripremnoj, radnoj, brainstorming fazi, AI je genijalan alat tako da je s jedne strane alat, a s druge izazov s kojim se svi prije ili kasnije moramo suočiti.

Što se tiče straha od AI-ja, mislim da je strah iracionalan pojam u životu. Zato mi je nekako besmisleno bojati se, ali da li će utjecati na biznis? Zasada mislim samo pozitivno, a dugoročno ne znam iako ga zaista više vidim kao dobar alat.

Da li će promijenit način na koji učimo, radimo i stvaramo? Da, a da li će baš sve biti dobro, to ne."

Šansa za sve koji su dulje u razvoju AI-ja

Osnivač i CEO Mindsmithsa Mislav Malenica: 

Kao netko tko je već 19 godina u ovom području, a zadnjih 5 godina sustavno koristi i proizvodi različite preteče ChatGPT-a, rekao bih da je AI kao tehnologija napokon sazrela da uđe u masovnu upotrebu. Sada bi svima trebalo biti jasno kako je ovo nova tehnološka platforma koja će redefinirati kako kreiramo vrijednost jedni drugima. U razdoblju smo gdje vidimo puno potencijalnih smjerova u kojima bi se stvari mogle razviti, što onda kod dijela tržišta kreira nervozu jer nije jasno što će na kraju pobijediti, a kod drugog dijela uzbuđenje jer se karte ponovno dijele. Ovo je jedno prelijepo razdoblje za biti živ i raditi u ovom području. Svatko tko se pripremao za ovaj trenutak i spreman je raširiti krila sada ima šansu poletjeti.