OpenAI je predstavio lakši i jeftiniji model za programere pod nazivom GPT-4o Mini. Ovaj model košta značajno manje od punih verzija, a smatra se da je sposobniji od GPT-3.5.
Korišćenje OpenAI modela za izradu aplikacija može biti veoma skupo. Programeri koji nemaju dovoljno sredstava često biraju jeftinije modele poput Google Gemini 1.5 Flash ili Anthropic Claude 3 Haiku. Sada, OpenAI ulazi na tržište sa lakšim modelima.
„Mislim da GPT-4o Mini zaista pogađa misiju OpenAI-a da AI učini dostupnijim širem krugu ljudi. Ako želimo da AI koristi svakom delu sveta, svakoj industriji, svakoj aplikaciji, moramo učiniti AI mnogo pristupačnijim,“ rekao je Olivier Godement, vođa API platforme proizvoda, za The Verge.
Od danas, korisnici ChatGPT-a na besplatnim, Plus i Team planovima mogu koristiti GPT-4o Mini umesto GPT-3.5 Turbo, dok će korisnici Enterprise plana dobiti pristup sledeće nedelje. To znači da GPT-3.5 više neće biti opcija za ChatGPT korisnike, ali će i dalje biti dostupan za programere putem API-ja dok se ne prebace na GPT-4o Mini. Godement je rekao da će GPT-3.5 biti povučen iz API-ja u nekom trenutku, ali još nije sigurno kada.
Novi, lakši model će takođe podržavati tekst i viziju u API-ju, a kompanija najavljuje da će uskoro moći da obrađuje sve multimodalne ulaze i izlaze poput videa i zvuka. Sa svim ovim sposobnostima, ovo bi moglo dovesti do naprednijih virtuelnih asistenata koji mogu razumeti vaš plan putovanja i davati sugestije. Međutim, model je namenjen jednostavnim zadacima, tako da niko ne planira da napravi Siri za male pare.
Ovaj novi model postigao je 82 procenta na Measuring Massive Multitask Language Understanding (MMLU) testu, koji se sastoji od oko 16.000 pitanja sa višestrukim izborom iz 57 akademskih predmeta. Kada je MMLU prvi put predstavljen 2020. godine, većina modela je bila prilično loša u tome, što je i bila poenta jer su modeli postali previše napredni za prethodne testove. GPT-3.5 je postigao 70 procenata na ovom testu, GPT-4o 88,7 procenata, a Google tvrdi da Gemini Ultra ima najveći rezultat ikada od 90 procenata. U poređenju, konkurentski modeli Claude 3 Haiku i Gemini 1.5 Flash postigli su 75,2 procenata i 78,9 procenata, respektivno.
Vredno je napomenuti da istraživači sumnjaju u testove poput MMLU, jer način na koji se administriraju varira od kompanije do kompanije. To otežava upoređivanje različitih modela, kako je izvestio The New York Times. Postoji i problem da AI možda već ima odgovore u svom datasetu, što mu omogućava da „vara“, a obično nema treće strane koja ocenjuje proces.
Za programere željne da grade AI aplikacije po niskoj ceni, lansiranje GPT-4o Mini daje im još jedan alat u njihovom inventaru. OpenAI je omogućio fintech startupu Ramp da testira model, koristeći GPT-4o Mini za izradu alata koji izvlači podatke o troškovima sa računa. Umesto da ručno popunjavaju tekstualna polja, korisnici mogu da otpreme sliku računa, a model sve sortira umesto njih. Superhuman, email klijent, takođe je testirao GPT-4o Mini i koristio ga za kreiranje funkcije automatskog predlaganja odgovora na emailove.
Cilj je pružiti nešto lagano i jeftino za programere da kreiraju sve one aplikacije i alate koje nisu mogli priuštiti sa većim, skupljim modelima poput GPT-4. Mnogi programeri bi se odlučili za Claude 3 Haiku ili Gemini 1.5 Flash pre nego što bi platili ogromne troškove za korišćenje najrobustnijih modela.
Zašto je OpenAI-u trebalo toliko dugo? Godement je rekao da je to bila „čista prioritizacija“ jer je kompanija bila fokusirana na kreiranje većih i boljih modela poput GPT-4, što je zahtevalo mnogo „ljudskih i računarskih resursa.“ Kako je vreme prolazilo, OpenAI je primetio trend programera željnih da koriste manje modele, pa je kompanija odlučila da je sada pravo vreme da investira svoje resurse u izradu GPT-4o Mini.
„Mislim da će biti veoma popularan,“ rekao je Godement. „Kako za postojeće aplikacije koje koriste sve AI kod OpenAI, tako i za mnoge aplikacije koje su ranije bile odložene zbog cene.“
Izvor vesti: IT Network