AI: pomoć - ili opasnost?

Ovo sam rekao odmah, a evo sada i dokaza:

https://x.com/RadarHits/status/1819396774211338350/photo/1

Trenutna vrednost akcije je 107 $.
Pre 20 dana je akcija vredela 135 $.

Ne razumem šta se tu oporavilo?
Ko je tada kupio akcije izgubio je preko 20%.

Trenutno mi se čini da ono što se naziva danas veštačkom inteligencijom nije ono za šta se predstavlja. U pitanju su samo veliki, specijalizovani modeli mašinskog učenja sa ogromnim bazama podataka. Ako sam dobro razumeo kako sve to funkcioniše, mašinsko učenje se na neki način oslanja na metaheuristiku i evolucione optimizacione algoritme pri čemu se nalazi način da se kvantifikuje određena specijalizovana stvar na osnovu koje se definišu težinski koeficijenti koji se minimizuju kroz niz iteracija dok se ne iscrpi početna baza podataka, pa se ti isti težinski koeficijenti primenjuju nad novim modelima.

Ovo je problem i ovo nije u suštini veštačka inteligencija u smislu u kojem mi mislimo da jeste. Jer ekstrapolacija podataka ne mora nužno da bude uspešna nezavisno od toga na čemu je model treniran, što znači da je jošuvek ljudska intervencija neophodna. Trenutno stanje veštačke inteligencije je da ona ne može da smisli ništa novo, već kombinuje stvari na osnovu već postojećih primera. Ona ne razume šta radi, o čemu piše, šta slika, već na osnovu kaznenih funkcija koje negativno utiču na minimizaciju težinskih koeficijenata i konačne funkcije cilja dolazi do određenih rezultata. To znači da ona suštinski ne može da uvidi nove šablone i kreira nove stvari, već može samo da radi sa onim na čemu je model treniran.

That being said... Veliki broj poslova upravo to i zahteva. Kombinovanje postojećih rešenja da bi se nešto rešilo, napisalo, nacrtalo. Takvi poslovi su sada ugroženi, ali opet oni koji znaju šta rade i koji su dobri u svom poslu ostaće da "hrane" i kontrolišu algoritam. Što se autonomne vožnje tiče, osim dobrog marketinga koji je gospodin Mask odradio, od toga nema ništa. Jer je vožnja jedan od onih slučajeva gde greške u ekstrapolaciji mogu biti pogubne. Ona može biti dovoljno dobra u 80% slučajeva, ali u 20% slučajeva će koštati života. Jer vožnja je jedan od onih stvari u kojoj će se uvek javljati pojave koje niko nije mogao da predvidi u datim okolnostima.

Ono što je strašno i što je opasno jeste to što se ljudi opuštaju. Volan u novim vozilima nema vizičku konekciju sa točkovima. Automobili su visoko uvezani tehnološki sistemi koji mogu da komuniciraju jedni s drugima. Do sada je bilo x skandala gde su već sadašnji automobili špijunirali svoje korisnike, a automobilske kompanije su prodavale podatke o tome gde su njihovi korisnici vozili, kada, kako i koliko osiguravajućim kućama koje su posle na osnovu toga podizale premiju za osiguranje automobila. Osim ogromne invazije privatnosti, zamislite koliko će lako biti rešiti se političkih protivnika zbog "baga u sistemu" ili "loše procene veštačke inteligencije".

Što se Matematike tiče ne vidim neki pomak.
Sve što može brute-force je davno isprogramirano.
Gde god mora da se bude kreativan nema pomoći od računara.
O tome da će zameniti profesora tek nema šanse.

I što se tiče upravljanja... Većina stvari koje se brendiraju u poslenje vreme kao "VI" su zapravo samo sistemi automatskog upravljanja sa direktnom kompenzacijom poremećaja, tema razrađena kod nas još osamdesetih, u svetu i ranije. Razlika je samo u tome što se mehaničke komponente menjaju elektronskim, a komunikacija sa sistemima se odvija na daljinu. Mada, složićete se, nije neka razlika.

Zavisi koga pitas. Ako citas clanke koje su pisali likovi koji zavrse smer zurnalistike na onom smehotresnom fakultetu na Vozdovcu ... ili na nekome jos smehotresnijem privatnom fakultetu - onda je odgovor: da, to svakako nije ono kako mali Perica (to jest taj jadnicak od "studenta") shvata AI.

Bravo! Ovo si bas lepo sazeo u jednu recenicu. To funkcionise bas tako.

Takodje, masinsko ucenje nije nova stvar. Nekolicina mojih kolega su jos pre 25 godina doktorirali na temu primene masinskog ucenja u raznim oblastima i u to vreme ti doktorati su bili hit. Ljudi su te PhD radili mahom u Americi, ali bilo je i onih koji su to odradil iu Srbiji. Ono sto jeste novo je LLM - odnosno slozeni modeli govornog jezika. Takva stvar nije bila moguca pre 25 godina iz prostog razloga sto u to vreme nismo imali dovoljno mocan hardver na kome bi se to vrtelo. LLM modeli su gradjeni decenijama, a ovo sto vidis danas je samo rezultat svih tih istrazivanja koja su radjena do sada.

Problem je u tome sto ljudi postavljaju znak jednakosti iza jedne siroke naucno-tehnoloske oblasti zvane vestacka inteligencija (AI / VI), masinskog ucenja, neuralnih mreza i LLM, a sva ta 4 pojma, iako srodna medju sobom, su ipak totalno odvojene stvari. Bas kao sto je velika vecina ljudi (cak i strucnjaka) 90-ih pogresno stavljala znak jednakosti izmedju Interneta i Weba, a danas to rade isto s drustvenim medijima i drustvenim mrezama ... pa kada npr. Instagram ne radi zbog nekog tehnickog problema u mrezi Meta, na medijskim portalima se pojave naslovi tipa: "Pao Internet". Ljudi, nije pao Internet, on je jos uvek zivahan i koristim ga upravo ... a to sto vi ne mozete da lajkujete gluposti, to je vas problem.

Ali objasni ti to skolarcima smehotresne novinarske skolice s Vozdovca ... doduse, njima svaki dan "Internet gori od Severiniih slika s plaze" ... a "Djokovic je zagrmeo". Internet ne gori, nije zapaljiv. Ljudi ne grme. Naucite vec jednom !!! :-)))

Tako je.

Nazalost, i to je tacno. U vecini velikih korporacija na zapadu mnogi ljudi rade bas takve stvari - npr. na osnovu nekih brojeva (najcesce finansijskih rezultata, ali i drugih KPI) u Excelu on pise izvestaj za svoje menadzere, a kada mu menadzeri sugerisu sta treba uraditi on pise detaljna uputstva svojim podredjenima. Drugim recima, izigrava protocni bojler. Cim vidis firmu u kojoj imas npr. 9 nivoa menadzera od krajnjeg izvrsioca do CEO znaj da barem cetvoro u tom lancu radi najobicniji I/O, bez grama mozga. Ameri to zovu paper-pushers. I sto je najgore, ti poslovi su neretko izuzetno dobro placeni!

Nisu. Samo ce morati mnogo vise da rade. Koriscenjem AI, naravno. I umesto aktivne uloge u stvaranju necega dobice pasivnu ulogu kontrologa tog necega sto je AI napravila. Problem ce nastati onda kada se od njih bude zahtevalo da umesto npr. 3-4 projekta nedeljno sada rade na 30-40, a mozda i na 300-400 istovremeno. Jer tu je AI. Bas kao sto se nekada ocekivalo da jedan projekat od nekih ~100 stranica teksta drukas na nekoj raspaloj pisacoj masini nedeljama, a mozda i mesecima i radis taj jedan ... dok danas uzmes ono sto su ti radile kolege, copy/paste - pljas, gotovo, sledeci ... i to je normalno, reuse - recycle ... I to je danas moguce zahvaljujuci Wordu i njegovom <Ctrl-C><Ctrl-V>.

Sutra ce se zahtevati mnogo vise, jer ce cukanje teksta u Wordu zameniti autogenerisanje dokumenta AI-em.

Ne znam za politiku, time se ne bavim. Ali znam za su mnoge kompanije pocele da koriste AI u procesu zaposljavanja novih radnika, tako da neko ko je mozda izuzetno iskusan u svom poslu, a u CV nema naglasene kljucne reci na koje je AI softver istreniran, nece proci prvi filter i njegov CV nece ni stici do hiring menadzera. Ali ni radnici nisu nista bolji. Poceli su da koriste AI za pisanje CV i sada svi CV-evi lice jedan na drugi. :-)

Medjutim, ima jedna stvar u kojoj AI nece moci da zameni ljude jos prilicno dugo.

Na departmanu Telekomunikacija lozanskog fakulteta EPFL pre 50 godina predavao je izvesni profesor Juillard. U predgovoru svog udzbenika profesor je napisao sledece reci:

U knjizi potom sledi prelep predgovor, za koji bih vam savetovao da ga procitate, ako treba koristite i Google Translate. Uvek se odusevljavam iznova kada procitam taj tekst. Pritom, stari profesor nije bas bio 100% originalan i verovatno je bio inspirisan svojim zemljakom, autorom Malog princa, koji je rekao nesto slicno - da se perfekcija ne postize onda kada nemas vise sta da dodas, vec kada vise nemas sta da oduzmes.

I mislim da je upravo ta vestina zanemarivanja, odnosno aproksimacije ono sto ce nas sigurno jos dugo razlikovati od masine.

Skoro je bilo velikih otpuštanja u određenim novinarskim firmama gde su radnici zamenjeni LLM-om, tj. OpenAI-jem ko god da je nalepio svoj brend preko toga. Na to sam mislio kad sam rekao da su ti poslovi sada ugroženi. Čim se poveća "produktivnost" "novinara" umanjuje se potreba za dodatnim "novinarima". Ako je cilj 600 članaka mesečno, lupam, i za to je bez upotrebe ovih tehnologija potrebno, opet lupam, 60 ljudi... Ako tu mesečnu kvotu uz korišćenje tehnologija može da ispuni 20 ljudi, to znači da je 40 ljudi višak, tj. dobijaju otkaz. Ne kažem da će se radna mesta ugasiti, već će biti potrebno manje ljudi.

Oko ostalog se slažemo. Jako lep citat i predgovor :)

Aham..poenta je u tome što niko normalan tu akciju ne kupuje na All-time-high

Pametni su kupovali, pa malo je reći na vreme, dobri su samo oko 300 puta...



p.s. sada je stvarno kasno, rast sa ovih nivoa je upitan...

Problem sa terminom "vestacka inteligencija" je to sto ne znamo zapravo sta je inteligencija uopste, prirodna ili ne.

Znaci termin koji nema kompletno objasnjenje iz prvih pricipa (a ni iz 'petih' principa) je "nalepljen" na nesto drugo zato sto 'lici' u nekom povrsinskom smislu.

Ali na kraju krajeva, pitanje terminologije je sekundarna stvar - glavno pitanje je sta neka stvar resava (ili ne).

---

Inteligencija jeste definisana, ali nije mehanizam njenog funkcionisanja.



Nije to ništa sporno, sporno je što Bogovi marketinga u poslednje vreme svuda ubacuju "AI" u nešto što nema mnogo veze samom veštačkom inteligencijom. To je, na neki način, dezinformisanje potrošača. Pominjem Maska jer je Tesla skoro bila u žiži oko povlačenja tvrdnji da će svi automobili biti u potpunosti sposobni za automatsku vožnju bez vozača, što ovakvi modeli u narednih ko zna koliko decenija neće biti u stanju da rade. Prodali su "beta program" bez ikakvih izgleda da će ljudi ikad dobiti finalni proizvod, a već kupljeni automobili kojima je garantovano da će moći to da koriste su stari već 5+ godina i najverovatnije nikad neće doživeti da uživaju u autonomnoj vožnji koja je bila jedna od stavki zbog kojih su kupili taj proizvod. Obmana potrošača. U suštini, meni smeta pogrešan marketing. I što se ljudima tim terminom daje pogrešna ideja šta to oni tačno kupuju.

To nije tačno. Ne postoji generalno prihvaćena definicija inteligencije.
Još manje postoji generalno prihvaćena definicija veštačke inteligencije.

Čak i ako uzmemo najlabavije OPISE šta inteligencija obuhvata, onda ne postoji nikakva VEŠTAČKA INTELIGENCIJA.

Ako tvrdiš suprotno, da li je spam filter VI? Da li je antivirus VI? Da li je svaki program za igranje šaha VI? Da li je ELIZA VI?

Jedan poznati AI naučnik tvrdi da je inteligencija (još uvek) jedno od tri velika naučna pitanja:
https://x.com/ylecun/status/1819670025155850466

Kao i da je svest samo deo tog glavnog pitanja. U tom slučaju bi stvaranje mašina koje mogu da nas zamene u svemu verovatno bilo lakše za dostizanje.

Skoro je izašao jedan eksperimentalni rad koji ukazuje da kvantna teorija svesti Penroza i Hamerofa možda i nije za odbacivanje. Svest je prema toj teoriji ne deo pitanja inteligencije, nego fundamentalna vučna sila koja živim organizmima daje volju za životom (i na nivou molekula). To je sloj ispod mreže neurona koji neuroni koriste kad god postoje, ali on funkcioniše i u organizmima gde ih nema. Meni kao laiku izgleda da je to baš ono što i nedostaje današnjoj veštačkoj inteligenciji da bi bila "čovekolika". Ako bi ova teorija bila tačna, onda bi nam pravljenje te prave veštačke inteligencije potencijalno bilo veoma zakomplikovano.

Teorija svesti Penroza i Hamerofa nije kvantna u nekom kanonicnom smislu, zato sto ukljucuje stvari koje nisu eksperimentalno potvrdjenje i nisu deo potvrdjene kvantno-mehanicke teorije (u stvari jos gore - postoje prilicni problemi koje bi morali da rese / objasne, ali to je vec solidan offtopic).

Ali to zapravo nije ni bitno - sve i da je ta teorija tacna, to ne znaci da je primarni mehanizam te teorije odgovoran za "svest".

Takodje, ne znaci ni da je to jedini moguci mehanizam odgovoran za "svest".

A cak i da sve to zanemarimo, ne sledi nuzno da su inteligentno ponasanje i svest identicna pojava ili nerazdvojne pojave, tj. da je za inteligentno ponasanje nuzno posedovanje svesti.

TL;DR - u kontekstu diskusije, ne menja nista.

---

Zanimljiva je tema za diskusiju :D



"Human intelligence is, generally speaking, the mental quality that consists of the abilities to learn from experience, adapt to new situations, understand and handle abstract concepts, and use knowledge to control an environment. However, the question of what, exactly, defines human intelligence is contested, particularly among researchers of artificial intelligence, though there is broader agreement that intelligence consists of multiple processes, rather than being a single ability." [1]

Međutim, postoje teorije koje opisuju osobine inteligencije. Neke su sumirane u ovom radu: [2][\url]. U suštini sve ove teorije imaju određena preklapanja i nadogradnje, ali sumira ih Enciklopedija Britanika kao:
"Human intelligence, mental quality that consists of the abilities to learn from experience, adapt to new situations, understand and handle abstract concepts, and use knowledge to manipulate one’s environment." [url=https://www.britannica.com/technology/artificial-intelligence][1]

Veštačka inteligencija je nešto što oponaša prirodnu inteligenciju. LLM-ovi koji se trenutno plasiraju i reklamiraju kao veštačka inteligencija nemaju glavne aspekte ovih definicija. Ne mogu se prilagoditi novim situacijama, novim okruženjima, ne razumeju materiju i ne mogu da razmišljaju niti barataju sa apstraktnim stvarima.



Nije spam filter VI, niti antivirus, niti programi za igranje šaha, a bome nije ni ChatGTP, Bing Copilot, AI Pin, Samsung AI i slični. Ako su bar četiri poslednja sa AI u naslovu "veštačka inteligencija", onda su i rezultati gugl pretrage bili, gugl adsensa, preporuke na youtube-u, spoitfy-u... A oni to nisu. To su algoritmi pravljeni za specifičnu stvar i to i rade, kao što su to i LLM-ovi.



U suštini, nije problem definicija. Jer ako uzmemo da inteligencija ne opisuje jednu pojavu, jednu osobinu, već više osobina i mogućnosti, onda razlaganje svake od ovih mogućnosti pojedinačno i njihovim kombinovanjem može da se dobije nešto što liči na inteligenciju. Problem je što mehanizam iza tih osobina nije razrađen. Takođe jedan od vodećih naučnika u ovom polju je skoro dao jedan primer. Parafraziraću: "Ćerku sam hteo da naučim da vozi tako što bih joj puštao 100 000 h video snimaka o vožnji. Prvo se naljutila na mene, a onda je sa instruktorom za manje od 20h savladala bez problema." Jako je teško definisati šta znači razumevanje, što je na neki način i prepreka za rešavanje problema veštačke inteligencije.



Iskreno, ne bih u ovo mešao svest i ne verujem da to nedostaje današnjoj inteligenciji, već razumevanje. Kada mašina bude mogla da razume koncepte, objekte, boje, zvukove, ideje, onda će razumeti i probleme, a samim tim će biti jednostavnije doći do nekog rešenja. Svakako daleko smo od toga. Svakako, LLM koji se maskira kao inteligencija, po meni bar, a nisam ni jedini u naučnoj zajednici, nije veštačka inteligencija.


Edit: Gledam u poruku i ne vidim gde grešim u linkovanju.

Uh... I "razumevanje" je jos jedan nezgodan pojam.

Probaj da ga primenis na biologiju, mozes lako da dodjes do istog dead-enda kao za LLM... imas neku hrpu neurona sa sinaptickim receptorima razbacanim po dendritnom drvecu. Konfiguracija tih receptora i njihov broj su manjim delom genetski odredjeni a mnogo vecim delom... iskustveno.

Kad neko kaze da "razumemo" nesto, kontra argument slican tom LLM argumentu bi bio - to je samo termin koji smo naucili, sam proces nije nista drugo nego neko premestanje molekula / jonskih kanala / stagod...

Mislim da takva redukcija nema smisla ni u jednom ni u drugom slucaju, ali to je samo moje misljenje.



ALI hej... da bi ta devojka naucila da vozi za 20h, pre toga je njen nervni sistem bio treniran 24/7 od rodjenja, zar ne?

Mada ima tu razlika - ljudski mozak je u stanju da radi 'one shot' ucenje sa dramaticno malo stimulusa i da to ostane upamceno celi zivot. Jedno od mogucih objasnjenja za taj kapacitet je >drasticno< veci 'prostor' za reprezentaciju bioloske neuronske mreze (nesto tipa 100 milijardi neurona * hiljade ili desetine hiljada sinaptickih receptora + dramaticno veci dinamicki opseg zbog puke cinjenice da pricamo o biohemiji).

Vestacke neuronske mreze nemaju ni izbiliza takav kapacitet, plus kolicina 'stimulusa' kojom se treniraju je pateticna u odnosu na... bivanje zivim (samo kvantifikovati kolicinu informacija koju nervni sistem primi u toku svakog dana zivota i koja konstantno menja konfiguraciju)

---

I nisu nerazdvojne, LLM često pokazuje inteligentno ponašanje. Ne vidim zašto se tačni odgovori koje daje ne bi mogli tako okarakterisati. Ali,
LLM ih ne daje sam od sebe, nego isključivo podstaknut od čoveka. On se apsolutno ne interesuje za sagovornika kontrapitanjima, niti za bilo šta drugo jednako kao i za sopstvenu egzistenciju (mada ko zna, možda se samo lukavo pretvara:) Njemu je uvek svejedno, a najpreciznije bi bilo reći da mu čak nije ni svejedno.

Tako da smo možda u terminološkom nesporazumu jer sam pod "čovekolika inteligencija" podrazumevao inteligentno ponašanje+svest. A svest bi trebalo da objedinjuje razum, emocije, slobodnu volju...

Moglo bi se zaključiti da se čovek od životinje razlikuje prevashodno u sirovoj snazi, dok se oni razlikuju od mašine u začinskom sastojku, šta god to bilo. Brojke mi nisu poznate, ali nemoguće da je najjači AI još uvek daleko čak i od insekta po broju neurona. Pa ipak i dalje ne pokazuje ni naznake svrhe u ponašanju.

@Ulfsaar,

Tacno, ali LLM nije ni dizajniran da imitira coveka - LLM samo kompletira ulaz, sa eventualnim dodatnim 'komplikacijama' poput RAG-a i sl. koje mu daju mogucnosti prividne 'konverzacije' i mogucnosti resavanja konkretnih problema sa koriscenjem razlicitih tipova ulaza.

Sa druge strane, sam LLM model bez dodatnih komponenti nema nikakvu internu motivaciju da autonomno deluje, kao ni odgovarajuce resurse koji bi mu dali mogucnost da ima izvrsnu funkciju.



Pa i ne moze, zato sto to nije ni predvidjeno da radi, zato sto je LLM 'samo' jezicki model.

U tom slucaju pricamo o nekakvom autonomnom inteligentnom agentu, sa motivacijom i raznim strategijama za zadovoljavanje te motivacije. To je sasvim drugi nivo kompleksnosti i ne nesto za sta postoji uspesno resenje u AI/ML svetu, ali se svakako radi na sledecem koraku - tj. davanju odredjenih autonomija i 'svrhe' LLM-baziranim agentima, ali ce to sasvim sigurno biti daleko od ljudskih sposobnosti - bar u dogledno vreme.

Kao sto je poznato od mnogo neuspesnih pokusaja, kad jednom udjes u takvu vrstu delovanja, dolazi do eksplozije kompleksnosti prostora u kome se nalaze problemi za resavanje i do sada se to uvek zavrsavalo sa kolapsom tradicionalnih ML strategija. Kako ce to sad izgledati u poslednjoj 'inkarnaciji' - videcemo uskoro, GPT-5 bi trebao da ima prvi put mogucnosti autnonomnog funkcionisanja, ali pretpostavljam da ce to biti maksimalno ograniceno.



Tacno. LLM nema neki analog mozdanog stabla i srednjeg mozga koji kod nas stalno trce 'petlju' zadovoljavanja internih potreba i postizanja biohemijske homeostaze organizma (koja ima vise dimenzija - grubo vezano za prezivljavanje jedinke kao prioritet #1 i prezivljavanje vrste kao prioritet #2 i gomilu novijih stvari koje se lepe na ove 2 primarne strategije), gde se svako iskakanje iz homeostaze 'pegla' raznim neuromodulatorima koji vise funkcije mozga usmeravaju ka nalazenju strategije za vracanje u homeostazu.

Kad nama nesto nije 'svejedno' to je zapravo 'potpis' mozdanog stabla koje emotivno kodira konkretan 'osecaj' / 'motivaciju' itd. i sto se manifestuje promenama u izvrsnoj funkciji. Mi smo ziva bica koja umiru vrlo brzo ako se ne zadovoljavaju osnovne zivotne potrebe, ili isto tako umiru kao vrsta ukoliko se ne radi na nastavku vrste kao i na odbrani od egzistencijalnih pretnji. Priroda je resila taj problem daleko pre nego sto se pojavio jezik i sve ono sto mi danas nazivamo 'ljudska inteligencija' - ali sustinski, mehanizmi koji ispoljavaju tu inteligenciju su zapravo "produzena ruka" tih starijih mehanizama koji su se bavili drzanjem jedinke zivom i odrzavanjem vrste u postojanju. LLM-ovi nemaju nista od tih egzistencijalnih mehanizama koji bi im dali "svrhu", ali to nije ni bio cilj.

Ako bi bas jurili pravljenje analogija sa ljudskom inteligencijom, sto je u startu losa stvar po mom misljenju zato sto su sve analogije nekompletne, LLM bi u najboljem slucaju bio neki analog temporalnog korteksa gde se nalazi reprezentacija pojmova i relacija iz realnosti ukljucujuci i jezik. Mada je i to nategnuto zato sto je memorija kod nas takodje 'aktivna' u smislu da ima izlaz koji funkcionise kao 'driver' u daljim koracima procesiranja.

---

Btw, svima preporucujem da probaju Claude 3.5 Sonnet (https://www.anthropic.com/news/claude-3-5-sonnet)

Za moje potrebe je vidno bolji od GPT-4, pogotovu za stvari u vezi softvera i matematike. Za sada za sve sto sam "diskutovao" sa njim u vezi programerskih problema je bio prilicno dobar.

Tu je naravno i novi O1 model od OpenAI-ja, koji je za konverzacione stvari i rezonovanje skok u odnosu na GPT-4, ali mi se cini da je losiji od Sonnet-a kada je programiranje u pitanju.

Konacno, za trcanje u lokalu - DeepSeek Coder V2 je impresivan (https://github.com/deepseek-ai/DeepSeek-Coder-V2), ali je 236B parametara (doduse MoE) i dalje suvise velik "zalogaj" za vecinu kucnih sistema.

--

Neverovatan je napredak za samo oko godinu dana - danas postoje modeli sa 30-tak milijardi parametara koji vidno nadmasuju GPT 3.5 koji je imao nekoliko puta vise parametara, sto jasno pokazuje napredak u treniranju.

Modeli poput Mistral Large 2 (136B) ili Qwen 2.5 72B u mnogim stvarima dostizu SOTA modele i moguce ih je terati u kucnoj varijanti... zanimljivo vreme.

---