Pay-as-you-go inference ili zakup GPU-a: šta je isplativije za vašu firmu

Za skoro sve firme u Srbiji plaćanje po tokenu je jeftinije. Zakup namenskog GPU-a počinje da se isplati tek iznad otprilike 1,4 milijarde tokena mesečno, a to je obim ravan sa oko 140.000 razgovora podrške. Presudan nije obim posla, nego to da li je opterećenje ravnomerno ili promenljivo.

Ta cifra iznenađuje skoro svakoga ko je prvi put vidi, uključujući i nas kada smo je izračunali. U nastavku je cela računica, sa pretpostavkama koje možete zameniti svojima.

Poredite dve strukture troška, ne dve cene

Cela dilema staje u jednu rečenicu. Zakup GPU-a je fiksni trošak koji ne zavisi od toga koliko ga koristite, a plaćanje po stvarnoj potrošnji tokena je varijabilni trošak koji prati saobraćaj.

Zato poređenje satnice sa cenom po milionu tokena ne znači ništa dok se ne zna obim. Ispod određene tačke fiksni trošak je skuplji po isporučenom tokenu. Iznad nje je jeftiniji. Zadatak je da se ta tačka nađe.

Koliko danas košta zakup GPU-a

Tržišne cene su široke, pa je lako naći i broj koji podupire bilo koji zaključak.

Za H100 raspon ide otprilike od 1,49 do 6,98 dolara po satu kod petnaestak provajdera, pri čemu specijalizovani GPU provajderi obično naplaćuju dva do četiri puta manje od hiperskalera. Za Blackwell generaciju cene su više. Prema GetDeploying tržišnom pregledu, koji prati 25 provajdera za B200, prosečna on demand cena je 6,89 dolara po GPU satu, rezervisani kapacitet 5,98, a spot 3,59. Prevedeno na mesec od 720 sati, jedan B200 košta između 2.412 i 11.599 dolara.

Domaće tržište je u istom rangu. Beogradski mCloud u svom portalu navodi namenski H100 sa 80 GB GPU memorije po ceni od 2.156,11 evra mesečno, A100 sa 80 GB po 1.940,50 evra i H200 po 2.669,47 evra. To su cene iskazane u evrima, dok tarifa za inferenciju po potrošnji ostaje u dolarima, pa se u računici ispod držimo dolara.

Za dalji račun uzimamo 2.000 dolara mesečno za jedan zakupljeni H100. Taj broj je namerno na donjoj ivici tržišta. Ako se ispostavi da ni pod tako povoljnom pretpostavkom zakup ne pobeđuje, pod realnijom sigurno neće.

Tačka preokreta, izračunata

Tarifa se naplaćuje odvojeno za ulaz i izlaz, pa je prvo treba svesti na jednu cenu po milionu tokena. U tipičnim poslovnim primenama ulazni tokeni čine oko 85 odsto ukupne potrošnje, što se videlo i u ranijoj računici po tokenu na tri poslovna scenarija. Uzimamo odnos 85 prema 15.

Račun je 0,85 puta cena ulaza plus 0,15 puta cena izlaza.

Tačka preokreta je onda mesečni trošak GPU-a podeljen mešovitom cenom:

• Prema Kimi K2.7 ili GLM 5.2: 2.000 ÷ 1,45 = 1.379 miliona tokena mesečno, dakle oko 1,38 milijardi
• Prema DeepSeek V4 Flash: 2.000 ÷ 0,65 = 3.077 miliona tokena mesečno, dakle oko 3,08 milijardi

Brojevi u milijardama teško se osećaju, pa ih prevodimo u poslove koje prepoznajete. Koristimo potrošnju po operaciji iz ranije objavljene računice: oko 9.700 tokena po razgovoru podrške sa četiri razmene, oko 8.000 tokena po obrađenom dokumentu od osam strana i oko 520.000 tokena mesečno po zaposlenom koji koristi internog asistenta.

Da biste dostigli tačku preokreta prema Kimi ili GLM tarifi, treba vam nešto od sledećeg, svakog meseca:

• 142.000 razgovora korisničke podrške, što je oko 6.500 dnevno
• 172.000 obrađenih dokumenata
• interni asistent za 2.650 zaposlenih

Za osećaj razmere: interni asistent za 30 zaposlenih, najveći scenario iz ranije računice, čini otprilike jedan osamdeset deveti deo tog obima. Firma koja bi opravdala zakup jednog GPU-a mora da bude među najvećim poslodavcima u zemlji, ili da vodi kontakt centar za nekoliko tržišta.

Prema DeepSeek tarifi granica se udvostručuje na oko 317.000 razgovora ili 385.000 dokumenata mesečno.

Gde se seku zakup GPU-a i naplata po potrošnji

Zašto se do te tačke praktično ne stiže

Fiksni trošak ne nestaje kada saobraćaj padne. Zato efektivna cena zakupljenog GPU-a po isporučenom milionu tokena zavisi samo od toga koliko ste ga zaista natovarili.

Obratite pažnju na red sa 100 miliona tokena. To je već ozbiljan obim za srpsku firmu, otprilike deset hiljada razgovora podrške mesečno, a zakupljeni GPU je na tom nivou i dalje skoro četrnaest puta skuplji po tokenu. Kolona se izjednačava tek u poslednjem redu.

Koliko zaista košta zakupljeni GPU po milionu tokena

Najskuplji sat je onaj u kome GPU ne radi

Iskorišćenost je najveći skriveni trošak zakupljenog kapaciteta i najređe se pominje u ponudama.

Zakupljeni GPU košta isto na pet i na devedeset pet odsto opterećenja. Ako vaš posao prati radno vreme, osam sati kroz dvadeset dva radna dana daje 176 od 730 sati u mesecu. To je 24,1 odsto iskorišćenosti. Po isporučenom tokenu plaćate 4,1 put više nego što satnica sugeriše, jer tri četvrtine zakupljenog vremena niko ne šalje zahteve. Zander u svojoj analizi tačke rentabilnosti za self-hosted modele postavlja prag na 60 odsto iskorišćenosti, ispod kojeg ekonomija zakupa prestaje da liči na brošuru.

Vredi primetiti i šta ovde nije problem. Kapacitet nikada nije ograničenje. Da bi se dostiglo 1,38 milijardi tokena mesečno, potrebno je 525 tokena u sekundi neprekidno, dvadeset četiri sata dnevno.

Merenja na H100 sa vLLM backendom pokazuju ukupnu propusnost od oko 4.800 tokena u sekundi za model od 14 milijardi parametara i oko 1.480 za model od 32 milijarde. Jedan GPU tehnički može mnogo više nego što vam treba. Problem nije da li kartica može, nego da li imate čime da je napunite.

Troškovi kojih nema u satnici

Satnica kupuje karticu. Ne kupuje uslugu.

• Ljudi. Postavljanje produkcionog serving stack-a traži dve do četiri nedelje fokusiranog rada iskusnog inženjera, a zatim trajno deset do dvadeset odsto vremena jedne senior osobe za nadogradnje, incidente i praćenje kvaliteta.
• Serving stack. vLLM ili TGI, kvantizacija, batching, upravljanje KV kešom. Sve to neko mora da podesi i da održava kroz svaku promenu modela.
• Monitoring. Latencija po percentilima, propusnost, potrošnja po timu, detekcija pada kvaliteta. Kod servisa po potrošnji ovo dobijate uz mesečni izveštaj.
• Nabavka i planiranje kapaciteta. Ugovor, rokovi isporuke i procena koliko će vam kapaciteta trebati za devet meseci, doneta danas.
• Redundansa. Jedan GPU je jedna tačka otkaza. Druga kartica za slučaj kvara udvostručuje fiksni trošak i obara iskorišćenost na pola.

Zbog svega toga se granica iz prethodnog poglavlja u praksi pomera naviše, nikada naniže.

Nije pitanje malo ili veliko, nego ravnomerno ili promenljivo

Ovo je deo koji pogrešno postavlja većina poređenja.

Firma sa 300 miliona tokena mesečno zvuči kao kandidat za sopstveni kapacitet. Ako se ti tokeni troše u tri kampanjska talasa godišnje i tokom radnih dana od deset do šesnaest, zakup je i dalje pogrešan izbor. Kupujete vrh opterećenja, a plaćate ga tokom cele godine.

Firma sa 200 miliona tokena mesečno raspoređenih ravnomerno, uz noćnu batch obradu koja puni preostale sate, bliža je isplativosti od one prve, iako troši manje.

Broj koji treba da pogledate nije mesečni zbir. To je odnos vršnog i prosečnog opterećenja. Ako je vaš vrh pet puta veći od proseka, zakup morate dimenzionisati po vrhu, a plaćate ga po kalendaru. Naplata po potrošnji taj odnos čini nebitnim, jer se kapacitet ne rezerviše unapred.

Taj odnos se lako izmeri. Uzmite broj zahteva po satu iz logova za poslednjih trideset dana, nađite najopterećeniji sat i podelite ga prosekom. Kod aplikacija vezanih za radno vreme rezultat je obično između četiri i osam. Kod batch obrade koja se pušta noću spušta se ispod dva. Prvi slučaj pripada naplati po potrošnji bez obzira na obim, drugi je jedini koji zakup može da opravda.

Kada zakup ipak ima smisla

Postoje slučajevi u kojima rezervisani kapacitet pobeđuje, i vredi ih navesti pošteno.

• Visok i ravnomeran obim. Iznad tačke preokreta, uz iskorišćenost koja se drži preko 60 odsto kroz ceo mesec.
• Sopstveni fino podešeni model. Ako su vam potrebne težine koje posedujete i možete da ih premeštate, zakup je jedini put.
• Model koji niko ne nudi kao servis. Specijalizovani ili stariji modeli zamrznuti zbog nasleđene integracije.
• Predvidiv trošak kao poslovni zahtev. Neke firme svesno biraju viši, ali fiksan račun umesto nižeg promenljivog.

Primetićete da se na ovoj listi ne nalazi zaštita podataka. Kada je infrastruktura u beogradskom data centru, podaci ne napuštaju zemlju ni u jednom od dva modela, pa taj argument više ne razdvaja odluku.

U praksi retko ko bira samo jedno. Firme sa ozbiljnim obimom najčešće završe tako što ravnomeran i predvidiv deo posla drže na rezervisanom kapacitetu, a sve promenljivo puštaju kroz naplatu po potrošnji. Noćna klasifikacija, obogaćivanje baze i masovna obrada dokumenata idu na rezervisano. Korisnički saobraćaj, sezonski skokovi i sve što je tek u fazi testiranja ostaje na tarifi. Jedan sloj rutiranja odlučuje po zahtevu. Tako se izbegava i plaćanje praznog hoda i iznenađenje na računu.

Kontrolna lista za odluku

Odgovorite bez računanja. Ako na najmanje četiri pitanja odgovorite sa da, zakup vredi ozbiljno razmotriti.

1. Trošite li preko milijardu tokena mesečno?
2. Je li vaš vrh opterećenja manji od dva puta većeg od proseka?
3. Možete li da držite iskorišćenost preko 60 odsto tokom cele nedelje, uključujući noći i vikende?
4. Imate li u timu nekoga ko je već vodio GPU inferenciju u produkciji?
5. Treba li vam model koji ne postoji kao servis, ili sopstvene fino podešene težine?
6. Možete li da opravdate drugu karticu za redundansu?

Svako ne na prva tri pitanja pomera odluku ka naplati po potrošnji, i to jako.

Kontrolna lista: zakup ili naplata po potrošnji

Zaključak

Zakup GPU servera je odluka o strukturi troška, ne o tehnologiji. Isplati se firmama koje mogu da drže karticu punom, a takvih je u Srbiji malo. Za sve ostale naplata po potrošnji je jeftinija, i ostaje jeftinija sve dok se opterećenje menja.

Ako želite da uporedite oba modela na svojim brojevima, pogledajte šta obuhvata Orion AI Factory.

Često postavljana pitanja

Kada se isplati sopstveni GPU?

Kada mesečna potrošnja pređe otprilike 1,4 milijarde tokena i kada je opterećenje ravnomerno kroz ceo mesec. Prva granica je čista računica, druga je uslov bez kojeg prva ne važi. Zakupljeni GPU koji radi samo tokom radnog vremena isporučuje oko 24 odsto svog kapaciteta, pa efektivna cena po tokenu raste više od četiri puta.

Koliko košta zakup GPU servera mesečno?

Za H100 tržišni raspon ide otprilike od 1,49 do 6,98 dolara po satu, a beogradski mCloud navodi namenski H100 sa 80 GB po 2.156,11 evra mesečno. Za B200 prosečna on demand cena je 6,89 dolara po satu, što na 720 sati daje između 2.412 i 11.599 dolara mesečno zavisno od provajdera.

Da li je self-hosted LLM jeftiniji od API-ja?

Po jedinici tokena može biti, ali tek na vrlo visokim obimima i uz visoku iskorišćenost. Na 100 miliona tokena mesečno zakupljeni GPU od 2.000 dolara košta 20 dolara po milionu tokena, naspram 1,45 dolara po tarifi za inferenciju po potrošnji. Uz to satnica ne pokriva inženjerski rad, serving stack, monitoring i redundansu.

Šta znači iskorišćenost GPU-a i zašto je toliko bitna?

To je udeo zakupljenog vremena u kojem kartica zaista obrađuje zahteve. Zakupljeni GPU se naplaćuje isto na pet i na devedeset pet odsto opterećenja, pa se ceo mesečni trošak deli samo na tokene koje ste stvarno isporučili. Ispod 60 odsto iskorišćenosti ekonomija zakupa se raspada, bez obzira na povoljnu satnicu.

Mogu li da počnem sa plaćanjem po potrošnji, pa kasnije da pređem na zakup?

To je uobičajen redosled i najjeftiniji način da se odluka donese na podacima. Nekoliko meseci rada po potrošnji daje vam stvarnu mesečnu potrošnju tokena i, važnije, oblik krive opterećenja kroz dan i nedelju. Bez ta dva podatka zakup se dimenzioniše na procenu, a greška u proceni se plaća svakog meseca.