AI arvutusvõimsuse lõhk: kiirus võidab kuluefekti üle

Tehisintellekti rakendamine ettevõttes on liigutunud kiiresti eksperimenteerimise faasist reaalsetesse tootmisprotsessidesse. Kuid koos tehnoloogilise hüppe onslaughtiga on tekkinud murettekitav nähtus, mida on nimetatud arvutuslõhuks. See on olukord, kus organisatsioonide investeerimistaht ja infrastruktuuri ostmine toimuvad märksa kiiremini kui võime neid kulusid mõõta, kontrollida või üldse mõista.

Kiirus ja kättesaadavus kui uued prioriteed

Traditsiooniliselt on IT-investeeringute puhul olnud määravaks tegurimiks kuluefektiivsus ja üldkulu (TCO). Kuid VentureBeat Pulse Researchi andmed 170 ettevõtte üle näitavad drastilist muutust prioriteetides. Tänapäeval on tootmisrõhk muutnud otsustamisprotsessi: jõdluse ja GPU-de kättesaadavus on tõustatud kulude kohale.

Andmed näitavad, et ligi 66% ettevõtetest käitavad juba AI töökoormuseid tootmises ning kolmandik osa neist teeb seda juba suurel määral. Sellise kiire tempo juures on kulud demoteeritud. Kui varem oli hind otsustav, siis nüüd on 35% juhtudel määravaks teguriks jõdlus (latentsus ja läbivõime) ning 24% puhul GPU-de kättesaadavus. See tähendab, et ettevõtted ostavad võimsust lihtsalt selleks, et mitte jääda konkurentidest maha, sageli ilma selge planeeringuta, kuidas seda võimsust optimaalselt kasutada.

Nähtamatu kulueffekt ja GPU-de tühisus

Kõige murettekitavama osa arvutuslõhgust moodustab see, et suur osa ostetud võimsusest jääb kasutusest. Uurimuse kohaselt teatavad 83% ettevõtetest, et nende GPU-de kasutuse率 on 50% või väiksem. See on paradoks: samal ajal, kui turg on GPU-de näljaga ja ettevõtted võitlevad nende kättesaadavuse eest, seisavad juba ostetud ressursid pooltühjana.

See inefektiivsus tuleneb sellest, et vähem kui pooled ettevõtetest (44%) suudavad rangelt jälgida oma AI arvutuskulusid. Ettevõtted lendavad nagu pooltsega, kus nad teavad, et nad investeerivad, kuid ei tea täpselt, kui palju üksik token või üks teatud AI-funktsioon neile tegelikult maksab. VentureBeati analüüs rõhutab, et see on operatiivne risk, mis võib tulevikus привести suurte eelarveületusteni.

Plattvormide fragmenteerimine ja vendorite vahetus

Ettevõtted ei ole leidnud veel oma lõplikku kodu. Keskmiselt kasutab üks ettevõte kolme erinevat infrastruktuurplatvormi. Kõige populaarsemad on OpenAI (49%), Google Gemini (48%), Microsoft Azure (47%) ja Google Cloud (42%). Kui küsida ühe peamise platvormi kohta, siis Azure juhtib 26% osalusega.

Hoolimata praegusest sõltuvusest suurtest pilvinhaldajatest on lojaalsus madal. 64% küsitletudest plaanib järgmise aasta jooksul vahetada või lisada uut infrastruktuuripakkujat, ning 38% plaanib seda teha juba järgmise kvartali jooksul. See on ebatavaliselt kõrge churn-määr sellise fundamentaalse tehnoloogia puhul. Põhjuseks on soov leida paremat integratsiooni olemasoleva andmevoogudega ja optimeerida üldkulusid, mida nad seni ei ole suudelnud kontrollida.

Spetsialiseeritud pilvevõtluste tõus

Kuigi enamik ettevõtteid tugineb praegu suurtele hyperscaleritele, on järgmine investeerimissamm suunatud mujale. 45% ettevõtetest plaanib hinnata spetsialiseeritud AI pilvevõtlusi, kuigi praeguse seisuga kasutab neid vähem kui üks kümnikust.

Ettevõtted ostavad rohkem infrastruktuuri kiiremini, kui nad suudavad arvestada seda, mis neil juba on.

See liikumine viitab soovile põgeneda üldistatud pilvilahenduste piirangutest ja leida optimaalsemaid ressursse just tehisintellekti treenimiseks ja käitamiseks. Kuid Beyond Market Intelligence märkib, et see võib suurendada volatilist, kuna organisatsioonid liiguvad platvormilt platvormile ilma selge mõistmiseta oma tegelikest vajadustest.

Edu mõõtmine ilma rahalise filtri abil

Kui kulud on prioriteedis nede, siis millega siis edu mõõta? Uurimus paljastab, et ettevõtted on asetanud rahalised näitajad kõrvale operatiivsete võitude kasuks. Edukuse peamised mõõdikud on:

• Ülesaeg ja töökindlus (51% ettevõtetest)
• Arendajate produktiivsus (39% ettevõtetest)
• Kulud miljoni tokeni kohta (ainult 31% ettevõtetest)

See näitab, et praegune AI-buum on rohkem tehnoloogiline võistlemine kui ärioptimeerimine. Ettevõtted on nõus maksta üle, kui süsteem töötab ja arendajad on kiired, kuid see strateegia on jätkusuutlik vaid seni, kuni investeeringud on kasvufaasis ja eelarved on elastilsed.

Mida tähendab arvutuslõhk Balti riikide ettevõtetele?

Eestis ja Baltikumis, kus digitaalne ökosüsteem on väike, kuid väga agile, on see trend eriti oluline. Meie ettevõtted, sealhulgas e-riigi infrastruktuuri kasutajad ja startupid, on harjunud kiiresti adapteeruma. Kuid Balti riikide piiratud ressursid tähendavad, et me ei saa endale lubada sama hulka inefektiivsust kui USA hiigsetele korporatsioonidele.

Eesti ettevõtetele tähendab see, et AI-investeeringud peavad olema algusest peale läбиkuulvaid. Kuna me liigume AI Acti ja rangemate Euroopa regulatsioonide suunas, muutub läbipaistvus mitte ainult rahaliselt, vaid ka tehniliselt kohustuslikuks. E-Estonia mudel on ehitanud edu sellele, et protsessid on optimeeritud ja andmed on struktureeritud. AI-infrastruktuuri puhul tähendab see, et me peaksime vältima pimla lendamist ja keskenduma arvutuslõhgu sulgemisele juba implementeerimise alguses.

Balti riikide ettevõtjad peaksid nüüd küsima: kas me ostame võimsust pelgalt hirmust maha jääda või on meil planeering, kuidas seda 50% kasutuse率-ist tõsta? Meie konkurentsieelis ei ole massiivses rahalises võimsuses, vaid oskuses rakendada tehnoloogiat targalt ja kuluefektiivselt. Seega on Baltikumis AI-strateegia keskmes peaks olema mitte ainult võimsuse ostmine, vaid täpne arvutusressursside juhtimine.

Korduma kippuvad küsimused

Allikad: Venturebeat (2), Beyondmarketintelligence ·