Groq: naujas konkurentas Nvidia

Jei domitės dirbtinio intelekto (AI) lustų pramone, tikriausiai žinote, kad įvairūs gamintojai kuria lustus vaizdinėms ir pokalbių užduotims. Ilgą laiką Nvidia buvo rinkos lyderė su GPU pagrįstais AI sprendimais. Tačiau atsiradus Groq LPU (kalbos apdorojimo vienetų) technologijai, pokalbių botų treniravimas tapo spartesnis, pigesnis ir efektyvesnis. Štai kodėl.

Kas yra Groq?

Kai mokslinės fantastikos rašytojas Robertas Heinleinas sugalvojo neologizmą „grok“ savo romane Stranger in a Strange Land XX a. pabaigoje, jis tikriausiai nenumatė, kad tai taps registruotu prekės ženklu AI lustų gamyboje. Žodis „grok“ reiškia gilų supratimą arba esmės suvokimą.

2016 m. Jonathan Ross įkūrė Groq ir užregistravo jos prekės ženklą. Groq vysto sprendimus, padedančius spartinti dirbtinio intelekto apdorojimą, o jų pagrindinis produktas yra LPU Inference Engine. Groq AI lustas leidžia pokalbių botams veikti iki 10 kartų greičiau ir efektyviau nei su įprastiniais GPU pagrįstais sprendimais, kurie dažnai naudojami AI technologijose.

Kaip Groq lustai skiriasi nuo Nvidia

Pagrindinis skirtumas tarp Groq LPU ir Nvidia GPU – duomenų apdorojimo būdas. GPU apdoroja grafiką ir duomenis lygiagrečiai, nes pikseliai ekrane egzistuoja nepriklausomai. Tuo tarpu Groq LPU duomenis apdoroja nuosekliai, kas yra labai svarbu kalbos užduotims, nes žodžiai sakinyje logiškai susiję. Šis nuoseklus apdorojimas leidžia LPU sparčiau pateikti LLM rezultatus nei Nvidia GPU.

Groq produktai

• Groq Cloud: bekartinė infrastruktūra AI programėlių kūrėjams.
• Groq Rack: skaičiavimo klasteris su 64 Groq lustais dideliems duomenims apdoroti.
• Groq Node: serveris su aštuoniomis GroqCard spartintuvėmis.
• Groq Card: spartintuvas kūrėjams.
• GroqWare: rinkinys, kuriame yra Groq API, kompiliatorius ir įrankiai individualiam vystymui.

Groq skaičiais

• 70 000 kūrėjų naudoja Groq technologiją.
• 128 milijonai API užklausų apdorota.
• 19 000 programų sukurtų LPU infrastruktūroje.
• $640 mln. surinkta D investicijų etape, Groq vertė – $2,8 mlrd.

Konkurencija su Nvidia

Nepaisant [Nvidia neseniai patirto 27% vertės kritimo nuo aukščiausios ribos]((https://raison.app/blog/article/analytics/september-2-6-weekly-economic-update) dėl nepakankamų prognozių ir kitų neigiamų veiksnių, įmonė išlieka dominuojanti AI lustų rinkoje su 80% rinkos dalimi. Tačiau Groq LPU technologija meta iššūkį Nvidia dominavimui. Pasak Jonathano Rosso, Groq lustai tam tikroms AI užduotims yra efektyvesni nei Nvidia GPU.

Rosso teigimu, iki metų pabaigos Groq infrastruktūra greičiausiai taps pagrindiniu pasirinkimu AI startuoliams. Jis taip pat užsiminė apie galimą partnerystę su OpenAI, jei bus rasta abiem pusėms tinkamų sąlygų.

Norite kartu su mumis įsigyti privačių technologijų įmonių akcijų? Susipažinkite su mūsų Wealth ir Growth paskyrų planais, kurie suteikia prieigą prie išskirtinių rizikos kapitalo pasiūlymų!

Atsakomybės ribojimas: „Prekės ženklo naudojimas yra tik informaciniais tikslais ir nereiškia jokio patvirtinimo ar bendradarbiavimo. Taip pat ši informacija yra tik informacinio pobūdžio ir nėra pasiūlymas pirkti ar kreiptis dėl jokios finansinės priemonės ar vertybinio popieriaus, nei kvietimas juos pasirašyti ar parduoti.“.