Groq: Uus konkurent Nvidiale

Kui Te huvitate tehisintellekti kiibiturust, siis olete tõenäoliselt teadlik, et erinevad tootjad valmistavad kiipe nii visuaalsete kui ka vestlusrobotite ülesanneteks. Pikka aega on Nvidia olnud turuliider GPU-põhistes tehisintellekti lahendustes. Ent Groq’i LPU-de (keeleprotsessori üksused) kasutuselevõtuga on vestlusrobotite õpetamine muutunud kiiremaks, odavamaks ja tõhusamaks. Siin on põhjused.

Mis on Groq?

Kui ulmekirjanik Robert Heinlein lõi uussõna "grok" oma romaanis Stranger in a Strange Land 20. sajandi lõpus, ei aimanud ta ilmselt, et sellest saab tehisintellekti kiipe tootva ettevõtte registreeritud kaubamärk. Sõna "grok" tähistas sügavat arusaamist või millegi olemusse süvenemist.

2016. aastal asutas Jonathan Ross Groq’i ja registreeris selle kaubamärgina. Groq arendab lahendusi tehisintellekti töötluse kiirendamiseks, mille tuntuimaks tooteks on LPU Inference Engine. Groq’i tehisintellekti kiip võimaldab vestlusrobotitel töötada kuni 10 korda kiiremini ja tõhusamalt kui sarnastel GPU-põhistel süsteemidel, mida tehisintellektis tavaliselt kasutatakse.

Kuidas Groq’i kiibid erinevad Nvidia omadest

Groq’i LPU ja Nvidia GPU põhiline erinevus seisneb selles, kuidas hallatakse andmete väljundit. GPU-d töötlevad graafikat ja andmeid paralleelselt, kuna pikslid ekraanil on üksteisest sõltumatud. Groq’i LPU-d töötlevad aga andmeid järjestikuliselt, mis on keele töötlemisel ülioluline, sest sõnad on lausetes loogiliselt seotud. See järjestikune andmetöötlus võimaldab LPU-del anda LLM-i (suurte keelemudelite) väljundit kiiremini kui Nvidia GPU-d.

Groq’i tootevalik

• Groq Cloud: Serverivaba infrastruktuur tehisintellekti rakenduste arendajatele.
• Groq Rack: Arvutuskobar, mis ühendab 64 Groq’i kiipi suurte andmemahtude töötlemiseks.
• Groq Node: Server kaheksa GroqCard kiirendiga.
• Groq Card: Arendajatele mõeldud kiirendi.
• GroqWare: Pakett, mis sisaldab Groq API-t, kompilaatorit ja tööriistu kohandatud arenduseks.

Groq numbrites

• 70 000 arendajat kasutab Groq’i tehnoloogiat.
• 128 miljonit API-päringut töödeldud.
• 19 000 rakendust arendatud LPU infrastruktuuril.
• $640 miljonit kaasati D-sarja rahastuses, tõstes Groq’i väärtuseks 2,8 miljardit dollarit.

Konkurents Nvidia’ga

Hoolimata sellest, et Nvidia aktsia hind on langenud hiljuti 27% oma kõigi aegade tipust piiratud prognooside ja mõnede negatiivsete tegurite tõttu, on ettevõte siiski 80% turuosaga AI kiibituru liider. Kuid Groq’i LPU-tehnoloogia seab Nvidia’le tõsise väljakutse. Jonathan Rossi sõnul on Groq’i kiibid teatud AI ülesannetes efektiivsemad kui Nvidia GPU-d.

Ross märkis, et aasta lõpuks saab Groq’i infrastruktuur tõenäoliselt peamiseks valikuks AI-iduettevõtetele. Ta lisas ka, et potentsiaalne partnerlus OpenAI-ga on võimalik, kui mõlemale poolele sobiv kokkulepe leitakse.

Soovid koos meiega investeerida era tehnoloogiaettevõtetesse? Tutvu meie Wealth ja Growth kontoplaanidega, mis annavad ligipääsu eksklusiivsetele riskikapitalitehingutele!

Vastutusest loobumine: „Kaubamärgi kasutamine on ainult informatiivsel eesmärgil ega tähenda heakskiitu ega seotust. Käesolevas teates esitatud teave on samuti ainult informatiivsel eesmärgil ega ole ettepanek osta ega pakkumine müüa, märkida või omandada väärtpabereid.”