Groq: Nvidia-ға жаңа бәсекелес

Егер сіз ЖИ чиптер индустриясына қызығатын болсаңыз, әртүрлі өндірушілердің көру және чатбот тапсырмаларына арналған чиптер шығаратынын жақсы білесіз. Ұзақ уақыт бойы Nvidia ЖИ-ға арналған GPU-негізіндегі шешімдерде нарық көшбасшысы болды. Алайда, Groq компаниясының LPU (Language Processing Unit) енгізуімен чатботтарды оқыту жылдам, тиімді әрі үнемді болды. Міне, оның себебі.

Groq деген не?

Ғылыми фантастика жазушысы Роберт Хайнлайн "grok" неологизмін ойлап тапқанда өзінің Stranger in a Strange Land романында XX ғасырдың соңында, ол бұл сөз компанияның ЖИ чиптерін шығаратын тіркелген сауда белгісіне айналады деп ойлаған жоқ еді. "Grok" сөзі бір нәрсені терең түсінуді, мәнін меңгеруді білдіреді.

2016 жылы Джонатан Росс Groq-ты құрды және оған тауарлық белгі ретінде тіркеді. Groq жасанды интеллектіні өңдеуді жеделдетуге арналған шешімдерді әзірлейді, оның негізгі өнімі — LPU Inference Engine. Groq ЖИ чипі чатботтардың жұмысын салыстырмалы түрде көп қолданыстағы GPU-негізіндегі жүйелерге қарағанда 10 есеге дейін жылдам әрі тиімді болуына мүмкіндік береді.

Groq чиптері Nvidia-дан немен ерекшеленеді

Groq LPU-сы мен Nvidia GPU-сы арасындағы басты айырмашылық деректерді өңдеу тәсілінде. GPU-лар графика мен мәліметтерді параллель өңдейді, себебі экрандағы пиксельдер бір-бірінен тәуелсіз болады. Ал Groq LPUs деректерді тізбекті өңдейді, бұл тілдік тапсырмалар үшін өте маңызды, себебі сөйлемдегі сөздер логикалық тұрғыдан байланысты. Осындай ретті деректерді өңдеу LPU жүйесіне Nvidia GPU-ға қарағанда LLM шығаруын жылдамырақ қамтамасыз етуге көмектеседі.

Groq өнімдер тізімі

• Groq Cloud: ЖИ қолданба әзірлеушілеріне арналған серверсіз инфрақұрылым.
• Groq Rack: 64 Groq чипін біріктіретін ірі масштабты мәліметтер өңдеуге арналған есептеу кластері.
• Groq Node: Сегіз GroqCard үдеткішімен жабдықталған сервер.
• Groq Card: Әзірлеушілерге арналған үдеткіш.
• GroqWare: Жеке әзірлеуге арналған Groq API, компилятор мен құралдар пакеті.

Groq сандарда

• 70 000 әзірлеуші, Groq технологиясын пайдаланады.
• 128 миллион API сұранысы өңделген.
• 19 000 қолданба LPU инфрақұрылымында жасалған.
• $640 миллион көлемінде D сериялы қаржыландыруда тартылды, бұл Groq бағасын $2,8 млрд-қа жеткізді.

Nvidia-мен бәсекелестік

Жақында Nvidia акциялары құны 27% төмендеді, нарықтық болжамдардың шектеулері және кейбір теріс факторлар әсерінен, дегенмен бұл компания 80% нарық үлесімен ЖИ чиптер нарығында жетекші орында қалуда. Алайда Groq-тың LPU технологиясы Nvidia-ның үстемдігіне сынақ болуда. Джонатан Росс айтуынша, Groq чиптері нақты ЖИ тапсырмалары үшін Nvidia GPU-ларына қарағанда неғұрлым тиімді.

Росс жылдың соңына дейін Groq инфрақұрылымы ЖИ-стартаптар үшін негізгі таңдау болады деп есептейді. Сондай-ақ, OpenAI-пен өзара тиімді шарттар табылса, серіктестік мүмкін екенін атап өтті.

Жеке технологиялық компаниялардың үлестерін бізбен бірге сатып алғыңыз келе ме? Wealth және Growth аккаунт жоспарларын қараңыз — олар эксклюзивті венчурлық мәмілелерге қол жеткізуге мүмкіндік береді!

Ескерту: «Тауарлық белгіні қолдану тек ақпараттық мақсатта және қандай да бір мақұлдау не серіктестікті білдірмейді. Сонымен қатар, бұл хабарламадағы ақпарат тек танысу мақсатында берілді және бағалы қағаздарды сатып алу, сату, жазылу немесе ешқандай ұсыныс немесе шақыру болып табылмайды».