Groq: Новый конкурент Nvidia

Если вы интересуетесь индустрией AI-чипов, вам наверняка известно, что различные производители выпускают чипы для визуальных и чат-бот задач. Долгое время Nvidia была лидером рынка по решениям на базе GPU для искусственного интеллекта. Однако с появлением LPU (Language Processing Units) от Groq обучение чат-ботов стало быстрее, дешевле и эффективнее. Вот почему.

Что такое Groq?

Когда писатель-фантаст Роберт Хайнлайн придумал неологизм «grok» для своего романа Чужак в чужой стране в конце XX века, он вряд ли предполагал, что это слово станет зарегистрированным товарным знаком компании, выпускающей AI-чипы. «Grok» означает глубокое понимание, постижение сути.

В 2016 году Джонатан Росс основал Groq и зарегистрировал товарный знак. Groq разрабатывает решения для ускорения обработки искусственного интеллекта, и её флагманский продукт — LPU Inference Engine. Чип Groq для искусственного интеллекта позволяет чат-ботам работать до 10 раз быстрее и эффективнее по сравнению с решениями на GPU, которые сейчас стандартно используются в AI-технологиях.

Чем чипы Groq отличаются от Nvidia

Главное отличие LPU от Groq от GPU Nvidia заключается в способе вывода данных. GPU обрабатывают графику и данные параллельно, поскольку пиксели на экране независимы друг от друга. В то время как LPU Groq выполняют последовательную обработку данных, что крайне важно при работе с языком — ведь слова в предложении логически связаны друг с другом. Благодаря этому LPU ускоряют генерацию LLM по сравнению с GPU от Nvidia.

Продуктовая линейка Groq

• Groq Cloud: серверная инфраструктура для разработчиков AI-приложений.
• Groq Rack: вычислительный кластер, включающий 64 чипа Groq для обработки крупных массивов данных.
• Groq Node: сервер с восемью ускорителями GroqCard.
• Groq Card: ускоритель для разработчиков.
• GroqWare: пакет, включающий Groq API, компилятор и инструменты для кастомной разработки.

Groq в цифрах

• 70 000 разработчиков используют технологии Groq.
• 128 миллионов выполненных API-запросов.
• 19 000 приложений разработано на инфраструктуре LPU.
• $640 миллионов привлечено в раунде финансирования серии D, что увеличило оценку компании Groq до $2,8 млрд.

Конкуренция с Nvidia

Несмотря на то, что [Nvidia за последний период потеряла в цене 27% от максимальных значений]((https://raison.app/blog/article/analytics/september-2-6-weekly-economic-update) на фоне ограниченных прогнозов и ряда негативных факторов, компания по-прежнему лидирует на рынке AI-чипов с 80% рыночной долей. Однако технология LPU от Groq становится серьезным вызовом доминированию Nvidia. По словам Джонатана Росса, чипы Groq эффективнее, чем GPU Nvidia, для ряда AI-задач.

Росс отметил, что к концу года инфраструктура Groq, возможно, станет основным выбором для AI-стартапов. Также он допустил возможность партнерства с OpenAI при достижении взаимовыгодных условий.

Хотите вместе с нами приобретать акции частных технологических компаний? Ознакомьтесь с нашими тарифами Wealth и Growth, чтобы получить доступ к эксклюзивным венчурным сделкам!

Отказ от ответственности: «Использование товарного знака осуществляется исключительно в информационных целях и не подразумевает одобрения или аффилированности. Кроме того, представленная информация предоставляется только для ознакомления и не является офертой на покупку, предложением о продаже, подписке или приобретении каких-либо ценных бумаг».