OpenAI en Broadcom lanceren Jalapeño, chip voor AI-inferentie

OpenAI en Broadcom hebben de Jalapeño-chip gepresenteerd, een speciaal ontworpen processor voor het draaien van large language models (LLM's). Deze nieuwe chip is gericht op AI-inferentie, de fase waarin getrainde modellen antwoorden genereren op basis van gebruikersprompts. Met deze ontwikkeling willen de bedrijven de efficiëntie en snelheid van AI-toepassingen verbeteren.

De Jalapeño-chip belooft aanzienlijke voordelen voor de verwerking van complexe AI-taken en kan een belangrijke rol spelen in de toekomst van kunstmatige intelligentie. Door de focus op inferentie kunnen ontwikkelaars en bedrijven sneller en effectiever gebruikmaken van AI-technologieën in hun toepassingen.

Bron: AI Wereld