OpenAI та Broadcom представили чип Jalapeño для масштабного інференсу LLM у дата-центрах

OpenAI та Broadcom оголосили про спільну розробку спеціалізованого ASIC-чипа Jalapeño, оптимізованого для інференсу великих мовних моделей, із планом розгорнути його в дата-центрах до кінця року. Рішення налаштоване під технологічну дорожню карту OpenAI та націлене на підвищення енергоефективності. Компанії прямо вказують, що проєкт має знизити залежність від сторонніх постачальників GPU, зокрема NVIDIA, та підтримати вертикальну інтеграцію. Фактичних даних виміряної продуктивності поки немає — детальний технічний звіт обіцяють оприлюднити за кілька місяців.