OpenAI dan Broadcom umumkan chip ASIC Jalapeño untuk inferensi LLM skala pusat data
OpenAI dan Broadcom mengumumkan chip baru bernama Jalapeño yang dirancang khusus untuk inferensi model bahasa besar (LLM) di pusat data. Keduanya menyebut ini sebagai generasi pertama dari proyek jangka panjang untuk menyempurnakan chip dari waktu ke waktu. OpenAI mengatakan pengujian awal menunjukkan kinerja per watt Jalapeño jauh lebih baik dibandingkan teknologi tercanggih saat ini, namun pengukuran masih berlangsung dan laporan teknis rinci akan dipublikasikan dalam beberapa bulan mendatang.