OpenAI และ Broadcom เปิดตัวชิป ASIC “Jalapeño” สำหรับทำ Inference ของ LLM ในดาต้าเซ็นเตอร์ เตรียมติดตั้งภายในปีนี้
OpenAI และ Broadcom ประกาศร่วมกันออกแบบชิป ASIC เฉพาะทางชื่อ Jalapeño เพื่อเร่งงานอนุมาน (inference) ของโมเดลภาษาขนาดใหญ่ในดาต้าเซ็นเตอร์ และมีแผนติดตั้งใช้งานภายในปีนี้ ชิปดังกล่าวถูกปรับแต่งตามแนวทางเทคโนโลยีของ OpenAI โดยมุ่งเพิ่มประสิทธิภาพต่อการใช้พลังงานและลดการพึ่งพาผู้ให้บริการ GPU จากภายนอก เนื้อหาระบุว่าเป้าหมายหนึ่งคือการลดการพึ่งพาบริษัทภายนอกอย่าง NVIDIA และผลักดันการบูรณาการแนวดิ่ง ขณะนี้ยังไม่มีข้อมูลประสิทธิภาพจากการทดสอบจริง โดยรายงานทางเทคนิคฉบับละเอียดจะเผยแพร่ในอีกไม่กี่เดือนข้างหน้า
