Chip AI Jalapeño đã được hoàn tất giai đoạn thiết kế và chuyển sang sản xuất thử nghiệm (tape-out) chỉ trong chín tháng...

OpenAI và Broadcom đã giới thiệu Jalapeño, bộ xử lý được thiết kế riêng cho các mô hình ngôn ngữ lớn (LLM) và các tác vụ AI tác tử (agentic AI).

Công ty xem đây là một dự án mang ý nghĩa chiến lược và kỳ vọng Jalapeño sẽ trở thành thế hệ đầu tiên trong hệ sinh thái phần cứng suy luận do chính hãng phát triển.

Bộ xử lý mới kết hợp được cả thông lượng cao lẫn độ trễ thấp. Hai yếu tố thường khó đạt được đồng thời trong các hệ thống AI quy mô lớn.

Để làm được điều này, Jalapeño sử dụng các chiplet tính toán có kích thước lớn cùng bộ nhớ băng thông cao HBM, thay vì lựa chọn các loại DRAM chi phí thấp hơn như nhiều bộ tăng tốc suy luận khác trên thị trường.

Theo Tom's Hardware, cách tiếp cận này được cho là đặc biệt phù hợp với các mô hình suy luận phức tạp và các hệ thống agentic AI đòi hỏi yêu cầu phản hồi nhanh nhưng vẫn phải duy trì năng lực xử lý khối lượng lớn tác vụ đồng thời.

Bên cạnh đó, OpenAI và Broadcom cho biết Jalapeño được thiết kế nhằm đạt mức hiệu quả khai thác tài nguyên cao hơn so với các bộ tăng tốc AI thông thường, đồng thời có khả năng vận hành gần với ngưỡng hiệu năng lý thuyết tối đa của phần cứng.

Con chip hiện đã được sử dụng để chạy một số khối lượng công việc học máy nội bộ, bao gồm cả GPT-5.3-Codex-Spark.

Hai doanh nghiệp cũng khẳng định các thử nghiệm ban đầu cho thấy hiệu năng trên mỗi watt của Jalapeño vượt trội đáng kể so với những nền tảng phần cứng AI tiên tiến đang có mặt trên thị trường.

Tuy nhiên, hai công ty vẫn chưa công bố số liệu, kết quả benchmark, cấu hình bộ nhớ hay bất kỳ thông tin kỹ thuật nào có thể giúp giới chuyên môn kiểm chứng những tuyên bố này. 

Hai công ty đã hé lộ hình ảnh tấm wafer và gói đóng chip, qua đó phần nào cho thấy quy mô đáng chú ý của bộ xử lý này.

Từ những hình ảnh được công bố, có thể thấy gói đóng chip của Jalapeño gồm một chiplet tính toán kích thước lớn nằm ở trung tâm, được bao quanh bởi sáu mô-đun bộ nhớ băng thông cao HBM. Bên cạnh đó là một chiplet khác nhiều khả năng đảm nhiệm các chức năng đầu vào/đầu ra (I/O), xung quanh được bố trí hai khuôn giả có vai trò cân bằng cấu trúc và hỗ trợ đóng gói.

Dựa trên kích thước tiêu chuẩn của các mô-đun HBM3 và HBM4 (khoảng 10,975 mm × 10,975 mm), giới phân tích ước tính tương đối kích thước của chiplet tính toán trung tâm. Theo đó, chiplet này có thể có chiều rộng khoảng 25,46 mm và chiều cao khoảng 33 mm, tương đương diện tích xấp xỉ 840 mm2, gần chạm tới giới hạn của khuôn chip được sản xuất bằng công nghệ quang khắc EUV hiện nay, khoảng 858 mm2.

Trong vài năm trở lại đây, các nhà sản xuất như AMD và Nvidia có xu hướng chuyển sang thiết kế đa chiplet cho các bộ xử lý huấn luyện AI nhằm tối đa hóa hiệu năng.

Trong khi đó, việc OpenAI và Broadcom đang lựa chọn sử dụng chiplet tính toán đơn lẻ nhưng có kích thước rất lớn, có thể phản ánh ưu tiên khác, đó là giảm thiểu độ trễ truyền dữ liệu giữa các thành phần xử lý.

Theo OpenAI và Broadcom, Jalapeño chỉ mất chín tháng để hoàn tất giai đoạn thiết kế và chuyển sang sản xuất thử nghiệm (tape-out), trước khi dự kiến được triển khai từ cuối năm 2026. Đây là tốc độ phát triển đặc biệt nhanh đối với một bộ xử lý AI chuyên dụng có độ phức tạp cao.

Trong ngành bán dẫn, việc thiết kế một ASIC hoàn toàn mới thường kéo dài từ 18 đến 24 tháng. Vì vậy, việc Jalapeño hoàn thành chỉ trong chín tháng cho thấy AI có thể đang góp phần thu hẹp đáng kể chu kỳ phát triển chip.

Hai công ty không tiết lộ mức độ tham gia cụ thể của AI trong quá trình thiết kế, song thừa nhận đã sử dụng các mô hình của OpenAI để hỗ trợ một số công đoạn như tối ưu hóa kiến trúc và tăng tốc quy trình phát triển chip. 

Jalapeño được thiết kế không chỉ để đáp ứng nhu cầu của riêng OpenAI mà còn hướng tới mục tiêu thương mại hoá cho ngành.

Ông Hock Tan, Chủ tịch kiêm Tổng giám đốc điều hành của Broadcom, cho biết Jalapeño sẽ được triển khai trong các trung tâm dữ liệu quy mô gigawatt của Microsoft và các đối tác khác từ năm 2026.