OpenAI và Broadcom vào thứ Tư (25/6) đã chính thức ra mắt chip AI tùy chỉnh mang tên Jalapeño, đánh dấu bước tiến quan trọng trong chiến lược cơ sở hạ tầng AI của OpenAI. Theo Giám đốc Broadcom Hock Tan, chip này được thiết kế cho suy luận (inference) thay vì huấn luyện, và có tốc độ cũng như hiệu quả ngang bằng với chip Blackwell của Nvidia hoặc TPU của Google khi làm việc với các mô hình ngôn ngữ lớn.

Thông số kỹ thuật và kế hoạch triển khai

Jalapeño được sản xuất bởi TSMC của Đài Loan trong vòng 9 tháng thiết kế. Chip đầu tiên dự kiến được triển khai vào cuối năm nay trên các máy chủ tùy chỉnh do Celestica của Canada sản xuất. Đây là thế hệ đầu tiên trong một dòng chip đa thế hệ. Richard Ho, người đứng đầu chương trình phần cứng của OpenAI, cho biết: “Chúng tôi đã tối ưu hóa kiến trúc xung quanh các kernel, di chuyển bộ nhớ, mạng lưới và các mẫu phục vụ quan trọng nhất cho các mô hình AI tiên tiến. Dựa trên thử nghiệm ban đầu, Jalapeño sẽ thực thi hiệu quả các khối lượng công việc quan trọng nhất của chúng tôi gần với giới hạn lý thuyết của phần cứng.”

Bối cảnh cạnh tranh và chiến lược

OpenAI không giấu giếm quan điểm rằng người chiến thắng trong cuộc đua AI sẽ là công ty di chuyển nhanh nhất để bảo đảm càng nhiều cơ sở hạ tầng AI càng tốt. Chip Jalapeño là một phần trong nỗ lực đa diện đó. Đối thủ Anthropic cũng được cho là đang khám phá việc tự sản xuất chip AI để bắt kịp OpenAI, cùng với Amazon (Trainium), Google (TPU), Meta (MTIA) và Microsoft (Maia). Tất cả đều hợp tác với các đối tác giàu kinh nghiệm như Broadcom và Marvell để thiết kế chip, sau đó được sản xuất bởi các xưởng đúc như TSMC, Samsung và Intel.

Qualcomm mua Modular với giá gần 4 tỷ USD

Cũng trong ngày thứ Tư, Qualcomm thông báo mua lại startup Modular (Los Altos, California) trong một thương vụ hoán đổi cổ phiếu trị giá khoảng 3,9 tỷ USD. Modular, được thành lập năm 2022 bởi cựu lãnh đạo kỹ thuật Google Chris Lattner và Tim Davis, sản xuất phần mềm chạy các mô hình AI (cho suy luận) trên nhiều loại bộ xử lý mà không cần viết mã riêng cho từng chip. Đối thủ chính của Modular là CUDA của Nvidia, vốn khóa nhà phát triển vào hệ sinh thái Nvidia. Thương vụ này giúp Qualcomm cạnh tranh trực diện hơn với Nvidia trong thị trường trung tâm dữ liệu AI, sau khi họ đã đặt chân vào lĩnh vực này vào cuối năm ngoái. CEO Qualcomm Cristiano Amon cho biết: “Chúng tôi tin rằng tương lai thuộc về các nền tảng ngang, thân thiện với nhà phát triển, có thể chạy trên nhiều môi trường tính toán khác nhau và mang lại cho khách hàng sự lựa chọn thực sự.” Thương vụ dự kiến kết thúc vào cuối năm nay. Qualcomm cũng được cho là đang đàm phán mua lại nhà thiết kế chip AI Tenstorrent với giá hơn 10 tỷ USD.

SK Hynix muốn huy động hơn 29 tỷ USD qua niêm yết tại Mỹ

Gã khổng lồ bán dẫn Hàn Quốc SK Hynix cho biết họ hy vọng huy động tới 45,45 nghìn tỷ won (hơn 29 tỷ USD) bằng cách phát hành chứng chỉ lưu ký Mỹ (ADR). Công ty, vừa trở thành công ty giá trị nhất Hàn Quốc cách đây vài ngày, đang tìm cách đa dạng hóa cơ sở nhà đầu tư cũng như tài trợ năng lực sản xuất chip nhớ dùng cho AI. SK Hynix là nhà sản xuất bộ nhớ lớn thứ hai thế giới (về sản lượng) sau Samsung. Số tiền huy động dự kiến được dùng để xây dựng nhà máy chip ở Yongin (cách Seoul 40 phút lái xe) và nhà máy đóng gói tiên tiến ở Cheongju (cách Seoul 90 phút lái xe), cũng như mua thiết bị sản xuất chip tiên tiến, bao gồm máy quét khắc cực tím (EUV) của ASML. Vào tháng 3, SK Hynix cho biết họ muốn mua 8 tỷ USD thiết bị EUV. Nếu thành công, đây sẽ là đợt phát hành ADR lớn nhất từ trước đến nay, vượt qua Alibaba (Trung Quốc) năm 2014.

Theo Fortune

Ảnh: ed br / Pexels