Meta đang tiến tới sản xuất phiên bản chip AI chuyên dụng mới nhất vào tháng 9, theo một bản ghi nhớ nội bộ được Reuters trích dẫn. Động thái này nằm trong nỗ lực giảm chi phí GPU của công ty giữa tình trạng khan hiếm linh kiện chưa từng có. Bản ghi nhớ cho biết ít nhất một con chip đã vượt qua giai đoạn thử nghiệm trong khoảng sáu tuần.

Hợp tác với Broadcom và TSMC để sản xuất chip

Meta đang hợp tác với Broadcom trong thiết kế chip, nhưng sẽ sử dụng Taiwan Semiconductor Manufacturing Company (TSMC) để sản xuất. Theo báo cáo, công ty cũng mua RAM từ Samsung, bộ nhớ từ Sandisk và thiết bị cáp quang từ Sumitomo Electric. Bốn con chip mới được phát triển trong khuôn khổ chương trình Meta Training and Inference Accelerator (MTIA) đã được Meta công bố chi tiết vào tháng 3, một số hiện đang được triển khai hoặc sẽ được triển khai trong năm nay hoặc năm sau.

Cách tiếp cận mô-đun và tiết kiệm chi phí GPU

Meta áp dụng cách tiếp cận mô-đun để thiết kế các chip này, dự đoán nhu cầu sẽ thay đổi khi AI phát triển nhanh chóng vào thời điểm chip được đưa vào sản xuất. Công ty viết: “Mỗi thế hệ MTIA kế thừa thế hệ trước, sử dụng chiplet mô-đun, tích hợp những hiểu biết mới nhất về khối lượng công việc AI và công nghệ phần cứng, đồng thời triển khai với nhịp độ ngắn hơn”. Các chip này dự kiến sẽ giúp Meta tiết kiệm chi phí mua GPU từ các nhà sản xuất chip như Nvidia và AMD, mặc dù công ty vẫn dự định chi tiêu đáng kể cho các nhà cung cấp đó. Meta có kế hoạch sử dụng chip MTIA để huấn luyện các mô hình cho thuật toán xếp hạng và đề xuất, khối lượng công việc AI rộng hơn và suy luận cho các ứng dụng của mình.

Chi tiêu khổng lồ cho cơ sở hạ tầng AI

Meta đã chi tiêu mạnh tay để đảm bảo đủ năng lực tính toán cho các nỗ lực AI. Vào tháng 4, công ty cho biết dự kiến chi tiêu vốn từ 125 tỷ đến 145 tỷ USD trong năm nay, phần lớn dành cho các nỗ lực AI. Công ty đã ký kết các thỏa thuận về trung tâm dữ liệu và năng lượng trên khắp thế giới, chi hàng chục tỷ USD để đảm bảo năng lực tính toán nhằm huấn luyện và triển khai dòng mô hình AI Muse Spark mới. Theo bản ghi nhớ, Meta có kế hoạch triển khai 7 gigawatt năng lượng tính toán trong năm nay và tăng gấp đôi vào năm sau.

Xu hướng tự sản xuất chip AI trong ngành

Meta không phải là công ty duy nhất cố gắng giảm dòng vốn đổ vào Nvidia. OpenAI tháng trước đã công bố bộ xử lý suy luận đang hợp tác với Broadcom, và Anthropic được cho là đang xem xét phát triển chip riêng với Samsung. Amazon và Google đều phát triển chip riêng cho huấn luyện và suy luận AI, cùng với nhiều startup đang xây dựng trong lĩnh vực này để đáp ứng nhu cầu tăng vọt. Meta từ chối bình luận.

Theo TechCrunch

Ảnh: geralt / Pixabay