Startup Cạnh Tranh Với Nvidia Bằng Chip AI Siêu Tốc

Chip WSE-3, sản xuất bởi TSMC của Đài Loan, là thế hệ chip thứ ba của Cerebras, với 4 nghìn tỷ bóng bán dẫn và 900.000 lõi AI, mang lại băng thông bộ nhớ cao hơn 7.000 lần so với H100 của Nvidia.

 Một công ty khởi nghiệp của Hoa Kỳ, Cerebras Systems, đang tiến hành thách thức sự thống trị của Nvidia trong lĩnh vực GPU dành cho AI bằng cách phát triển và triển khai chip AI riêng biệt của họ. Với chiếc chip Wafer Scale Engine, kích thước tương đương một chiếc iPad, Cerebras đã công bố dịch vụ mới vào thứ Ba, cho phép khách hàng sử dụng công nghệ này để xử lý các tác vụ AI hiệu quả hơn.

Startup Cạnh Tranh Với Nvidia Bằng Chip AI Siêu Tốc

Cerebras tuyên bố rằng công nghệ của họ có thể xử lý các chương trình AI sinh tổng hợp nhanh hơn đến 20 lần so với GPU Nvidia nhưng chỉ với một phần năm chi phí. Đặc biệt, dịch vụ mới của họ, Cerebras Inference, tập trung vào khả năng suy luận của AI, cho phép tạo ra dữ liệu mới như dự đoán từ tiếp theo trong một đoạn văn.

Startup Cạnh Tranh Với Nvidia Bằng Chip AI Siêu Tốc

Sử dụng chip này, Cerebras đã hợp tác với Meta để cung cấp năng lượng cho mô hình ngôn ngữ Llama 3.1, đạt hiệu suất với khả năng sản xuất 1.800 token mỗi giây cho phiên bản 8 tỷ tham số và 450 token mỗi giây cho phiên bản 70 tỷ tham số. Điều này cho thấy một sự vượt trội đáng kể so với các dịch vụ đám mây AI khác như AWS của Amazon, Microsoft Azure và Groq, trong đó chi phí cho dịch vụ của Cerebras chỉ là một phần nhỏ so với các lựa chọn dựa trên GPU.

Chip WSE-3, sản xuất bởi TSMC của Đài Loan, là thế hệ chip thứ ba của Cerebras, với 4 nghìn tỷ bóng bán dẫn và 900.000 lõi AI, mang lại băng thông bộ nhớ cao hơn 7.000 lần so với H100 của Nvidia. Tuy nhiên, việc so sánh này có phần lệch lạc do Nvidia đã công bố kiến trúc Blackwell mới, hứa hẹn hiệu suất cao hơn nhiều so với H100.

Startup Cạnh Tranh Với Nvidia Bằng Chip AI Siêu Tốc

Cerebras đang tìm cách mở rộng quyền truy cập đến chip WSE-3 của mình thông qua việc cung cấp silicon cho các nhà cung cấp dịch vụ đám mây khác, dù giá thành của chip này không hề rẻ, với mỗi hệ thống CS-3 có giá "vài triệu đô la". Điều này khiến giá thành của hệ thống Cerebras đắt hơn đáng kể so với một GPU H100 duy nhất của Nvidia, có thể có giá khoảng 30.000 đô la.

Bài liên quan

Bài đọc nhiều nhất

Bài mới trong ngày

CEO của Valve, Discord, Reddit và Twitch bị triệu tập điều trần trước Quốc hội Mỹ về nạn cực đoan hóa trực tuyến

CEO của Valve, Discord, Reddit và Twitch bị triệu tập điều trần trước Quốc hội Mỹ về nạn cực đoan hóa trực tuyến

YcontentGấu Hồng

Các CEO của Valve, Discord, Reddit và Twitch sẽ phải điều trần trước Quốc hội Mỹ về trách nhiệm trong việc ngăn chặn cực đoan hóa trực tuyến, sau loạt vụ việc gây chấn động liên quan đến người dùng các nền tảng này. Đây là dấu hiệu cho thấy áp lực ngày càng lớn đặt lên các công ty công nghệ trong việc quản lý nội dung độc hại.

Giải trí
ASUS Expert Series - Giải Pháp Bền Bỉ Đưa Doanh Nghiệp Việt Bứt Phá Trong Kỷ Nguyên AI

ASUS Expert Series - Giải Pháp Bền Bỉ Đưa Doanh Nghiệp Việt Bứt Phá Trong Kỷ Nguyên AI

Khoa LêLê Khoa

Là thương hiệu laptop hàng đầu trong mảng tiêu dùng tại Việt Nam với hơn 26% thị phần máy tính Windows, và cũng đang dẫn đầu phân khúc laptop AI chạy Windows với trên 50% thị phần, ASUS đặt mục tiêu trở thành đối tác công nghệ đáng tin cậy cho các doanh nghiệp, tổ chức và các đơn vị đang chuyển đổi số mạnh mẽ.

Công Nghệ
Lên đầu trang