xAI của Elon Musk bắt tay với Nvidia để mở rộng Grok

Updated: 29/10/2024 at 16:00

Nhà sản xuất chip Nvidia vừa công bố vào thứ Hai rằng công nghệ mạng Spectrum-X của họ đã góp phần mở rộng siêu máy tính Colossus, thuộc startup xAI, hiện đang được công nhận là cụm đào tạo AI lớn nhất thế giới.

Siêu máy tính Colossus và khả năng đào tạo AI vượt trội

Tọa lạc tại Memphis, Tennessee, Colossus đảm nhiệm vai trò đào tạo cho thế hệ thứ ba của Grok, bộ mô hình ngôn ngữ lớn của xAI, được phát triển nhằm hỗ trợ các tính năng chatbot dành cho người dùng đăng ký X Premium. Siêu máy tính này được hoàn thành trong chỉ 122 ngày và đã bắt đầu đào tạo các mô hình đầu tiên chỉ 19 ngày sau khi lắp đặt. Theo thông báo của Nvidia, xAI, startup của tỷ phú công nghệ Elon Musk, dự định tăng gấp đôi công suất của hệ thống lên 200.000 GPU.

Colossus là một hệ thống GPU khổng lồ, trong đó mỗi GPU đảm nhiệm việc xử lý các tập dữ liệu lớn. Khi các mô hình Grok được đào tạo, chúng cần phân tích một khối lượng lớn văn bản, hình ảnh và dữ liệu để cải thiện độ chính xác trong phản hồi. Được Musk ca ngợi là cụm đào tạo AI mạnh mẽ nhất thế giới, Colossus kết nối 100.000 GPU NVIDIA Hopper thông qua mạng Remote Direct Memory Access (truy cập bộ nhớ trực tiếp từ xa) thống nhất. GPU Hopper của Nvidia xử lý các tác vụ phức tạp bằng cách phân chia khối lượng công việc và thực hiện xử lý song song.

Kiến trúc này cho phép dữ liệu di chuyển trực tiếp giữa các node, giúp giảm thiểu độ trễ và tối ưu hóa thông lượng cho các tác vụ đào tạo AI quy mô lớn. Trong khi các mạng Ethernet truyền thống thường gặp phải tình trạng tắc nghẽn và mất gói tin, dẫn đến giới hạn thông lượng ở mức 60%, Spectrum-X đạt được thông lượng lên đến 95% mà không làm giảm độ trễ.

Spectrum-X không chỉ cải thiện khả năng giao tiếp giữa các GPU mà còn tăng tốc độ và độ chính xác trong việc đào tạo Grok, điều này rất quan trọng để phát triển các mô hình AI có khả năng phản hồi hiệu quả trong các tương tác với con người. Thông báo mới cho thấy Nvidia tiếp tục khẳng định vị thế của mình trong lĩnh vực sản xuất chip đồ họa và AI, trong bối cảnh nhu cầu ngày càng tăng về công nghệ này.

Tham gia Telegram: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Itadori

Theo Decrypt

Được đề cập trong bài viết
Mới cập nhật

Sui (SUI) tiếp tục đối mặt với áp lực bán mạnh khi đà giảm được kéo dài sang phiên thứ ba liên tiếp. Tại thời điểm ghi nhận vào thứ Ba, giá SUI giảm thêm khoảng 1%, phản ánh xu hướng suy yếu chưa có dấu hiệu chững lại. Token... ...

Công an thành phố Đà Nẵng vừa triệt phá thành công một chuyên án lớn liên quan đến hành vi lừa đảo chiếm đoạt tài sản bằng hình thức kinh doanh đa cấp tiền ảo, với quy mô hoạt động trên phạm vi toàn quốc và số tiền chiếm đoạt... ...

Hoạt động trên mạng lưới Bitcoin đã giảm xuống mức thấp nhất trong vòng 12 tháng khi năm sắp khép lại. Trung bình động 7 ngày của số lượng địa chỉ hoạt động hiện chỉ còn khoảng 660.000. Dù yếu tố mùa vụ thường khiến hoạt động chững lại vào... ...

BNB (trước đây là Binance Coin) đang dao động quanh ngưỡng 855 USD tại thời điểm viết bài vào ngày thứ Ba, sau nhịp điều chỉnh nhẹ trong phiên trước đó. Áp lực giảm giá ngày càng rõ nét khi các dữ liệu on-chain và thị trường phái sinh cho... ...

Bitcoin lao dốc xuống mốc 85.000 USD vào ngày 15/12, nối dài chuỗi giảm giá khi các rủi ro vĩ mô toàn cầu, hoạt động giảm đòn bẩy và thanh khoản hạn chế cùng lúc tác động mạnh. Đợt giảm này đã cuốn phăng hơn 100 tỷ USD khỏi tổng... ...

Chủ tịch SEC Paul Atkins cảnh báo rằng nếu không được kiểm soát bằng các chính sách chính thức, chính phủ liên bang có thể khai thác tiềm năng của lĩnh vực crypto để phục vụ giám sát tài chính trên diện rộng. Tuy nhiên, theo ông, ngành này cũng... ...

Aster (ASTER), Midnight (NIGHT) và Ethena (ENA) đang dẫn đầu nhóm altcoin giảm mạnh nhất trong 24 giờ qua, khi thị trường tiền điện tử bước vào giai đoạn điều chỉnh rõ rệt sau cú trượt giá của Bitcoin (BTC) xuống dưới ngưỡng 86.000 USD. Đà suy yếu của tiền... ...

Mặc dù Bitcoin (BTC) đã phục hồi nhẹ sau cú giảm sâu, ZCash (ZEC) vẫn chưa thể lấy lại những gì đã mất gần đây. Theo báo cáo mới nhất của Coinphoton, ZCash có tiềm năng tăng lên mức $605 nếu phá vỡ thành công khỏi kênh giá giảm. Một... ...

Các sản phẩm đầu tư crypto toàn cầu do những tổ chức quản lý tài sản lớn như BlackRock, Bitwise, Fidelity, Grayscale, ProShares và 21Shares quản lý đã ghi nhận dòng tiền ròng vào đạt 864 triệu USD trong tuần qua, theo dữ liệu từ CoinShares. Đây là tuần thứ... ...

Mantle (MNT) đang giữ vững vị thế trên vùng hỗ trợ ngắn hạn quanh mốc 1,23 USD tại thời điểm viết bài ngày thứ Ba, bất chấp bức tranh ảm đạm của thị trường tiền điện tử nói chung. Nếu phe bò tiếp tục gia tăng sức ép và củng... ...

Xem thêm bài viết

Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode