xAI của Elon Musk bắt tay với Nvidia để mở rộng Grok

Updated: 29/10/2024 at 16:00

Nhà sản xuất chip Nvidia vừa công bố vào thứ Hai rằng công nghệ mạng Spectrum-X của họ đã góp phần mở rộng siêu máy tính Colossus, thuộc startup xAI, hiện đang được công nhận là cụm đào tạo AI lớn nhất thế giới.

Siêu máy tính Colossus và khả năng đào tạo AI vượt trội

Tọa lạc tại Memphis, Tennessee, Colossus đảm nhiệm vai trò đào tạo cho thế hệ thứ ba của Grok, bộ mô hình ngôn ngữ lớn của xAI, được phát triển nhằm hỗ trợ các tính năng chatbot dành cho người dùng đăng ký X Premium. Siêu máy tính này được hoàn thành trong chỉ 122 ngày và đã bắt đầu đào tạo các mô hình đầu tiên chỉ 19 ngày sau khi lắp đặt. Theo thông báo của Nvidia, xAI, startup của tỷ phú công nghệ Elon Musk, dự định tăng gấp đôi công suất của hệ thống lên 200.000 GPU.

Colossus là một hệ thống GPU khổng lồ, trong đó mỗi GPU đảm nhiệm việc xử lý các tập dữ liệu lớn. Khi các mô hình Grok được đào tạo, chúng cần phân tích một khối lượng lớn văn bản, hình ảnh và dữ liệu để cải thiện độ chính xác trong phản hồi. Được Musk ca ngợi là cụm đào tạo AI mạnh mẽ nhất thế giới, Colossus kết nối 100.000 GPU NVIDIA Hopper thông qua mạng Remote Direct Memory Access (truy cập bộ nhớ trực tiếp từ xa) thống nhất. GPU Hopper của Nvidia xử lý các tác vụ phức tạp bằng cách phân chia khối lượng công việc và thực hiện xử lý song song.

Kiến trúc này cho phép dữ liệu di chuyển trực tiếp giữa các node, giúp giảm thiểu độ trễ và tối ưu hóa thông lượng cho các tác vụ đào tạo AI quy mô lớn. Trong khi các mạng Ethernet truyền thống thường gặp phải tình trạng tắc nghẽn và mất gói tin, dẫn đến giới hạn thông lượng ở mức 60%, Spectrum-X đạt được thông lượng lên đến 95% mà không làm giảm độ trễ.

Spectrum-X không chỉ cải thiện khả năng giao tiếp giữa các GPU mà còn tăng tốc độ và độ chính xác trong việc đào tạo Grok, điều này rất quan trọng để phát triển các mô hình AI có khả năng phản hồi hiệu quả trong các tương tác với con người. Thông báo mới cho thấy Nvidia tiếp tục khẳng định vị thế của mình trong lĩnh vực sản xuất chip đồ họa và AI, trong bối cảnh nhu cầu ngày càng tăng về công nghệ này.

Tham gia Telegram: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Itadori

Theo Decrypt

Được đề cập trong bài viết
Mới cập nhật

Cơ quan quản lý tài chính của Vương quốc Anh đã phê duyệt các quy tắc và hướng dẫn mới cho các quỹ token hóa, nhằm giúp các nhà quản lý tài sản dễ dàng sử dụng blockchain trong khuôn khổ quỹ hiện có thay vì các cấu trúc thử... ...

Bitcoin (BTC) đã tăng vọt lên trên 77.900 USD vào thứ Tư, nhưng bóng nến trên dài cho thấy áp lực bán xuất hiện khi giá tăng. Nhà phân tích on-chain Willy Woo đã cho biết trong một bài đăng trên X rằng “BTC cần đóng cửa trên mức giá... ...

Bitcoin (BTC) đã kéo dài đà sụt giảm trong hai ngày vào thứ Tư sau khi biên bản của Ủy ban Thị trường Mở Liên bang (FOMC) xác nhận quyết định của Fed về việc giữ “phạm vi mục tiêu cho lãi suất quỹ liên bang ở mức 3,5% đến... ...

Bitcoin đã giảm giá sau khi mỗi chủ tịch Cục Dự trữ Liên bang Mỹ (Fed) mới bắt đầu làm việc, dữ liệu cho thấy, trong khi Kevin Warsh đưa ra những tín hiệu trái chiều về chính sách đối với các tài sản rủi ro. Bitcoin (BTC) có thể... ...

Ripple [XRP] đã chứng kiến hơn 1,10 tỷ token được các cá voi tái phân bổ chỉ trong một tuần, báo hiệu một sự thay đổi mạnh mẽ trong hành vi của các chủ sở hữu lớn. Sự chuyển dịch này phản ánh mức giảm đáng kể trong nguồn cung... ...

Căng thẳng địa chính trị giữa Mỹ và Iran đã làm gia tăng biến động, thúc đẩy các nhà giao dịch giảm thiểu rủi ro. Đáng chú ý, dòng vốn đã xoay vòng sang các đồng stablecoin như một động thái phòng thủ. Dòng tiền trên sàn Binance đã phản... ...

Canada đang tiến gần hơn đến việc cấm các khoản quyên góp chính trị được thực hiện bằng tiền điện tử, khi các nhà lập pháp tại Ottawa thắt chặt các quy tắc xung quanh cách thức dòng tiền chảy vào các cuộc bầu cử. Điều đó diễn ra sau... ...

Công ty Strategy của Michael Saylor đã mua 3.273 Bitcoin với giá 255 triệu USD trong khoảng thời gian từ ngày 20 đến 26 tháng 4, nâng tổng số lượng nắm giữ lên 818.334 BTC. Strategy của Michael Saylor, tổ chức sở hữu Bitcoin công khai lớn nhất thế giới,... ...

Ether (ETH) đã tăng hơn 10% trong tháng 4, đạt mức cao nhất là 2.430 USD trong tháng này giữa bối cảnh sự lạc quan của thị trường quay trở lại. Biểu đồ ETH/USD hàng ngày. Nguồn: TradingView Tuy nhiên, trong cùng thời kỳ đó, Ethereum Foundation, một tổ chức... ...

Đợt tăng giá vào tháng 4 của Bitcoin đã bộc lộ sự thiếu đồng nhất rõ rệt giữa hành động giá và hành vi của các quỹ ETF. Giá của đồng tiền mã hóa này đã leo lên mức 79.000 USD vào ngày 22 tháng 4, trong khi dòng vốn... ...

Xem thêm bài viết

Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode