xAI của Elon Musk bắt tay với Nvidia để mở rộng Grok

Updated: 29/10/2024 at 16:00

Nhà sản xuất chip Nvidia vừa công bố vào thứ Hai rằng công nghệ mạng Spectrum-X của họ đã góp phần mở rộng siêu máy tính Colossus, thuộc startup xAI, hiện đang được công nhận là cụm đào tạo AI lớn nhất thế giới.

Siêu máy tính Colossus và khả năng đào tạo AI vượt trội

Tọa lạc tại Memphis, Tennessee, Colossus đảm nhiệm vai trò đào tạo cho thế hệ thứ ba của Grok, bộ mô hình ngôn ngữ lớn của xAI, được phát triển nhằm hỗ trợ các tính năng chatbot dành cho người dùng đăng ký X Premium. Siêu máy tính này được hoàn thành trong chỉ 122 ngày và đã bắt đầu đào tạo các mô hình đầu tiên chỉ 19 ngày sau khi lắp đặt. Theo thông báo của Nvidia, xAI, startup của tỷ phú công nghệ Elon Musk, dự định tăng gấp đôi công suất của hệ thống lên 200.000 GPU.

Colossus là một hệ thống GPU khổng lồ, trong đó mỗi GPU đảm nhiệm việc xử lý các tập dữ liệu lớn. Khi các mô hình Grok được đào tạo, chúng cần phân tích một khối lượng lớn văn bản, hình ảnh và dữ liệu để cải thiện độ chính xác trong phản hồi. Được Musk ca ngợi là cụm đào tạo AI mạnh mẽ nhất thế giới, Colossus kết nối 100.000 GPU NVIDIA Hopper thông qua mạng Remote Direct Memory Access (truy cập bộ nhớ trực tiếp từ xa) thống nhất. GPU Hopper của Nvidia xử lý các tác vụ phức tạp bằng cách phân chia khối lượng công việc và thực hiện xử lý song song.

Kiến trúc này cho phép dữ liệu di chuyển trực tiếp giữa các node, giúp giảm thiểu độ trễ và tối ưu hóa thông lượng cho các tác vụ đào tạo AI quy mô lớn. Trong khi các mạng Ethernet truyền thống thường gặp phải tình trạng tắc nghẽn và mất gói tin, dẫn đến giới hạn thông lượng ở mức 60%, Spectrum-X đạt được thông lượng lên đến 95% mà không làm giảm độ trễ.

Spectrum-X không chỉ cải thiện khả năng giao tiếp giữa các GPU mà còn tăng tốc độ và độ chính xác trong việc đào tạo Grok, điều này rất quan trọng để phát triển các mô hình AI có khả năng phản hồi hiệu quả trong các tương tác với con người. Thông báo mới cho thấy Nvidia tiếp tục khẳng định vị thế của mình trong lĩnh vực sản xuất chip đồ họa và AI, trong bối cảnh nhu cầu ngày càng tăng về công nghệ này.

Tham gia Telegram: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Itadori

Theo Decrypt

Được đề cập trong bài viết
Mới cập nhật

Strategy của Michael Saylor, hiện là tổ chức công khai nắm giữ Bitcoin lớn nhất thế giới, tiếp tục đẩy mạnh chiến lược tích lũy Bitcoin trong tuần qua, đưa tổng lượng dự trữ lên con số ấn tượng hơn 760.000 BTC. Theo hồ sơ được nộp lên Ủy ban... ...

Avalanche (AVAX) duy trì giao dịch trong sắc xanh trên mốc 10 USD vào thời điểm viết bài ngày thứ Hai, tiếp nối đà tăng khoảng 13% ghi nhận trong tuần trước. Token của blockchain Layer-1 này đang dần thu hút trở lại dòng tiền từ nhà đầu tư cá... ...

Pi Network (PI) đã chính thức ra mắt phiên bản đầu tiên của Pi Launchpad dưới dạng ứng dụng Pi App trên Testnet, sử dụng một token thử nghiệm vào ngày 16 tháng 3. Đáng chú ý, team phát triển khẳng định rằng cơ chế ra mắt token này được... ...

Solana (SOL) nhích lên trên mốc 90 USD tại thời điểm viết bài vào thứ Hai, sau khi tăng khoảng 13% trong tuần trước. Sức hút của Solana đối với cả nhà đầu tư tổ chức lẫn cá nhân vẫn được duy trì, thể hiện qua dòng tiền tiếp tục... ...

Thị trường tiền điện tử dự kiến sẽ đón nhận nguồn cung token mới trị giá hơn 438 triệu USD trong tuần thứ ba của tháng 3 năm 2025. Nhiều dự án lớn như LayerZero (ZRO), Lombard (BARD) và River (RIVER) sẽ tiến hành các đợt mở khóa token quan... ...

Aave và CoW Swap hôm thứ Bảy đã công bố các báo cáo hậu kiểm riêng biệt liên quan đến giao dịch ngày 12/3, trong đó một người dùng đã hoán đổi hơn 50 triệu USD aEthUSDT nhưng chỉ nhận lại khoảng 36.000 USD aEthAAVE thông qua widget swap do... ...

Bitcoin (BTC), Ethereum (ETH) và Ripple (XRP) đồng loạt phát đi tín hiệu tích cực trong phiên đầu tuần, sau khi ghi nhận mức tăng lần lượt 10%, 12% và 8% trong tuần trước. Bitcoin hiện đang tiến sát một vùng kháng cự kỹ thuật quan trọng, Ethereum đã xác... ...

Các giao thức cho vay DeFi trong lĩnh vực tiền điện tử đã chứng kiến sự sụt giảm mạnh mẽ, với tổng giá trị thị trường giảm khoảng 45 tỷ USD kể từ tháng 10 năm ngoái. Theo dữ liệu từ Artemis, tổng lượng tiền gửi trên các nền tảng... ...

Trong 24 giờ qua, giá RIVER đã trở thành tâm điểm chú ý của giới đầu tư khi ghi nhận mức tăng trưởng đáng kể 11%, vượt xa mức tăng trung bình từ 4% đến 6% của phần lớn thị trường tiền điện tử. Bước ngoặt tại thời điểm quan... ...

Một trong những tín hiệu đáy được tin cậy nhất của Bitcoin dựa trên giả định đơn giản: khi những đồng coin “cũ” bắt đầu di chuyển, điều đó đồng nghĩa với việc một điều gì đó quan trọng đã thay đổi trên thị trường. Các trader và nhà phân... ...

Xem thêm bài viết

Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode