AMD ra mắt Helion: tủ máy chủ dành riêng cho kỷ nguyên AI agent

Từ “trả lời” sang “hành động”

Theo tổng hợp tin tức trên X, AMD vừa ra mắt Helion, nền tảng rack-scale xây dựng trên Helios. Nếu thế hệ hạ tầng trước tối ưu cho việc sinh câu trả lời, Helion nhắm tới AI agent – các hệ thống lên kế hoạch, gọi công cụ, chạy code và thực hiện chuỗi tác vụ dài. Loại tải này cần nhiều CPU hơn bên cạnh GPU.

Hai cấu hình

• Bản hyperscale: thiên về CPU, chứa tới 32.768 lõi EPYC Zen 6 trong một rack, phục vụ việc thực thi agent quy mô lớn.
• Bản doanh nghiệp: kết hợp CPU và tối đa 16 GPU Instinct MI350P cho các tải tích hợp.

Cả hai hỗ trợ làm mát tiên tiến và mạng 102 Tbps. Các đối tác như Dell và HPE dự kiến cung cấp hệ thống từ tháng 11/2026.

Token suy luận tăng 95 lần

CEO Lisa Su cho biết lượng token suy luận AI đã tăng 95 lần trong hai năm – động lực chính cho nhu cầu hạ tầng mới. Khi mỗi người dùng chạy hàng chục agent song song, mỗi agent lại gọi công cụ và mô hình liên tục, tổng tải tính toán tăng theo cấp số nhân.

Nvidia cũng không đứng ngoài

Tại cùng sự kiện, Nvidia chia sẻ thiết kế rack CPU bổ trợ và các hệ thống có bộ định tuyến token chuyên dụng để điều phối lời gọi mô hình hiệu quả, hỗ trợ cả làm mát khí và chất lỏng. Cuộc đua giờ không chỉ là GPU nhanh nhất, mà là hệ thống hoàn chỉnh tối ưu cho agent, với xu hướng tiêu chuẩn mở thông qua Open Compute Project.

Ý nghĩa

Sự xuất hiện của Helion phản ánh bước chuyển của ngành: AI không còn chỉ là mô hình trả lời câu hỏi, mà là phần mềm tự vận hành cần môi trường chạy riêng. Với các nhà cung cấp đám mây và doanh nghiệp lớn, bài toán sắp tới là cân bằng giữa CPU, GPU, bộ nhớ và mạng để phục vụ “lực lượng lao động số” này với chi phí hợp lý.

Thông số kỹ thuật trong bài được tổng hợp từ thông tin chia sẻ trên X; cấu hình thương mại cuối cùng có thể thay đổi khi sản phẩm lên kệ.

Nguồn tham khảo

• X News – AMD Unveils Helion Rack for Agentic AI Workloads

Bài viết tổng hợp từ các bản tin tổng hợp bài đăng trên X (X News); thông tin có thể tiếp tục được cập nhật.