Tập đoàn FPT công bố triển khai hạ tầng AI mới tại FPT AI Factory, sử dụng hệ thống NVIDIA HGX B300 - dòng GPU tân tiến dành cho các trung tâm AI quy mô lớn.
Hạ tầng này được thiết kế để phục vụ các bài toán trí tuệ nhân tạp trong giai đoạn mới như AI suy luận (reasoning) và AI tự vận hành (agentic AI) - những mô hình có khả năng ra quyết định và hành động thay vì chỉ xử lý dữ liệu.
Dịch vụ GPU Cloud trên hạ tầng NVIDIA HGX B300 được thiết kế chuyên biệt cho AI Reasoning và Agentic AI.
Khác với mô hình máy chủ truyền thống, FPT cung cấp hạ tầng này dưới dạng GPU Cloud, cho phép các doanh nghiệp và nhà phát triển AI gia tăng hiệu năng trong quá trình huấn luyện và suy luận mô hình, từ đó triển khai và linh hoạt mở rộng các ứng dụng AI quy mô lớn trong thời gian ngắn với mức chi phí vận hành tối ưu.
Hiện FPT AI Factory đang cung cấp 43 dịch vụ AI Cloud, phục vụ hơn 18.000 người dùng toàn cầu trong các lĩnh vực như tài chính, y tế và công nghệ. Hệ thống này đang vận hành trên nền tảng NVIDIA HGX H100 và HGX H200 tại Việt Nam và Nhật Bản.
Việc bổ sung NVIDIA HGX B300 nhằm đáp ứng nhu cầu xử lý các bài toán AI ngày càng phức tạp, đặc biệt ở giai đoạn suy luận - vốn đòi hỏi năng lực tính toán cao hơn nhiều so với huấn luyện.
FPT cho biết, với hạ tầng AI mới và đội ngũ kỹ sư giàu kinh nghiệm, FPT AI Factory không chỉ là nền tảng phát triển AI toàn diện mà còn hỗ trợ doanh nghiệp mở rộng hoạt động sang các thị trường như Nhật Bản và Đông Nam Á. Đây cũng là một phần trong định hướng xây dựng năng lực AI riêng cho khu vực.
Đọc nhiều
