OpenAI giới thiệu chế độ “Ultrafast” tăng tốc mô hình GPT-5.6 Sol lên 14 lần

(Sóng trẻ) - Ngày 13/8, OpenAI chính thức ra mắt Ultrafast, chế độ xử lý mới cho GPT-5.6 Sol. Chế độ này có khả năng tạo tối đa 750 đơn vị dữ liệu nhỏ nhất mỗi giây, nhanh gấp 14 lần tốc độ xử lý tiêu chuẩn. 

Đáp ứng nhu cầu của người sử dụng mong muốn ChatGPT phản hồi nhanh hơn, OpenAI đã công bố chế độ Ultrafast, được thiết kế để tăng tốc quá trình xử lý của GPT-5.6 Sol, mô hình ngôn ngữ lớn cao cấp và mạnh nhất trong dòng thế hệ GPT-5.6 của công ty. 

Tốc độ mới hướng đến việc tăng lượng công việc mô hình có thể hoàn thành trong mỗi giây, thay vì phải sử dụng các mô hình nhỏ hoặc chuyên biệt để đạt phản hồi gần như theo thời gian thực. Ngoài ra, hãng cũng cho biết chế độ Ultrafast có thể được ứng dụng trong nhiều quy trình của doanh nghiệp. 

Ở mảng chăm sóc khách hàng, tốc độ xử lý cao giúp AI giải quyết những yêu cầu phức tạp ngay trong cuộc trò chuyện, kể cả khi cần tìm kiếm thông tin qua nhiều bước trên nhiều hệ thống. Trong thương mại điện tử, Ultrafast có thể hỗ trợ trả lời câu hỏi về sản phẩm, kiểm tra tồn kho, đưa ra gợi ý phù hợp với từng khách hàng và xử lý vấn đề trong quá trình thanh toán khi người mua vẫn đang tương tác với nền tảng. 

Khi phân tích tài chính, mô hình này cũng có thể xử lý tín hiệu thị trường, đánh giá giao dịch và phát hiện hoạt động đáng ngờ trong lúc các điều kiện thị trường liên tục thay đổi. Một số đối thủ của OpenAI cũng phát triển các chế độ tăng tốc cho mô hình AI. Công ty Anthropic cũng cung cấp chế độ Fast Mode cho phần mềm Claude; tuy nhiên, OpenAI cho biết Ultrafast được phát hành nhằm tạo nên tốc độ xử lý cao hơn.

OpenAI cũng hướng đến việc sử dụng Ultrafast cho hoạt động nghiên cứu và thử nghiệm trực tiếp. Những tác vụ trước đây cần chạy qua đêm có thể được chuyển thành quá trình tương tác liên tục, cho phép nhóm nghiên cứu kiểm tra ý tưởng, đánh giá kết quả, điều chỉnh phương án và tiến hành thử nghiệm tiếp theo mà không phải ngắt quãng công việc. 

Chế độ Ultrafast đang được phát hành dưới dạng bản xem trước và vận hành thông qua sự hợp tác giữa OpenAI với hãng sản xuất chip Cerebras. Tính năng mới trước mắt chỉ dành cho một nhóm khách hàng được lựa chọn. OpenAI dự kiến mở rộng quyền truy cập khi năng lực xử lý được tăng thêm.