Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Anthropic đã công bố việc cung cấp rộng rãi điểm cuối toàn cầu cho các mô hình Claude trên Vertex AI, cải thiện khả năng truy cập và độ tin cậy của các ứng dụng được hỗ trợ bởi AI. Điểm cuối toàn cầu này cho phép định tuyến động các yêu cầu đến bất kỳ khu vực nào có dung lượng khả dụng, cải thiện tính nhất quán về thời gian hoạt động cho người dùng triển khai các công cụ được hỗ trợ bởi Claude.

Trong giai đoạn xem trước, Global Endpoint đã được các công ty như Replicate thử nghiệm. Zeke Sikelianos, nhà sáng lập và kiến trúc sư của Replicate, đã ca ngợi sự kết hợp giữa mô hình ngôn ngữ của Claude và cơ sở hạ tầng mạnh mẽ của Google. Ông nhấn mạnh khả năng phản hồi nhanh toàn cầu của Global Endpoint là một lợi thế quan trọng trong việc triển khai các mô hình AI trên quy mô lớn.

Các điểm cuối toàn cầu hỗ trợ nhiều mô hình Claude, bao gồm các phiên bản Claude Opus 4 và Claude Sonnet, theo hình thức trả tiền khi sử dụng. Tính năng này đặc biệt hữu ích cho các ứng dụng ưu tiên tính khả dụng cao và không bị hạn chế về vị trí dữ liệu, đồng thời cung cấp một giải pháp thay thế cho các điểm cuối khu vực bị giới hạn bởi các hạn chế về địa lý.

Để tối ưu hóa việc sử dụng điểm cuối toàn cầu, Anthropic khuyến nghị gửi lưu lượng chính qua điểm cuối toàn cầu và sử dụng điểm cuối khu vực cho các khối lượng công việc nhạy cảm với dữ liệu. Tính năng này cũng giới thiệu một hạn ngạch toàn cầu riêng biệt, với giá yêu cầu cho điểm cuối toàn cầu khớp với giá yêu cầu cho điểm cuối khu vực, giúp đây trở thành một giải pháp tiết kiệm chi phí cho người dùng.