Google telah memperkenalkan dua tingkatan layanan baru, Flex dan Priority, untuk API Gemini. Pembaruan ini dirancang untuk memberi pengembang lebih banyak kendali atas biaya dan keandalan melalui antarmuka terpadu.

Tingkatan baru ini menangani beban kerja latar belakang dan interaktif tanpa memerlukan arsitektur terpisah. Hal ini diharapkan dapat menyederhanakan pengembangan dengan memungkinkan penanganan sinkron dari berbagai jenis tugas.

Flex diposisikan sebagai opsi hemat biaya untuk tugas-tugas yang toleran terhadap latensi, menawarkan harga yang lebih rendah sebagai imbalan atas pemrosesan prioritas yang lebih rendah. Sebaliknya, Priority dirancang untuk aplikasi dengan keandalan tinggi yang membutuhkan kinerja yang konsisten.

Pengembang dapat mengarahkan beban kerja berdasarkan tingkat kepentingannya, sehingga meningkatkan efisiensi dan stabilitas sistem. Pembaruan ini diharapkan dapat mendukung berbagai aplikasi AI, termasuk layanan waktu nyata dan tugas pemrosesan skala besar.