Google Distributed Cloud (GDC) memperluas jangkauan layanan kecerdasan buatan yang diberikan dalam pusat data milik organisasi atau langsung di edge. Solusi ini disesuaikan untuk tugas-tugas AI dan data intensif serta menyediakan kombinasi perangkat keras dan perangkat lunak yang terkelola sepenuhnya. Ini menawarkan beragam pilihan perangkat keras, terintegrasi dengan berbagai perangkat lunak industri melalui GDC Marketplace, dan memiliki fleksibilitas untuk beroperasi terhubung ke Google Cloud atau terisolasi dari internet publik.

Penambahan terbaru GDC mencakup server yang dioptimalkan AI dengan GPU NVIDIA H100 Tensor Core, memanfaatkan arsitektur Hopper NVIDIA dan prosesor Intel Xeon Scalable Generasi ke-5. Server-server ini memperkenalkan keluarga VM A3 NVIDIA yang dirancang untuk NVLink guna mendukung beban kerja AI termasuk model bahasa skala besar. Pembaruan ini juga memperluas profil GPU multi-instance NVIDIA untuk menyediakan skema alokasi sumber daya GPU baru yang menjadikan layanan AI lebih efisien dan hemat biaya.

GDC saat ini menawarkan solusi pencarian percakapan lokal yang didukung oleh model bahasa skala besar Gemma 2. Solusi ini memungkinkan organisasi untuk memproses data sensitif secara internal dan mendukung kemampuan pencarian melalui kueri bahasa alami. Gabungkan metode penelusuran tradisional dengan AI generatif untuk meningkatkan respons kueri menggunakan arsitektur generatif yang disempurnakan dengan penelusuran. Solusi ini terintegrasi dengan API terlatih Vertex AI untuk berbagai jenis data dan bahasa, serta layanan database AlloyDB Omni untuk pencarian dan penyimpanan data tingkat lanjut.

Kerangka kerja cloud terbuka GDC berfokus pada fleksibilitas, memungkinkan organisasi menyesuaikan solusi pencarian percakapan dengan kebutuhan spesifik mereka. Hal ini mencakup opsi untuk mengganti komponen dengan alternatif seperti Elasticsearch, model sumber terbuka lainnya, atau model Anda sendiri, sehingga memastikan penerapan AI dapat disesuaikan dan disesuaikan.