Personal AI telah menjalin kemitraan strategis dengan Comcast untuk meningkatkan kemampuan AI dengan memanfaatkan AI Grid, sebuah kerangka kerja baru yang dirancang untuk mengoptimalkan distribusi beban kerja AI. Kolaborasi ini, yang diumumkan di NVIDIA GTC, bertujuan untuk mempercepat pengiriman aplikasi generasi berikutnya dengan memanfaatkan kekuatan komputasi jaringan tepi. Model Bahasa Kecil Personal AI, yang merupakan bagian integral dari uji coba AI Grid, menjanjikan peningkatan waktu respons dan memori khusus pengguna, sekaligus mengurangi biaya operasional untuk aplikasi suara personalisasi waktu nyata.

Infrastruktur jaringan Comcast yang luas, yang menjangkau lebih dari 65 juta lokasi di AS, akan mendapat manfaat dari inisiatif ini dengan mendekatkan daya komputasi ke konsumen. Langkah ini dapat membangun salah satu platform paling ekstensif di negara ini untuk inferensi AI secara real-time. Uji coba di kantor pusat Comcast di Philadelphia telah menunjukkan kelayakan teknis dan ekonomi dari arsitektur Grid-ready Personal AI, yang menunjukkan masa depan yang menjanjikan untuk inferensi terdistribusi dalam layanan AI.

Konsep AI Grid berupaya mengatasi keterbatasan bawaan arsitektur berbasis cloud tradisional dengan menyebarkan beban kerja inferensi ke berbagai komponen jaringan. Pendekatan Personal AI, yang menyematkan memori langsung ke dalam model, mengurangi ketergantungan pada model yang lebih besar dan bergantung pada konteks. Sebaliknya, ia menggunakan model khusus dengan Memory Core untuk melayani berbagai kelompok pelanggan. Model-model ini tidak hanya cukup ringkas untuk beroperasi di tepi jaringan tetapi juga dinamis, mempertahankan memori percakapan dari waktu ke waktu. Strategi ini memungkinkan penyampaian pengalaman AI real-time, multi-modal, dan sangat personal dalam skala besar.

GPU NVIDIA RTX PRO 6000 Blackwell Server Edition mempercepat Small Language Models (SLM) Personal AI, memungkinkan latency, konkurensi, dan kinerja throughput seperti cloud tercapai lebih dekat ke pengguna akhir. Kemajuan teknologi ini menandai momen penting di mana AI dan telekomunikasi bergabung, menciptakan jaringan AI edge terdistribusi yang ideal untuk tugas inferensi. Upaya bersama antara Comcast dan Personal AI, yang didukung oleh NVIDIA, siap memenuhi tuntutan ketat untuk layanan AI real-time dalam industri telekomunikasi.