NVIDIA telah meluncurkan serangkaian teknologi baru bernama ACE, yang dirancang untuk meningkatkan agen AI dalam industri game. Rangkaian ini mencakup berbagai model AI komprehensif yang dapat diintegrasikan ke dalam platform cloud dan perangkat, mencakup berbagai aspek pengembangan karakter dalam game seperti ucapan, kecerdasan, dan animasi. Untuk memfasilitasi pengoperasian model-model ini secara efisien bersama dengan mesin game, NVIDIA juga memperkenalkan In-Game Inferencing (NVIGI) SDK, yang menyediakan pustaka berkinerja tinggi bagi pengembang untuk integrasi game dan aplikasi C++.

Versi terbaru dari NVIDIA In-Game Inferencing SDK, versi 1.5, memperkenalkan contoh agen kode yang inovatif. Contoh ini menampilkan agen AI yang berkolaborasi dengan pemain untuk menaklukkan monster di lingkungan penjara bawah tanah 2D. Artikel ini menyoroti strategi untuk mengoptimalkan penggunaan sumber daya GPU dengan meminimalkan panggilan inferensi dan meningkatkan efektivitas setiap panggilan, sehingga mengurangi persaingan antara tugas grafis dan komputasi pada GPU.

Andrej Karpathy, salah satu pendiri OpenAI, telah membuat perbandingan antara bekerja dengan model bahasa besar (LLM) dan tindakan memanggil hantu. Metafora ini sangat cocok untuk agen LLM yang mampu menulis kode. Meskipun banyak agen kustom terbatas pada pemanggilan alat sederhana, ada pendekatan yang lebih ambisius di mana agen AI tidak hanya dapat memanggil fungsi tetapi juga menghasilkan kode pendukung, yang mengarah pada pemrosesan yang lebih efisien. Namun, pendekatan ini memiliki tantangan tersendiri, karena LLM yang tidak terbatas dengan kemampuan eksekusi kode dapat menimbulkan risiko keamanan yang signifikan, seperti kehabisan memori atau menyebabkan gangguan lainnya.

Artikel ini selanjutnya membahas keunggulan agen kode dibandingkan metode pemanggilan alat tradisional. Agen kode memanfaatkan kemampuan bawaan komputer untuk mengeksekusi kode, memungkinkan mereka untuk menghasilkan banyak panggilan fungsi dalam satu inferensi, sehingga menghindari penurunan kinerja. Mereka juga menawarkan fleksibilitas yang lebih besar, karena mereka dapat dengan mudah menulis kode dengan perulangan dan struktur kompleks lainnya, memungkinkan adaptasi dinamis dan penalaran kompleks tanpa perlu panggilan inferensi tambahan. Pendekatan ini tidak hanya menyederhanakan proses pengembangan tetapi juga meningkatkan pengalaman bermain game dengan mengurangi beban pada GPU.

NVIDIA mendorong para pengembang untuk mengeksplorasi potensi In-Game Inferencing SDK dengan mencoba sampelnya dan mempertimbangkan penerapannya dalam berbagai proyek game dan aplikasi. Selain itu, NVIDIA akan berpartisipasi dalam Game Developers Conference (GDC), di mana mereka akan membahas dampak rendering neural RTX dan AI pada masa depan pengembangan game serta menawarkan wawasan tentang tren terbaru dalam AI melalui sesi interaktif.