Amazon Web Services (AWS) telah memperkenalkan kemampuan baru pada Amazon Bedrock untuk meningkatkan kemampuan layanan dalam membangun dan menskalakan aplikasi AI generatif. Pembaruan ini bertujuan untuk mengatasi tantangan umum seperti ketidakakuratan faktual dan biaya operasional yang tinggi. Fitur-fitur baru termasuk pemeriksaan inferensi otomatis untuk mencegah kesalahan akibat “halusinasi AI”, kolaborasi multi-agen untuk tugas-tugas kompleks, dan distilasi model untuk menciptakan model yang efisien dan lebih kecil yang mempertahankan kinerja sekaligus mengurangi biaya.

Pemeriksaan inferensi otomatis adalah perlindungan unik yang dirancang untuk memastikan keakuratan konten yang dihasilkan AI, terutama di area di mana akurasi sangat penting. Fitur ini memungkinkan validasi respons AI dan meningkatkan keandalan aplikasi di industri yang diatur. Dengan keahlian inferensi otomatis AWS selama lebih dari satu dekade, pelanggan kini dapat menerapkan pemeriksaan ketat pada aplikasi AI mereka tanpa memerlukan pengetahuan khusus.

Untuk mempermudah menjalankan alur kerja yang kompleks, AWS telah memperluas Amazon Bedrock Agents untuk mendukung koordinasi beberapa agen AI khusus. Kolaborasi multi-agen ini memungkinkan Anda menyelesaikan tugas secara lebih akurat dan cepat dengan menetapkan peran tertentu kepada setiap agen dan mengelola interaksi mereka secara efektif. Pendekatan ini berguna untuk analisis kompleks seperti uji tuntas keuangan, yang memerlukan evaluasi berbagai aspek secara bersamaan.

Terakhir, Distilasi Model di AWS memberikan solusi bagi pelanggan yang ingin menyeimbangkan pengetahuan model dengan biaya dan latensi. Proses ini memungkinkan Anda mentransfer pengetahuan dari model besar ke model yang lebih kecil untuk meningkatkan fungsionalitas sekaligus menjaga kecepatan, mengurangi biaya. Pelanggan kini dapat dengan mudah membuat model yang jauh lebih cepat dan hemat biaya dengan sedikit kehilangan akurasi, cocok untuk aplikasi real-time seperti interaksi chat. Fitur-fitur baru ini saat ini tersedia dalam bentuk pratinjau dan sudah dimanfaatkan oleh organisasi seperti Moody's dan Robin AI untuk meningkatkan layanan mereka.