top of page
Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
logo.png

Google Cloud Umumkan Trillium TPU, VM A3 Ultra

Generatived

25/1/17 4:30

Akhir tahun 2024 menyaksikan pengumuman serangkaian kemajuan dalam infrastruktur AI, termasuk peluncuran Trillium, TPU generasi keenam, dan A3 Ultra VM dengan GPU NVIDIA H200. Perkembangan ini juga memperkenalkan dukungan untuk kluster node berskala di Google Kubernetes Engine dan peluncuran Parallelstore, sistem file terdistribusi yang dirancang untuk komputasi performa tinggi dan beban kerja AI. Alat-alat ini diharapkan dapat meningkatkan kemampuan pengembang untuk menciptakan solusi AI.

Google juga memperkenalkan komputer hiper AI, sistem komprehensif yang menggabungkan perangkat keras yang dioptimalkan, perangkat lunak terbuka, dan model konsumsi yang fleksibel. Pendekatan ini memungkinkan pengembang untuk memilih berbagai komponen infrastruktur agar selaras dengan persyaratan beban kerja spesifik mereka, menyediakan platform serbaguna untuk mengembangkan solusi AI di Google Cloud.

Pembaruan mencakup ketersediaan umum VM A3 Ultra dan Hypercompute Cluster untuk mendukung beban kerja terdistribusi. Didukung oleh GPU NVIDIA H200, VM A3 Ultra menyediakan bandwidth dan memori jaringan GPU-ke-GPU yang lebih besar, sementara Hypercompute Cluster menyediakan platform layanan komputasi super yang menyederhanakan penerapan dan pengelolaan sejumlah besar akselerator.

LG Research telah mulai memanfaatkan layanan baru ini, dan Jiyeon Jung, insinyur infrastruktur AI senior di perusahaan tersebut, memuji peningkatan kinerja dan skalabilitas yang dihadirkan oleh VM A3 Ultra dan kluster hypercomputing untuk proyek AI mereka. Ia juga menyebutkan kemudahan dalam menyiapkan dan menjalankan kluster sebagai peningkatan yang signifikan.

Selain itu, Trillium TPU diperkenalkan untuk meningkatkan throughput inferensi bagi agen AI, dengan peningkatan 3x lipat dari generasi sebelumnya. Google Cloud menawarkan berbagai cara untuk memanfaatkan TPU ini, termasuk Vertex AI dan alat lain yang dirancang khusus untuk Cloud TPU. Dukungan eksperimental untuk vLLM pada TPU dengan PyTorch/XLA 2.5 juga diumumkan, yang memungkinkan pengguna untuk mengeksplorasi manfaat performa Cloud TPU dalam pengaturan yang ada.

Bagikan artikel ini:

Berita terkini
Arcserve日本CEO来日・戦略発表会

Arcserve日本CEO来日・戦略発表会

25/2/7 4:30

Arcserve Japan(東京都千代田区)は、ザ・キャピトルホテル東急で「Arcserve CEOクリス・バベル来日取材会」を開催。

セミナーインフォAI金融業界セミナー開催

セミナーインフォAI金融業界セミナー開催

25/2/7 4:30

セミナーインフォ(東京都千代田区)は、2025年3月6日に金融業界向けのセミナー「AIがもたらす金融業界のデジタル変革」を開催する。

ゼンプロダクツAI小説校正機能追加

ゼンプロダクツAI小説校正機能追加

25/2/7 4:30

ゼンプロダクツ(埼玉県朝霞市)は、AI校正サービスShodoに小説の校正機能を追加したと発表した。

APTO AI開発初心者向けコラム公開

APTO AI開発初心者向けコラム公開

25/2/7 4:30

APTO(東京都渋谷区)はAI開発に関する最新コラムを公開した。

Copyright © 2024 Generatived - All right Reserved.

Bagikan artikel ini:

Bagikan artikel ini:

Generatived

Ikuti kami

  • Facebook
  • X

Bahasa

Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.

Generatived AI Logo

Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.

  • Facebook
  • X

Ikuti kami

Bahasa

Berita terkini
Arcserve日本CEO来日・戦略発表会

Arcserve日本CEO来日・戦略発表会

25/2/7 4:30

Arcserve Japan(東京都千代田区)は、ザ・キャピトルホテル東急で「Arcserve CEOクリス・バベル来日取材会」を開催。

セミナーインフォAI金融業界セミナー開催

セミナーインフォAI金融業界セミナー開催

25/2/7 4:30

セミナーインフォ(東京都千代田区)は、2025年3月6日に金融業界向けのセミナー「AIがもたらす金融業界のデジタル変革」を開催する。

ゼンプロダクツAI小説校正機能追加

ゼンプロダクツAI小説校正機能追加

25/2/7 4:30

ゼンプロダクツ(埼玉県朝霞市)は、AI校正サービスShodoに小説の校正機能を追加したと発表した。

APTO AI開発初心者向けコラム公開

APTO AI開発初心者向けコラム公開

25/2/7 4:30

APTO(東京都渋谷区)はAI開発に関する最新コラムを公開した。

bottom of page