Googleの最近の記事によると、コンピューターアーキテクチャーの研究は進化しており、産業界と学界は、特定の要件を満たす機械学習（ML）の最適化にますます重点を置いているが、強⼒で再現可能なベースラインが⽋如している。そのため、さまざまな⼿法間の公平な⽐較に課題が⽣じ、その導⼊が妨げられている。
これらの課題に対処する方法としてGoogleは「ArchGym: An Open-Source Gymnasium for Machine Learning Assisted Architecture Design」というタイトルの研究論⽂を公開した。 ArchGymは、さまざまなコンピューター アーキテクチャーシミュレーターとMLアルゴリズムを含むオープンソースフレームワークだ。 ⽬的は、再現可能なベンチマークを確⽴し、ML ⽀援アーキテクチャー設計の進歩を促進することだ。
ArchGymは、ArchGym環境とArchGymエージェントという2つの主要コンポーネントで構成される統⼀フレームワークを提供することにより、研究者がさまざまなMLベースの検索アルゴリズムを公平に評価できるようにする。 ArchGym環境は、アーキテクチャーコストモデルをカプセル化する。これにより、ある⼀連のアーキテクチャーパラメータが与えられれば、ワークロードを実⾏するための計算コストが自動的に決まる。エージェントは検索に使⽤されるMLアルゴリズムを表し、ハイパーパラメーターとガイドポリシーで構成される。
Googleの研究結果は、⼗分に多数のサンプルがあれば、MLアルゴリズムの多様なコレクションが特定の問題に対して最適なアーキテクチャー設計パラメータのセットをつけられることを⽰した。この研究では、最適なア ーキテクチャー設計を達成するために、MLアルゴリズムに適切なハイパーパラメーターを選択することの重要性も強調している。
ただし、ML ⽀援アーキテクチャーの研究には、独⾃の⼀連の課題が伴う。
これには、最適なMLアルゴリズムとハイパーパラメーターの特定、アーキテクチャー探索における精度、速度、コスト間のトレードオフへの対処、さまざまな制約下でのさまざまなMLアルゴリズムの有効性の⽐較などが含まれる。
ArchGymの導⼊は、標準化されたインターフェイスを提供し、MLベースのプロキシーアーキテクチャーの コストモデルをトレーニングするためのデータセットの作成を容易にすることで、これらの課題に取り組むことを⽬ 的としている。ArchGymを活⽤することで、研究者はより優れたデータ駆動型モデルを設計し、アーキテクチャーシミ ュレーションの速度を向上させることができる。
Googleの論文では、ML⽀援アーキテクチャー研究のためのコミュニティー主導のエコシステムの必要性も強調している。コ ンピューターアーキテクチャー研究にMLを適⽤する際の未解決の課題に対処するには、学際的な研究者の包括的なエコシステムを構築することが不可⽋だ。
