AIの推論能力の強化に向け、Microsoftは、AIモデルが複雑なアルゴリズム推論を実行できるようにする新しいアプローチを発表した。GPT-3やPaLMなどの大規模言語モデル（LLM）は、主にモデルサイズとトレーニング データの拡大によって目覚ましい進歩を遂げている。ただし、LLMが記号推論タスクを効果的に実行できるかどうかについては、根本的な議論が続いている。AIが直面する重要な課題の1つは、象徴的に推論する能力、つまり、論理ルールに基づいてシンボルを操作する能力だ。AIモデルはパターンをうまく一致させることができるが、算術演算などのルールベースの推論タスク、特に大きな数の場合には苦労することがよくある。これは、そのようなタスクに必要な基礎的な論理ルールについての理解にギャップがあることを示唆している。Microsoftの先駆的なソリューションは、記事「インコンテキスト学習によるアルゴリズム推論の教育」で詳しく説明されており、コンテキスト学習を利用してLLMにアルゴリズム推論機能を装備する新しい方法を導入している。インコンテキスト学習により、AIモデルは重み調整を必要とせずに、モデルのコンテキスト内のいくつかのプロンプト例に基づいてタスクを実行できるようになる。このアプローチには、LLMが最初のプロンプトに含まれる問題を超えた複雑な算術問題で優れた能力を発揮できるように設計された、独自のアルゴリズムプロンプト手法が組み合わされている。新しいアルゴリズムによるプロンプト技術は、各ステップが綿密に説明されたステップバイステップのアルゴリズムソリューションを生成することでAIモデルがタスクを解決できるようにする。これは従来のアプローチとは一線を画す。例えば、2つの数値の加算などの算術演算の場合、新しい技術には明示的な方程式が組み込まれて、曖昧さを排除し、正確な解釈を容易にする。Microsoftの研究では、この進歩をさらに一歩進めて、より広範な問題解決プロセスへのアルゴリズム推論の統合について詳しく調査している。この研究では、さまざまなスキルに特化したAIモデルがコンテキスト内学習を通じてどのように連携できるかを検証している。これらの強みを活用することで、モデルは複雑なタスクに協力して対処でき、さまざまなドメインにわたってアルゴリズム推論を効果的に活用するAIの可能性を実証する。