Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

AI Lab NLPチームの本多は、自然言語理解タスクにおけるショートカット問題に対処する新手法を開発した。彼らの研究は、"Transactions of the Association for Computational Linguistics"に採択された。この手法は、モデルが短絡的な予測に頼ることなく、より頑健な予測を行うことを可能にする。

研究チームは、自然言語理解タスクでのデータセットにおいて、アノテータの偏見や経験則がラベル予測に影響を与えることを指摘。彼らは、これらの偏りを「ショートカット」と呼び、モデルの予測力を損なう原因となると説明する。そこで、ショートカットへの依存を減らすための研究が行われた。

提案された手法は、mixture-of-experts (MoE) モデルを用いて、複数の特徴量がラベルと相関するデータ構造をモデル化する。学習時には、異なる特徴量に基づいて予測する専門家（expert）を設定し、推論時には最適な意思決定を行うための手法が提案された。

実験では、含意関係認識、言い換え同定、事実性検証のタスクにおいて、提案手法が分布外データにおける頑健な予測を可能にすることが示された。AI Lab NLPチームは、今後も異なる専門領域との共同研究を進め、自然言語処理の分野での進展を目指す。興味を持った研究者や学生には、リサーチインターンシップの機会も提供されている。