地下鉄で紐解く、AIの未来と金メダル獲得の喜びをシェア！Ristの快挙

Rist Kaggle Teamの金メダル獲得

株式会社Ristは、世界的なデータ競技プラットフォームであるKaggleが主催する「AI Mathematical Olympiad - Progress Prize 2」において、金メダルを獲得しました。これは、Kaggle GrandmasterのChen Jianが個人で、同じくGrandmasterの山口大器が参加するチームが競い合った結果です。

コンペティションの概要

このコンペティションは、2024年10月17日から2025年4月1日まで開催され、難易度の高い数学の問題をAIを活用して解決することが求められました。参加したのは2,670人、2,211チームという大規模なもので、その中でChenは7位、山口が所属するチームが9位に入賞し、見事金メダルを獲得しました。全体の競争が激しい中でのこの成果は、Ristの技術力を証明するものです。

戦略と取り組み

Chen Jianのアプローチ

Kaggle GrandmasterのChenは、この競技のテーマが魅力的であり、最新の大規模言語モデル（LLM）技術との相性が良いと感じていました。彼は、強化学習の最近の進展を活用したい気持ちが強かったものの、期限が迫る中での作業であったため、既存のモデルを効率的に活用する戦略にシフトしました。具体的には、次の二つのアプローチに注力しました。1つは、バッチでの長文コンテキストデコーディング時に帯域幅のボトルネックを緩和するためのKVキャッシュの量子化、もう1つは、提出時に残り時間と prior profiling に基づいて、推論パラメータの動的調整を行うことでした。最終的には、金メダルの獲得は多くの要因が重なった結果であり、幸運も少なからず影響を与えたと認識しています。

山口大器の視点

山口は、コンペ開催中に新しいオープンソースLLMが次々と登場する中で、参加者たちのスコアが上がっていく様子に興奮を覚えたと語っています。与えられた数学の問題は非常に高度で、最新のAIの能力を最大限に引き出す必要があり、挑戦的なコンペでした。この経験から得た知識が、今後の技術進歩に寄与することを期待していると述べています。

Kaggleとは？

Kaggleは、登録者数が2,300万人を超える、データ分析に特化したプラットフォームです。企業などから出題された課題に対して、Kagglerと呼ばれるユーザーがモデルの精度を競い合っています。成績に応じて、Kaggle Grandmaster、Kaggle Masterなどのランクに分けられ、最上位のGrandmasterには362人しかおらず、業界内での名声の象徴とも言えます。