【テクノロジー】AIの今後の発展シナリオとは？​ChatGPTはグローバルで採用が加速し、6億人規模の利用者数達成が視野に！

※「【テクノロジー】AIの今後の展望：Test Time Compute（テスト時計算）が未来を切り開く！？」の続き

前章では、AIの今後の展望を語る上で不可欠な「Test Time Compute（テスト時計算）」という概念とAIの将来性に関して詳しく解説しております。

本稿の内容への理解をより深めるために、是非、インベストリンゴのプラットフォーム上にて、前章も併せてご覧ください。

AIの今後の発展シナリオとは？計算リソースの必要性は依然として高く、ROIが課題に？

事前学習の進化は、明らかにペースダウンしています。「Test Time Compute（テスト時計算）」などの新しい手法で内部的には問題ないと言いたいところですが、これは少し理想的なストーリーに反している感があります。それでも、次に進むべき方向を見据えることはできます。そして現実として、「良いことはいつまでも続かない」というのが真理です。また、事前学習が「すべて」ではないことも明らかです。

次世代モデルにはトレードオフや制約が避けられません。たとえば、5ギガワット規模のクラスターが中止されるかもしれませんが、それでも需要の95%は柔軟に対応可能です。大規模なクラスターは小規模なものに比べて圧倒的に経済効率が良く、この傾向は1ギガワット規模までは確実に維持されるでしょう。一方、テスト時の計算では、モデルサイズが驚くほど巨大化し、特定の用途に合わせて計算される設計になっています。また、段階的な強化学習（RL）のトレーニング後に必要となるリソースについては、まだ触れていません。

市場では、すべてのデータセンターが縮小され、10メガワット規模の施設に戻ると予測する意見もありますが、私たちはその方向には進まないでしょう。計算コストを抑える上で最も重要なのは、データ密度を高めることです。

本稿への理解を一層深めるために、インベストリンゴのプラットフォーム上より、私が以前執筆した下記のレポートを併せてご覧いただければと思います。

実際のところ、それとは大きく異なります。5ギガワットのクラスターは中止になるかもしれませんが、500メガワットのクラスターを10個運用するのは十分に合理的です。要するに、計算コストをより安く抑えるための手段というわけです。

さて、ここからが私の一番好きな部分です——誰も話題にしていない、または気にも留めてい