タグ: Neural Operator

AIスタートアップのAccelerated Understandingは8月25日、言語ではなく物理現象の予測やシミュレーションを目的とした新しいAIモデルを発表した。

共同創業者は、カリフォルニア工科大学（Caltech）教授で元NVIDIAのAI研究責任者でもあるAnima Anandkumar氏と、AIインフラの専門家Benedikt Jenik氏。

ChatGPTやGeminiなどの生成AIが主に文章や画像を扱うのに対し、同社のAIは物体の動き、熱、流体、気象など、現実世界で起こる物理現象を理解・予測することを目指している。(Reuters⁠)

「次の言葉」ではなく「次に何が起きるか」を予測

現在広く使われている大規模言語モデルは、大量の文章などを学習し、文脈から次に続く言葉を予測することで回答を生成する。

一方、Accelerated Understandingが開発するAIは、空間と時間の中で物理現象がどのように変化するのかを予測する。

例えば、

• 熱がどのように広がるか
• 空気や液体がどのように流れるか
• 物体がどのように変形するか
• 天候がどのように変化するか

といった現象をAIによってシミュレーションすることを想定している。

同社はこれを、3次元の空間に時間を加えた「4D」の物理データを扱うAIと説明している。(Accelerated Understanding⁠)

ChatGPTとは異なる「Neural Operator」を採用

技術的にも、一般的な生成AIとは大きく異なる。

ChatGPTなど多くの生成AIでは「Transformer」と呼ばれる仕組みが使われている。

これに対し、Accelerated Understandingのモデルは「Neural Operator（ニューラル・オペレーター）」という技術を採用している。

Neural Operatorは、個々のデータだけを予測するのではなく、物理システム全体がどのように変化するのかという関係性を学習することを目的としたAI技術だ。

Anandkumar氏はこの分野の研究を長年進めており、過去にはAIを使った高解像度気象予測モデル「FourCastNet」の開発にも関わっている。(Accelerated Understanding⁠)

1回で「5兆」のデータポイントを処理

今回特に注目されているのが、AIが一度に扱えるデータ量だ。

Accelerated Understandingによると、同社のモデルは推論時に5兆を超える4次元データポイントを一度に処理できたという。

学習時には最大1兆規模のコンテキストを扱い、モデル自体についても大規模なスケーリング実験を実施している。(Accelerated Understanding⁠)

Reutersは、同社がテストで扱った5兆のデータポイントについて、AnthropicやGoogleの主力言語モデルが通常扱うコンテキストと比較すると約500万倍に相当すると報じている。(Reuters⁠)

ただし、この数字は単純なAI性能比較ではない。

言語AIが扱う「トークン」と、4次元の物理モデルが扱う「データポイント」は性質が異なるため、「5兆だからChatGPTより500万倍賢い」という意味ではない点には注意が必要だ。

半導体、ロボット、天気予測などへの活用を想定

同社が想定しているのは、一般消費者向けのチャットサービスではなく、科学やエンジニアリング分野での活用だ。

具体的には、

• 半導体やチップ設計
• ロボット開発
• 天気・気候予測
• エネルギー
• 地質解析
• 医療機器
• 物理シミュレーション

などへの利用を想定している。(Reuters⁠)

現在、こうした分野では用途ごとに専用のシミュレーションソフトやモデルを構築する場合が多い。

Accelerated Understandingは、より幅広い物理現象を一つのAIモデルで扱えるようにすることを目指している。