AIサービスを動かすのにかかる半導体コストを減らすソフトウェアを作るKAIST教授創業企業AnyBridgeが、シード投資を受けた。初期投資専門ベンチャーキャピタルのThe VenturesがAnyBridgeにシード投資（金額非公開）を行った。AnyBridgeはThe Venturesの推薦により、中小ベンチャー企業部のTIPSにも選定された。
生成AIをサービスに使う企業が増える中、学習を終えたAIモデルが実際の利用者からのリクエストに答える「推論」のコストが、企業にとって負担として浮上している。現在はこの作業の大部分をNVIDIAのGPUに依存している。AI演算に特化したNPU（ニューラル・プロセッシング・ユニット）や、メモリ内で演算まで処理する知能型メモリ半導体（PIM）がコストと電力効率の高い代案として挙げられているが、これを実際のAIサービスにすぐ使えるようにするソフトウェアはまだ黎明期にある。
AnyBridgeが作るのは、GPUとNPU、PIMのように種類の異なるAI半導体を一つにまとめて使う実行環境だ。応答速度やコスト、モデルサイズといった条件に合わせて各推論作業を最も適した半導体に自動で割り当てる方式で、GPUのみを使う場合に比べて推論コストを40~70%削減することを目標とする。OpenAIやGoogleのGemini、AnthropicのClaudeのAPIと互換性があり、企業は既存の開発方式を変えずに導入できる。企業向けAIエージェントプラットフォームも併せて開発する。
AnyBridgeはKAIST電算学部のパク・ジョンセ、クォン・ヨンジン両教授が共同で設立した。両教授はコンピュータシステムアーキテクチャ分野の最上位学会に論文110本余りを発表しており、Google、Meta、NVIDIA、サムスン電子、SKハイニックスと共同研究を行ってきた。AI半導体企業SambaNovaの共同創業者であるクンレ・オルコトゥン・スタンフォード大学教授がアドバイザーを務めている。
技術の根幹は、パク代表の研究チームがオープンソースとして公開したAIサービス運営シミュレーター「LLMServingSim」であり、2024年の国際ワークロード特性評価学会（IISWC）で最優秀論文賞を受賞した。
韓国内のAI半導体企業との協力も始めた。AnyBridgeは昨年9月、FURIOSA AI、HYPER ACCELとNPUベースの企業向けAIエージェントプラットフォームを共同開発する協約を結び、「Kakao AI育成プロジェクト」では参加企業60社余りの中から大賞を受賞した。調達した資金とTIPS資金は製品開発と顧客実証に使う。年内に顧客企業2~3社と試験導入を進め、Kakaoクラウドとクラウド環境での性能を検証した後、2027年に正式製品を発売する計画だ。
キム・チョルウ The Ventures代表は「生成AIを実際のサービスに使う企業が増えるにつれ、モデル性能に劣らず運営コストの負担も大きくなっている」とし、「AnyBridgeはGPUに集中しているAI駆動環境を多様なAI半導体に広げられるチームだ」と述べた。
パク・ジョンセ AnyBridge代表は「GPU以外にも多様なAI半導体が登場しているが、企業がこれらを共に活用できるソフトウェアはまだ初期段階だ」とし、「企業がハードウェアの制約なしにAIサービスに集中できる統合運営基準を作っていく」と述べた。
