Kakaoが28日、Hugging Face（ハギングフェイス）に軽量言語モデル(SLM)4種を公開した。スマートフォンや個人PCなど機器上で直接動作させることを目標に設計されたモデルで、Kanana-2-1.3B-base、Kanana-2-1.3B-instruct、Kanana-2-3B-base、Kanana-2-3B-instructの4種である。
Kakaoは今回のモデルを商業的活用まで許容する「Kanana（カナナ）オープンライセンス」で配布すると明らかにした。同社は自社開発したKananaモデルの軽量版を公開することが、韓国内のAIエコシステム拡大に貢献するとの立場を示している。
Kakaoは、公開モデルが韓国語と英語の両方で同規模の最新オープンソースモデルと比較して、韓国語、英語、知識、数学、コードなど大半の代表的なベンチマークで優れた性能を記録したと説明した。同社によると、Kanana-2-1.3B-instructとともに開発したKanana-2-0.9B-instructは、対話、知識、コード、数学、指示遂行、ツール呼び出しなどの項目でQwen、Gemmaなど同級モデルに匹敵する結果を出した。ただし0.9Bモデルは今回の公開対象4種には含まれていない。
モデルにはKakaoが昨年開発した韓国語特化トークナイザーが適用された。トークナイザーはAIモデルが文章を処理単位に分割する方式を決定する要素で、韓国語に合わせて設計するほど同じ文章をより少ない単位で処理でき、演算量とコストが減る。Kakaoはこれにより韓国語処理効率を従来比30%以上改善したと明らかにした。
メモリと演算資源が制限された環境を考慮した設計も適用された。長い対話を処理する際にメモリ使用量が急増する問題に対応してスライディングウィンドウアテンション構造を導入しており、同社は最大3万2000トークン長の対話においてメモリを最大72.7%まで削減しながら性能を維持できると説明した。
Kakaoは現在、カナナインカカオトーク、カカオトーク対話要約および通話要約、AI国民秘書などのサービスに自社の軽量モデルを適用している。ノ・ビョンソク カカオ ユニファイドファウンデーションモデル成果リーダーは「エージェンティックAI時代を準備する中で、クラウドの大規模AIとオンデバイス軽量AIの両方の重要性を実感している」とし、「今回のオープンソース公開モデルが、より多くの開発者や企業による新しいAIサービス開発につながることを願う」と述べた。
