Snapdragonで「OpenAI」の推論モデルがオンデバイスで利用できるように、OpenAIのモデルがオープンソース化

　クアルコムは現地時間6日、OpenAIの推論モデルをオンデバイスで利用できる思考連鎖推論モデル「gpt-oss-20b」がオープンソース化されたと発表した。フラッグシップ級のSnapdragonプロセッサーで直接動くもので、これによりOpenAIで初めてデバイス上で推論に利用できるようになるという。

　同社は、早期アクセス版でQualcomm AI エンジンとQualcomm AI スタックとの統合テストを実施、デバイス上で完全に思考連鎖の推論ができる優れたモデルであることが確認できたという。オンデバイスで利用できることで、プライバシーとレイテンシー面でのメリットを享受できる。クラウドAIとともにAIエージェントを経由して双方のメリットを活かしながらAIを活用できるようになる。

　「gpt-oss-20b」は、Hugging FaceやOllamaなどのプラットフォームで配布される。Snapdragonデバイスでの導入についても、近日中にQualcomm AI Hubで公開される。