マーケットプレイスの小型モデルをローカルで動かし、ファイルに対して素早くクエリできるデスクトップアプリです。コンパクトモデルをダウンロードしてローカルエンドポイントを立て、質問応答・抜粋のエクスポート・簡易ログを提供します。
チームはマーケットのモデルを自社文書で試したいが、機密データをクラウドAPIに送るのは避けたい。ローカルで推論環境を立てるのは一人だと手間がかかります。
CPUで動く小さなモデルを選んで取得し、ローカルエンドポイントを自動設定するインストーラを提供します。ファイルアップロードと抜粋エクスポートに対応し、リソース上限の設定やワンクリックでのモデル切替えが可能。価格は少額の買い切り＋モデルアクセス料のオプションです。
小さな法律コンサルのプロダクト責任者ハナは、事例要約で小型のリーガルQ&Aモデルを試したいと考え、LocalModel Queryboxをインストール。マーケットから500MBのモデルを選び、PDFフォルダを指定します。アプリはテキストを抽出してインデックス化し、「ファイルABCの義務をまとめて」と入力すると30秒で3段落の要約が返り、ハナはメモに転記。別の少し大きいモデルに切り替えて表現を比較し、3件のクエリを実行後モデルを削除してディスクを開放。顧客データは一切外部に出さず、セットアップは20分未満でした。
パースペクティブ: Making technical tools accessible to non-experts
作成日時: 2025/11/22 17:09:22