ローカルモデルとプライベート環境
Llama、Qwen、Mistral、gpt-oss などのオープンウェイトモデルを、お客様のサーバーやプライベートクラウドで動かします。データは社内インフラから出ず、質問ごとの費用もかかりません。このページのアシスタントもこの方式で動いています。
- Qwen
- Llama
- Mistral
- gpt-oss
- vLLM
- llama.cpp
- GPU サーバー
テクノロジー
私たちの AI が探し、つなぎ、答える仕組み
下にあるのは、私たちがお客様向けに構築しているシステムの実働モデルです。点の一つひとつがこの会社の資料の断片で、意味に応じて配置されています。質問を入力すると検索の様子が見えます。質問がベクトルに変換され、最も近い断片が見つかって並べ替えられ、私たち自身のサーバーで動く言語モデルがそれをもとに回答を書きます。
- 質問をベクトル化
- … 件の断片を検索
- 類似度で並べ替え
- 出典付きで回答を作成
/01 RAG
質問したときに起きていること
取り込み
契約書、マニュアル、規定、製品資料、メールなどの資料を短い断片に分けます。PDF、Word、スキャン画像から文字を抽出し、必要に応じて OCR を使います。
ベクトル化
埋め込みモデルが各断片をベクトルに変換します。意味の近い断片は、異なる言語で書かれていても近くに集まります。
検索
質問をベクトルに変換し、すべての断片と比較します。最も近いものを選び、部署・顧客・権限で絞り込むこともできます。
生成
言語モデルはその断片だけを受け取り、各部分の出典を示しながら回答を書きます。資料に答えがなければ、そのように伝えます。
/02 STACK
サービスを支える技術
プロジェクトごとに、お客様のデータ、予算、必要なプライバシーに合わせて構成要素を選びます。
API による最先端モデルの活用
最も高性能なモデルが必要な作業では、OpenAI、Anthropic Claude、Google Gemini を API で組み込み、利用上限、ログ記録、予備のプロバイダーを設定します。
- OpenAI
- Claude
- Gemini
- Function calling
- 構造化出力
RAG：自社の資料にもとづく回答
検索拡張生成（RAG）は、言語モデルを企業の資料につなぎます。モデルは一般的な知識ではなく、検索した断片にもとづいて回答し、その出典を示します。
- 埋め込み
- チャンク分割
- リランキング
- 出典表示
ナレッジベース、セマンティック検索、文書処理
PDF、Word、Excel、スキャン文書から文字や表を抽出して分類し、資料が更新されると同期する検索可能なナレッジベースに保存します。
- OCR
- PDF・Office 解析
- pgvector
- Qdrant
- ハイブリッド検索
業務の自動化と社内システムとの連携
CRM、ERP、会計、メール、WhatsApp、表計算、データベースなど、すでに使っているツールを読み書きするエージェントやワークフローを作り、承認が必要な工程は担当者が確認します。
- API
- Webhook
- n8n
- Google Workspace
- Microsoft 365
- QuickBooks
インフラ、セキュリティ、拡張性
コンテナ、TLS 対応のリバースプロキシ、バックアップ、監視、アクセス制御。社員は会社のアカウントでログインし、問い合わせは監査用に記録でき、利用の拡大に合わせて 1 台から複数台のサーバーへ拡張できます。
- Docker
- Linux
- SSO
- 監査ログ
- 暗号化
- バックアップ
/03 ENTERPRISE
チームのために：自社資料を扱うプライベートアシスタント
同じ技術は社内でも使えます。社員がふだんの言葉で質問すると、組織のマニュアル、契約書、手順書、ファイルから取り出した回答が出典へのリンク付きで返ってきます。NotebookLM に近い仕組みですが、御社専用に導入し、御社のシステムとつなぎ、各自が閲覧を許された範囲に限定します。
手順書とマニュアル
返金はどう処理する？入社時のチェックリストには何がある？各手順書の最新版から回答します。
契約書
今四半期に更新される契約は？仕入先との契約で違約金はどう定められている？条項を数秒で見つけて引用します。
技術文書
サポートや開発チームが、マニュアル、チケット、仕様書を語句の一致ではなく意味で検索できます。
人事と社内規定
休暇、福利厚生、経費のルールについて、いつでも全員に同じ回答を返します。
営業と提案
過去の提案書、価格、導入事例を数秒で見つけ、お客様へより早く回答できます。
経理と管理業務
請求書、明細書、レポートについての質問に、資料そのものの数値で答えます。
導入の進め方
現状把握
資料の保管場所、利用者、権限、特に重要な質問を整理します。
接続
共有フォルダ、Google Drive、SharePoint、メール、データベースなどをつなぎ、ナレッジベースを構築します。
パイロット
数週間で 1 つのチーム向けにアシスタントを稼働させ、そのチームの実際の質問で評価します。
展開と運用
対象チームと資料の拡大、グループごとの権限設定、利用レポート、毎月の改善を行います。
プライバシーと管理
- 第三者にデータを送らず、御社のインフラ内だけで動かすことができます。
- 各自は閲覧を許可された資料だけを見られます。
- すべての回答に出典を示すので、内容を確認できます。
- 会話とアクセスは監査用に記録できます。
- 御社の資料が公開モデルの学習に使われることはありません。
御社の資料で実際に試してみませんか
30 分の無料通話で、チームにとって重要な資料と質問を整理し、パイロットをご提案します。