インストーラーや配信用サーバーなしで、ブラウザでAIを使う
AIを使い始めるためだけに、アプリへPC上の広い権限を渡す必要はあるのか。Naidanのスタンドアロン版は、ブラウザの制限を保ったまま、手元のファイルから直接起動する方法です。アプリを配信するためのサーバーも別途用意しません。
アプリをフォルダとして持ち、必要なときに開く。モデルの準備、会話の保存、外部の推論エンジンへの接続は、それぞれ選んだ使い方に合わせて設定します。
ダウンロードしたフォルダから使い始める
ZIPをダウンロードして展開する
naidan-standalone.zipを取得して、全体を展開します。assetsなどの補助ファイルを含め、フォルダの構成をそのまま保ちます。
index.htmlをブラウザで開く
普段のブラウザでindex.htmlを開きます。アドレスはfile://で始まります。HTMLだけを移動するのではなく、展開された補助ファイルと一緒に扱います。
モデルやエンジンを選ぶ
対応するブラウザ内モデルを使うか、Ollamaやllama.cpp serverなどへ接続します。モデルの配信元からの取得には通信を使う場合があります。ローカル推論サーバーは別プロセスとして、それ自身の権限で動作します。
起動したら、GGUFなどをブラウザ内で動かす場合はブラウザ内モデルの手順へ、別の推論サーバーへ接続する場合はローカルエンジンの手順へ進みます。
ここでいう「サーバー不要」の範囲
画面を配信するサーバーを省く
ファイルを直接開くため、Naidanの画面を配信するHTTPサーバーを起動する必要がありません。そのサーバーの待ち受けポートを決める手間も省けます。
推論の実行方法は選べる
ブラウザ内モデルなら、推論もブラウザの中で行います。ローカルエンジンへ接続する場合は、別途その準備をして、対応モデルや速度の利点を活用できます。file://はアプリの開き方であり、どちらの推論方法にするかは別の選択です。
ブラウザの対応状況を確認する
file://のページには、HTTPSのページとは異なるオリジンのルールがあります。接続先でそのオリジンの許可が必要だったり、一部のブラウザ機能の扱いが異なったりします。Naidan内の利用可否の案内を確認します。通常のWebオリジンが必要な機能には、Hosted版も選べます。
会話の保持方法を選ぶ
ブラウザの保存領域と、展開したアプリのフォルダは別のものです。一時保存方式では、Naidanの会話データを永続保存領域へ書き込まず、実行中のメモリで扱います。リロードするとそのセッションは終わります。書き出したファイル、モデルのキャッシュ、OSのメモリ管理は別に扱われます。
環境を変える前にバックアップする
別のブラウザへ移るとき、Hosted版とfile://版を切り替えるとき、インストールを置き換えるときは、データを書き出しておきます。更新する場合は新しいスタンドアロン版を別フォルダへ展開し、その版の補助ファイルと一緒に使います。