Naidan
ガイド一覧

別の端末のNaidanでチャットの応答や画像を生成する

別の端末のNaidanで動くモデルに、手元のNaidanからチャットの応答や画像生成を依頼できます。Naidan RPCで両方のブラウザを接続し、モデルを動かす側が提供する機能を選びます。

両方の端末で Naidan を開きます。初回設定が表示されたら右上の × で閉じ、手順1に進みます。

モデルを提供する端末にはHosted版が必要で、Standalone版は相手の推論を利用する側としてのみ使えます。手順2の公開HTTPS中継先は、ローカルのみ版とCurated版ではブロックされます。いずれかの端末でその版を使っている場合は、手順1の前に通常のHosted版へ切り替えてください。別のサイトのアドレスで行った設定は引き継がれません。 通常のHosted版を開く(外部サイト)

1. 両方のブラウザで接続機能を有効にする

それぞれの設定→開発者向け→実験的機能でNaidan RPCを有効にするを選びます。Naidan RPCタブが現れます。有効化だけでは接続も推論も始まりません。

両方で機能を有効にし、Naidan RPCの設定画面を開きます。

2. 2台のブラウザを接続する

待ち合わせコードは一方が決め、もう一方に伝えます。両方のNaidan RPC画面で新しい相手と接続を選び、同じPiping Serverのオリジンとそのコードを入力して、それぞれ接続手続きを開始を選びます。版の通信設定で許可される場合は、自分のHTTPS中継先も利用できます。Naidanは中継サーバーを起動しません。

両方のブラウザへ入力する中継先の例: https://ppng.io Piping Server公式の公開中継先と自前での起動方法(外部サイト)

同じ中継先と待ち合わせコードを両方に入力して接続手続きを始めます。

3. 確認文字列を全文照合する

両方の端末に現れる確認文字列を、電話など別の信頼できる手段で一文字ずつ照合します。全文が一致したときだけ、両方で全文が一致しているを選びます。接続済みになり、最初は今回だけの接続です。後でチャット設定から選ぶには、次回からもこの相手を信頼し、接続設定を保存を選びます。保存だけでは自動接続や提供機能の追加は行われません。

全文一致を確認して承認し、チャットの接続先として使うために保存します。

4. モデルがある端末で提供する機能を選ぶ

モデルを動かす端末で、接続の相手に提供する機能を開きます。チャット推論提供、画像生成提供、または両方を有効にし、提供設定を適用を選びます。明示的に適用するまで何も提供されません。利用する側では相手から利用できる機能を確認します。自分側の提供設定は、相手が自分に提供する範囲を変えません。

提供側で設定を適用し、利用側で使える機能を確かめます。

5. チャットの接続先として選ぶ

チャットする端末で設定→接続を開きます。API プロバイダーをNaidan RPCにし、保存済みの接続を選びます。相手のモデルをデフォルトモデルで選んで変更を保存を押します。全体の接続設定を継承する既存・新規のチャットで、その端末へ回答を依頼できます。モデル一覧が空なら、提供側に端末内のチャットモデルがあり、チャット推論の提供が有効か確認します。

確認済みの接続とモデルをチャットの接続先に指定します。

画像生成にも使う

提供側が画像生成を有効にしているなら、利用側の画像制作画面を開きます。構成の計算先でNaidan RPCを選び、保存済みの接続を選んで相手の画像モデル一覧を表示します。相手側のモデルを選んで生成すると、そのリクエストのプロンプトと、使った初期画像・参照画像が相手に送られます。モデルファイルは提供側の端末に残ります。

接続先に渡るもの

Piping Serverはブラウザ間の暗号化された通信を中継します。確認済みの相手には、チャットのリクエスト、送信対象の会話の文脈と添付画像、または画像生成のプロンプトと選んだ入力画像が渡り、結果が戻ります。中継サーバーとモデルを動かすブラウザは別です。Naidan RPCから相手のモデルを取得したり、相手のファイルを管理したりはできません。

推論を提供できるブラウザ

Hosted版は、端末内のllama.cppチャットや画像生成のモデルと実行環境が使える状態なら、それらの機能を提供できます。Standalone版は相手の機能を利用できますが、自分の推論機能は提供できません。接続を保存しても、別途起動時に自動接続を有効にしなければ起動時に自動接続しません。接続を止めるときはNaidan RPCタブで切断します。