第10章 後半: 認証、ブラウザーの境界、失敗への備え、LLM の API

• 認証と認可は別の仕事で、サーバーは要求のたびに自分で権限を確かめる
• 失敗は設計の一部で、締め切り、冪等キー、揺らぎを入れた再送、受け付けの制限で備える
• ストリームは文字とイベントの区切りを組み立て直してから使い、通信の成功と答えの出来は分けて考える

教材の 10.4 節から 10.6 節まで。

『日本語技術教科書 ボリュームゼロ』第10章の後半は、誰に何を許すか、通信が失敗したときの備え、そして Python から LLM の API を呼ぶ実装を扱う。

10.4.1 認証と認可

認証は「誰として来たか」を確かめることで、認可は「その人にこの操作を許してよいか」を決めることである。API キーが識別するのは呼び出したアプリであり、そこに人が対応するとは限らない。持っているだけで通る Bearer トークンは、盗まれれば他人が使える。TLS で確かめられるのは相手のサーバーで、利用者の権限は別に調べる。

教材の例では、利用者 12 が文書 7 を読もうとする。サーバーは資格情報から 12 を確定し、文書の持ち主や共有の設定を照らす。画面から削除ボタンを消しても、HTTP は直接送れるので、判断はサーバー側に置く。認証の失敗は 401、認可の失敗は 403 が基本だが、存在を隠すために 404 を返す約束もある。キーはログや URL に書かず、ブラウザーへ配る JavaScript にも入れない。期限切れの資格情報は、更新で済むのか、許されないのかを見分ける。

10.4.2〜10.4.3 Cookie、トークン、ブラウザーの境界

Cookie は、サーバーの依頼でブラウザーが保存し、条件に合う次の要求へ自動で添える小さな値である。セッション方式は預け札に近く、ブラウザーには意味のない乱数の番号だけを持たせ、誰なのかや期限はサーバーの表に書いておく。ログアウトで表の行を消せば、同じ番号は通らない。HttpOnly でスクリプトからの読み取りを制限しても、Cookie は自動で添えられるため、盗み読みの防止と偽の要求の防止は別になる。

署名付きトークン(JWT など)は、本人の情報と期限を中に持ち、改ざんされていないことを署名で示す。署名は暗号化とは別で、中身は読める。確かめる側は、署名のほか、発行者、宛先、期限も見る。10 分のような短い期限は被害の期間を縮めるが、更新が必要になり、期限前の失効には失効の一覧が要る。Cookie は運び方、トークンは値の形なので、両者は二択ではない。

オリジンは、スキーム、ホスト、ポートの組で決まる。ブラウザーは、別のオリジンの内容をスクリプトが読むことを制限し、CORS はその制限をサーバーの許可でほどく仕組みである。ただし読めなかったことは、処理されなかったことを意味しない。ブラウザーを通さない道具には制限が及ばないので、CORS は認可の代わりにならない。CSRF は、Cookie が自動で付くことを利用して、利用者に知らないうちに操作を送らせる攻撃で、状態を変える操作を GET に載せないことや、トークン、送り元の検査を組み合わせて防ぐ。

10.5.1〜10.5.3 失敗への備え

タイムアウトは、接続、読み取り、書き込み、接続プールの空きと、待つ対象ごとに決める。Python の requests の二つの数は接続と読み取りの上限で、全体の上限ではない。全体の締め切りは別に持つ。5 秒の予算のうち 0.5 秒と 2 秒を使ったなら、残りは 2.5 秒である。待つのをやめたのはこちらの都合で、向こうでは保存や課金や生成が進んでいることがある。そのため、接続前の失敗、結果不明、途中の切断を区別して記録する。

注文が通った直後に返事だけが消えると、気軽に再送した結果、注文が二重になりうる。冪等キーは、同じ意図の操作に同じ札を付け、サーバーが結果を覚えて二度目には保存した結果を返す仕組みである。一時的な障害には、待ち時間を倍々に伸ばし、乱数の揺らぎを足して再送する。教材の模擬では、503 の後に約 0.16 秒、429 の後に 1 秒待って 3 回目に成功し、合計は約 1.16 秒だった。認証の失敗は再送しても直らない。

受け付ける量の制限では、トークンバケットが使われる。容量 3、補充が毎秒 2 の例では、同じ瞬間の 4 件のうち 3 件が通り、4 件目は断られる。毎秒の量と同時に動かせる数は別の制限である。LLM の API には、件数とトークン量の上限が別にあることがある。

10.6.1〜10.6.4 Python での実装と LLM の API

requests は同期の道具で、状態、メディアの種類、JSON の構文、中身の型を順に確かめてから値を使う。httpx の非同期では、待つ間に別の仕事を進められるが、長い計算が同じ場所にあれば他の要求は進みにくい。セマフォアで同時に動く数を絞り、数万件を一度に投げ込まない。

ストリーミングは、届いた分から使い始める方式である。ただし、受信の断片、文字、イベント、トークンは別々の単位になる。たとえば「猫」は 3 バイトで、2 バイトずつ受けると途中でちぎれる。そのため、半端なバイトを預かる増分デコーダーと、空行まで溜めるバッファを重ねて、組み立て直してから JSON を読む。

LLM の API を組み込むなら、ブラウザー、自前のバックエンド、推論サービスの順につなぎ、秘密の鍵はバックエンドに置く。教材の模擬サーバーは、入力 4、出力 6 のトークン数を返し、合計は 10 になる。入力 1000 が 1 円、出力 1000 が 3 円という仮定なら、入力 2000 と出力 500 で 3.5 円である。最初の語が出るまでの時間と、その後の生成の速さは分けて測る。0.5 秒後に始まり毎秒 20 トークンなら、100 トークンにあと約 5 秒かかる。通信が成功しても、文章が事実に合うか、依頼に沿うかは、別に評価する。

次の第11章では、モデルの内側に視点を移し、データから予測の決まりを学ぶ仕組みを取り上げる。