BerriAI は 10 月 11 日 (UTC)、複数の LLM プロバイダーを OpenAI 互換 API で束ねるゲートウェイ LiteLLM の v1.105.0 を公開しました。認証情報や個人情報の扱いを絞るセキュリティ寄りの修正が多く、LiteLLM Proxy を社内の AI ゲートウェイとして運用している管理者は設定名の変更も含めて確認が必要です。
主なポイント
/sso/debugルートがENABLE_SSO_DEBUGで明示的に有効化しない限り無効になりました。Sentry 送信時の PII・シークレットのスクラブ範囲も広がっています。- チームのコールバック認証情報やリクエスト本文内の認証情報を、保存されるリクエストや spend ログに残さない修正が入りました。
- xAI の Batch・Files API にネイティブ対応しました。
/v1/messagesのストリームが失敗した際に、実際のエラーイベントを返すようになりました。- Redis のレート制限カウンタに届かない間は 503 で拒否する
fail_closed_rate_limit_enforcementを任意で使えます。experimental_pass_throughはpass_throughに改名されました。