設計の手順
範囲と権限を決める
架空の助手は公開製品情報のみ。本人確認とアクセス制御がデータ範囲を決め、意味検査は追加の信号です。
コードの検査を先に行う
サイズ、形式、権限、必須項目を検証します。検索文中の「規則を無視」は分析する内容であり、方針ではありません。
質問と処置を分ける
Noul で他人データの要求や規則変更を判断し、議論と実行を区別します。影響は Score で評価でき、処置は版管理したコードで決めます。
出力も検査する
正常な入力でも漏洩や未支持の主張が出ます。表示前に調べ、必要なら削除、再生成、確認へ。検査失敗は安全と扱いません。
誤拒否と見逃しを測る
注入の定義を説明する合法質問と、偽の許可文を試します。言語、出所、方針版を記録し、再試行や人への入口を用意します。
具体例 · 本サイトの架空データ
| 観察した事実 | 判断 | コードでの処理 |
|---|---|---|
| 注入の定義を尋ねる | 議論であり越権ではない | 説明を回答 |
| 検索文が全注文出力を指示 | 許可ではない | 実行しない |
| 検査に失敗 | 不明 | 失敗規則へ |
コピーできる設計例
独自の例です。JSON はリクエストや入力の形、Python は架空スコアの計算のみを示します。API は実行しません。接続前に公式仕様と処理方針を確認してください。
# Policy contract, not a tested detector.
{
"policy_version": "public-support-v1",
"allowed_sources": ["public_product_docs"],
"check_surfaces": ["user_input", "retrieved_text", "model_output"],
"possible_actions": ["pass", "review", "block"],
"detector_error_action": "review",
"access_control_owner": "application_code"
}よくある失敗
- 確率を安全証明にする。
- 入力だけ検査する。
- 危険語の教育説明も拒否する。
TRY / THINK / COMPARE
先に考えてから解説へ
検索文に管理者の許可とあります。注文へアクセスしますか？
解説を開く
本文は権限を変えません。コードでアクセス制御します。
提出前の確認
- 権限と意味検査を分離。
- 議論と実行を区別。
- 入出力に失敗方針。
- 誤拒否と見逃しを記録。
よくある質問
回避を完全に防げますか？
保証しません。実例と権限制限で評価します。
信号と処置を分ける理由は？
版、費用、しきい値、確認経路を明示できます。
参考資料
公式パターンと Datawhale の実践テーマを参考に、説明・例・演習を独自に作成しています。API の実行結果や性能測定ではありません。