モデル名ではなくユースケースから始める
NIST AI RMFは自主的でリスクベースの枠組みです。Govern、Map、Measure、Manageで作業を整理し、モデルをあらゆる用途に安全だとは宣言しません。同じ製品でも、公開文の草案、機密人事資料の読取り、業務操作の実行ではリスクが異なります。
利用者、データ、出力、影響する判断、人の確認者、禁止用途、誤りの影響を平易に定義します。境界のない比較では、試せない大きな主張が有利になります。
安心させる形容詞ではなく成果物を求める
NISTの生成AIプロファイルは、生成AIで新たに生じる、または増幅されるリスクとライフサイクル上の対応例を示します。認証制度ではないため、「NIST準拠」は具体的な実務と証拠に対応付ける必要があります。
システム境界、データフロー、評価設計と結果、既知の限界、アクセス、保存・削除、変更履歴、監視、事故対応、再委託先、退出方法を日付付きで求めます。
- 範囲：対象製品、版、地域、用途
- 証拠：報告書、試験結果、設定、契約上の統制
- 責任者：統制と例外を担う人
- 鮮度：日付、再試験、重要変更の条件
価格の前に同一条件で実証する
通常入力、難しい境界事例、意図的に危険な依頼を含む同じ課題を候補各社に与えます。成功基準を先に定め、拒否の質、追跡性、確認者の負荷、時間、費用を測ります。
重大な失敗を平均点で隠してはいけません。プライバシー、セキュリティ、アクセシビリティ、運用の必須条件は、重み付き評価とは別の合否ゲートにします。
スコアカードを意思決定記録にする
質問、回答、証拠リンク、確認者、点数、例外、次の対応を一つの記録に残します。更新時の基準線になり、旧版の証拠で新版を承認する誤りを防げます。
本稿は一般的な調達教育です。NIST資料は自主的な指針であり、実際の法令、業界規則、契約義務は組織と法域ごとに確認してください。
