[開示契約 2] スキーマ、プロンプト、検証の組み合わせ: AI の錯覚とエラーのライトバックを削減する

直接の答え: スキーマでは AI が幻覚を完全に排除することはできませんが、システムにエラーが入る可能性を大幅に減らすことはできます。 AI Ready では、プロンプト、データ スキーマ、出力スキーマ、フィールド ホワイトリスト、検証失敗の処理、および人によるレビューを一連のプロセスに統合する必要があります。

この記事の対象読者#

• AIプロンプトワードエンジニア、システムインテグレーションプランナー。

• モデル出力を JSON に書き込み可能にする必要があるバックエンド エンジニア。

• 商品、注文、カスタマーサポート データの自動化を処理するEC技術チーム。

プロンプトだけではなぜ不十分なのでしょうか?#

プロンプトはモデルに「JSON を返してください」または「商品情報を作成しないでください」と伝えることができますが、モデルは依然として次のような場合があります。

• 存在しないフィールドを返します。

• 価格、在庫、材料の間違いを修正します。

• 解析できない JSON が生成されます。

• カスタマーサポートの応答において不正な約束をする。

• 勧告を正式な決定に書き込む。

したがって、AI Ready ではプロンプトとその後の検証が必要です。モデルの出力はプロセスの終わりではなく、検証されるデータです。

スキーマコンテキスト: モデルに利用可能なフィールドを理解させます#

タスクを送信する前に、システムは必要なスキーマ コンテキストを提供する必要があります。

{
  "resource": "product",
  "writable_fields": {
    "draft_short_description": "string, max 280 chars",
    "draft_long_description": "string, max 3000 chars",
    "meta_title": "string, max 70 chars",
    "meta_description": "string, max 155 chars"
  },
  "read_only_fields": ["sku", "price", "stock_quantity", "certifications"],
  "required_output_fields": ["draft_short_description", "meta_description"]
}

これにより、どのフィールドに書き込み可能で、どのフィールドが参照のみ可能かをモデルに認識させることができます。

出力スキーマ: システムによる検証を許可します。#

{
  "type": "object",
  "required": ["draft_short_description", "meta_description"],
  "additionalProperties": false,
  "properties": {
    "draft_short_description": {
      "type": "string",
      "maxLength": 280
    },
    "meta_description": {
      "type": "string",
      "maxLength": 155
    },
    "faq": {
      "type": "array",
      "maxItems": 5
    }
  }
}
`

AdditionalProperties: false` は、モデルが独自にフィールドを追加するのを防ぐため重要です。

検証が失敗した場合はどうすればよいですか?#

すべてのエラーを自動的に修正しないでください。推奨される階層処理:

• JSON を解析できません: モデルを再試行する必要があります。それでも失敗する場合は手動で対処します。

• フィールドの長さが超える場合: モデルを短くするようリクエストできます。

• 禁止フィールドが表示されます。出力を拒否し、イベントをログに記録します。

• 商品の事実が矛盾しています。人によるレビューが実行されます。

• 高リスクのコミットメント: リスクを傍受し、フラグを立てます。

プロンプト設計の例#

你是電商商品內容助理。
只能根據 data.attributes 與 data.product_name 產生內容。
不得新增價格、保固、認證、醫療效果或庫存資訊。
輸出必須符合 output_schema。
如果資料不足，請在 notes 欄位列出需要人工補充的資訊。

Prompt の目標は、モデルを「自由にプレイ」させることではなく、システムの境界内で特定のタスクを完了できるようにすることです。

人によるレビューを省略することはできません。#

スキーマ検証に合格したとしても、その内容が必ずしも正しいとは限りません。スキーマは形式のみを検証でき、ビジネス上の事実は検証できません。次のコンテンツは手動でレビューすることをお勧めします。

• トラフィックの多い商品ページ。

• 規制に敏感なカテゴリ。

• 価格、割引、返金。

• 医療、食品、安全性に関する説明。

• 多言語の高額市場。

よくある質問#

Schema は AI の幻想を完全に排除できるでしょうか?#

できません。スキーマは、システムにエラーが入る可能性を減らすために形式とフィールドを制限できますが、それでもデータの検証、ファクトチェック、人によるレビューが必要です。

プロンプトエンジニアリングは依然として重要ですか?#

重要ですが、スキーマ、検証、権限、監査と組み合わせて使用する必要があります。システムリスクを制御するには、プロンプトのみに依存するだけでは十分ではありません。

自動ライトバックはどのような状況で実行できますか?#

自動ライトバックに適しているのは、内部ドラフトや画像の ALT 候補など、リスクが低く、ロールバック可能で、フィールドが制限され、検証されたコンテンツのみです。公式ページは引き続きレビューすることをお勧めします。

参考資料#

• JSON スキーマ、https://json-schema.org/
• Google 検索セントラル: 構造化データの概要、https://developers.google.com/search/docs/Appearance/structural-data/intro-structord-data