[Accord de divulgation 2] Combinaison de schéma, d'invite et de validation : réduisez l'illusion de l'IA et la réécriture d'erreurs

Réponse directe : Schema ne peut pas permettre à l'IA d'éliminer complètement les hallucinations, mais il peut réduire considérablement le risque d'erreurs entrant dans le système. AI Ready doit intégrer l'invite, le schéma de données, le schéma de sortie, la liste blanche des champs, la gestion des échecs de vérification et l'revue humaine dans un ensemble de processus.

À qui s’adresse cet article ?#

• Ingénieur de mots d'invite d'IA et planificateur d'intégration de système.

• Ingénieurs back-end qui doivent rendre la sortie du modèle réversible en JSON.

• L'équipe technique de l’e-commerce qui traite l'automatisation des produits, des commandes et des données du support client.

Pourquoi l'invite seule ne suffit-elle pas ?#

L'invite peut indiquer au modèle « veuillez renvoyer JSON » ou « ne pas inventer d'informations sur le produit », mais le modèle peut toujours :

• Renvoie les champs inexistants.

• Corriger les erreurs de prix, d'stock ou de matériaux.

• Produit du JSON non analysable.

• Faire des promesses non autorisées dans les réponses du support client. -Écrire les recommandations dans une décision formelle.

Par conséquent, AI Ready nécessite une invite suivie d’une validation. Le résultat du modèle ne constitue pas la fin du processus, mais des données à vérifier.

Contexte du schéma : laissez le modèle comprendre les champs disponibles#

Avant d'envoyer la tâche, le système doit fournir le contexte de schéma nécessaire :

{
  "resource": "product",
  "writable_fields": {
    "draft_short_description": "string, max 280 chars",
    "draft_long_description": "string, max 3000 chars",
    "meta_title": "string, max 70 chars",
    "meta_description": "string, max 155 chars"
  },
  "read_only_fields": ["sku", "price", "stock_quantity", "certifications"],
  "required_output_fields": ["draft_short_description", "meta_description"]
}

Cela permet au modèle de savoir dans quels champs il est possible d'écrire et lesquels peuvent uniquement être référencés.

Schéma de sortie : Autoriser le système à vérifier#

{
  "type": "object",
  "required": ["draft_short_description", "meta_description"],
  "additionalProperties": false,
  "properties": {
    "draft_short_description": {
      "type": "string",
      "maxLength": 280
    },
    "meta_description": {
      "type": "string",
      "maxLength": 155
    },
    "faq": {
      "type": "array",
      "maxItems": 5
    }
  }
}
`

additionalProperties : false` est important car il empêche le modèle d'ajouter des champs par lui-même.

Que faire lorsque la vérification échoue ?#

Ne corrigez pas automatiquement toutes les erreurs. Traitement hiérarchique suggéré :

• JSON ne peut pas être analysé : le modèle doit réessayer. S'il échoue toujours, il sera traité manuellement.

• Si la longueur du champ dépasse : vous pouvez demander que le modèle soit raccourci.

• Un champ interdit apparaît : rejetez la sortie et enregistrez l'événement.

• Les informations sur le produit sont incohérentes : une vérification manuelle sera effectuée.

• Engagements à haut risque : intercepter et signaler les risques.

Exemple de conception d'invite#

你是電商商品內容助理。
只能根據 data.attributes 與 data.product_name 產生內容。
不得新增價格、保固、認證、醫療效果或庫存資訊。
輸出必須符合 output_schema。
如果資料不足，請在 notes 欄位列出需要人工補充的資訊。

Le but de Prompt n'est pas de laisser le modèle « jouer librement », mais de lui permettre d'accomplir des tâches spécifiques dans les limites du système.

L'revue humaine ne peut être omis.#

Même si la vérification du schéma réussit, cela ne signifie pas que le contenu est nécessairement correct. Schema ne peut vérifier que le format, pas les faits commerciaux. Le contenu suivant est recommandé pour une révision manuelle :

• Pages produits à fort trafic.

• Catégories sensibles à la réglementation.

• Tarifs, remises, remboursements.

• Descriptions médicales, alimentaires et liées à la sécurité.

• Marché multilingue à forte valeur ajoutée.

##FAQ

Schema peut-il éliminer complètement les illusions de l'IA ?#

ne peut pas. Le schéma peut limiter les formats et les champs pour réduire le risque d'erreurs entrant dans le système, mais il nécessite toujours une vérification des données, une vérification des faits et un revue humaine.

L'ingénierie rapide est-elle toujours importante ?#

Important, mais il doit être utilisé conjointement avec le schéma, la validation, les autorisations et l'audit. Il ne suffit pas de se fier uniquement à la rapidité pour contrôler les risques liés au système.

Dans quelles circonstances la réécriture automatique peut-elle être effectuée ?#

Seul le contenu à faible risque, pouvant être annulé, restreint aux champs et validé, est adapté à la réécriture automatique, comme les brouillons internes ou les candidats ALT d'image. La page officielle est toujours recommandée pour examen.

Références#

• Schéma JSON, https://json-schema.org/
• Google Search Central : introduction aux données structurées, https://developers.google.com/search/docs/lessly/structured-data/intro-structured-data