[Contrato de divulgação 2] Combinando esquema, prompt e validação: reduza a ilusão de IA e o write-back de erros

Resposta direta: O esquema não pode permitir que a IA elimine completamente as alucinações, mas pode reduzir significativamente a chance de erros entrarem no sistema. O AI Ready deve integrar prompt, esquema de dados, esquema de saída, lista de permissões de campo, tratamento de falhas de verificação e revisão humana em um conjunto de processos.

A quem se destina este artigo?#

• Engenheiro de palavras de alerta de IA e planejador de integração de sistemas.

• Engenheiros de back-end que precisam tornar a saída do modelo gravável em JSON.

• A equipe técnica do e-commerce que está processando a automação de produtos, pedidos e dados de apoio ao cliente.

Por que o Prompt sozinho não é suficiente?#

O prompt pode informar ao modelo "devolva JSON" ou "não invente informações do produto", mas o modelo ainda pode:

• Retorna campos inexistentes.

• Corrigir erros de preço, stock ou material.

• Produz JSON não analisável.

• Fazer promessas não autorizadas nas respostas do apoio ao cliente. -Escreva as recomendações em uma decisão formal.

Portanto, o AI Ready requer prompt seguido de validação. A saída do modelo não é o fim do processo, mas sim dados a serem verificados.

Contexto do esquema: deixe o modelo entender os campos disponíveis#

Antes de enviar a tarefa, o sistema deve fornecer o contexto do esquema necessário:

{
  "resource": "product",
  "writable_fields": {
    "draft_short_description": "string, max 280 chars",
    "draft_long_description": "string, max 3000 chars",
    "meta_title": "string, max 70 chars",
    "meta_description": "string, max 155 chars"
  },
  "read_only_fields": ["sku", "price", "stock_quantity", "certifications"],
  "required_output_fields": ["draft_short_description", "meta_description"]
}

Isso permite que o modelo saiba quais campos podem ser gravados e quais só podem ser referenciados.

Esquema de saída: permite que o sistema verifique#

{
  "type": "object",
  "required": ["draft_short_description", "meta_description"],
  "additionalProperties": false,
  "properties": {
    "draft_short_description": {
      "type": "string",
      "maxLength": 280
    },
    "meta_description": {
      "type": "string",
      "maxLength": 155
    },
    "faq": {
      "type": "array",
      "maxItems": 5
    }
  }
}
`

additionalProperties: false` é importante porque evita que o modelo adicione campos por conta própria.

O que fazer quando a verificação falha?#

Não corrija todos os erros automaticamente. Processamento hierárquico sugerido:

• JSON não pode ser analisado: o modelo é necessário para tentar novamente. Se ainda falhar, será tratado manualmente.

• Se o comprimento do campo exceder: você pode solicitar o encurtamento do modelo.

• Aparece o campo Proibido: rejeite a saída e registre o evento.

• Os fatos do produto são inconsistentes: será realizada uma revisão humana.

• Compromissos de alto risco: interceptar e sinalizar riscos.

Exemplo de design de prompt#

你是電商商品內容助理。
只能根據 data.attributes 與 data.product_name 產生內容。
不得新增價格、保固、認證、醫療效果或庫存資訊。
輸出必須符合 output_schema。
如果資料不足，請在 notes 欄位列出需要人工補充的資訊。

O objetivo do Prompt não é deixar o modelo “jogar livremente”, mas permitir que ele conclua tarefas específicas dentro dos limites do sistema.

A revisão humana não pode ser omitida.#

Mesmo que a verificação do esquema seja aprovada, isso não significa que o conteúdo esteja necessariamente correto. O esquema só pode verificar o formato, não os fatos comerciais. O seguinte conteúdo é recomendado para revisão humana:

• Páginas de produtos de alto tráfego.

• Categorias sensíveis à regulamentação.

• Preços, descontos, reembolsos.

• Descrições médicas, alimentares e relacionadas à segurança.

• Mercado multilíngue de alto valor.

Perguntas frequentes#

O Schema pode eliminar completamente as ilusões de IA?#

não pode. O esquema pode limitar formatos e campos para reduzir a chance de erros entrarem no sistema, mas ainda requer verificação de dados, verificação de fatos e revisão humana.

A Prompt Engineering ainda é importante?#

Importante, mas deve ser usado em conjunto com esquema, validação, permissões e auditoria. Depender apenas do prompt para controlar os riscos do sistema não é suficiente.

Sob quais circunstâncias o write-back automático pode ser realizado?#

Somente conteúdo de baixo risco, reversível, com restrição de campo e validado é adequado para write-back automático, como rascunhos internos ou candidatos ALT de imagem. A página oficial ainda é recomendada para revisão.

Referências#

• Esquema JSON, https://json-schema.org/
• Central da Pesquisa Google: introdução aos dados estruturados, https://developers.google.com/search/docs/appearance/structured-data/intro-structured-data