[Соглашение о раскрытии информации 2] Сочетание схемы, подсказки и проверки: уменьшение иллюзий ИИ и обратной записи ошибок

Прямой ответ: Схема не может позволить ИИ полностью устранить галлюцинации, но может существенно снизить вероятность попадания ошибок в систему. AI Ready должен интегрировать подсказку, схему данных, схему вывода, белый список полей, обработку ошибок проверки и ручную проверку в набор процессов.

Для кого эта статья?#

• Инженер по подсказкам искусственного интеллекта и планировщик системной интеграции. — Бэкэнд-инженерам, которым необходимо сделать вывод модели доступным для записи обратно в JSON.

• Техническая группа электронной коммерции, которая занимается автоматизацией продуктов, заказов и данных клиентской поддержки.

Почему одного Prompt недостаточно?#

Подсказка может сказать модели «пожалуйста, верните JSON» или «не вводите информацию о продукте», но модель все равно может:

• Возврат несуществующих полей.

• Правильная цена, наличие ошибок в инвентаре или материалах.

• Создает неразбираемый JSON.

• Давать несанкционированные обещания в ответах службы поддержки клиентов. -Запишите рекомендации в официальное решение.

Поэтому для AI Ready требуется запрос с последующей проверкой. Выходные данные модели — это не конец процесса, а данные, подлежащие проверке.

Контекст схемы: позвольте модели понять доступные поля.#

Перед отправкой задачи система должна предоставить необходимый контекст схемы:

{
  "resource": "product",
  "writable_fields": {
    "draft_short_description": "string, max 280 chars",
    "draft_long_description": "string, max 3000 chars",
    "meta_title": "string, max 70 chars",
    "meta_description": "string, max 155 chars"
  },
  "read_only_fields": ["sku", "price", "stock_quantity", "certifications"],
  "required_output_fields": ["draft_short_description", "meta_description"]
}

Это позволяет модели узнать, в какие поля можно записывать, а на какие можно только ссылаться.

Схема вывода: разрешить системе проверить#

{
  "type": "object",
  "required": ["draft_short_description", "meta_description"],
  "additionalProperties": false,
  "properties": {
    "draft_short_description": {
      "type": "string",
      "maxLength": 280
    },
    "meta_description": {
      "type": "string",
      "maxLength": 155
    },
    "faq": {
      "type": "array",
      "maxItems": 5
    }
  }
}
`

additionalProperties: false` важен, поскольку он не позволяет модели добавлять поля самостоятельно.

Что делать, если проверка не удалась?#

Не исправлять автоматически все ошибки. Предлагаемая иерархическая обработка:

• Невозможно проанализировать JSON: необходимо повторить попытку модели. Если это по-прежнему не удается, это будет обработано вручную.

• Если длина поля превышает: вы можете запросить сокращение модели.

• Появляется запрещенное поле: отклонить вывод и зарегистрировать событие.

• Факты о продукте противоречивы: будет выполнена ручная проверка.

• Обязательства высокого риска: перехватывать и отмечать риски.

Подскажите пример оформления#

你是電商商品內容助理。
只能根據 data.attributes 與 data.product_name 產生內容。
不得新增價格、保固、認證、醫療效果或庫存資訊。
輸出必須符合 output_schema。
如果資料不足，請在 notes 欄位列出需要人工補充的資訊。

Цель Prompt — не дать модели «свободно играть», а позволить ей выполнять определенные задачи в рамках системы.

Ручную проверку нельзя пропустить.#

Даже если проверка схемы проходит успешно, это не означает, что содержимое обязательно правильное. Схема может проверять только формат, а не бизнес-факты. Для проверки вручную рекомендуется следующий контент:

• Страницы продуктов с высокой посещаемостью.

• Категории, чувствительные к регулированию.

• Цены, скидки, возврат средств.

• Описания, связанные с медициной, пищевыми продуктами и безопасностью.

• Многоязычный рынок ценных бумаг.

Часто задаваемые вопросы#

Может ли Schema полностью устранить иллюзии ИИ?#

не могу. Схема может ограничивать форматы и поля, чтобы уменьшить вероятность ошибок в системе, но она по-прежнему требует проверки данных, проверки фактов и проверки вручную.

Оперативное проектирование по-прежнему важно?#

Важно, но его следует использовать в сочетании со схемой, проверкой, права доступами и аудитом. Полагаться только на подсказки для контроля системных рисков недостаточно.

При каких обстоятельствах может быть выполнена автоматическая обратная запись?#

Для автоматической обратной записи подходит только контент с низким уровнем риска, возможность отката, ограничение по полям и проверенный контент, например внутренние черновики или изображения-кандидаты ALT. Официальную страницу по-прежнему рекомендуется к просмотру.

Источники#

• Схема JSON, https://json-schema.org/
• Центр поиска Google: введение в структурированные данные, https://developers.google.com/search/docs/appearance/structured-data/intro-structured-data.