GPT‑Red
OpenAI
prompt injection

15–16 июля 2026 OpenAI опубликовала детали GPT‑Red — внутренней automated red-teaming модели. Это не новый чат для пользователей: GPT‑Red атакует собственные модели OpenAI (прежде всего prompt injection), а результаты идут в training loop следующих релизов, включая GPT‑5.6 Sol.

Что заявила OpenAI

• Self-play RL: attacker vs defenders; цель — найти failure modes до пользователей.
• Новый класс атак: Fake Chain-of-Thought (spoof в reasoning trace) — на GPT‑5.1 до ~95% success, на Sol <10%.
• Сильнейшие атаки GPT‑Red: >90% работали на GPT‑5 (авг 2025), <23% на GPT‑5.6.
• Sol fails на ~0.05% direct injections GPT‑Red; часть сложных сценариев (~3–4%) всё ещё проходит.

Источник: OpenAI: Unlocking Self-Improvement for Robustness. Habr: GPT‑Red — модель для поиска уязвимостей.

Почему это важно enterprise (не только security-theatre)

1. Agent + tools = prompt injection — главный operational risk (browser, mail, files).
2. Vendor говорит «мы hardened Sol через GPT‑Red» — это аргумент для security review, но не замена ваших тестов на своих данных.
3. Утечка GPT‑Red была бы катастрофой — модель намеренно умеет ломать LLM; OpenAI держит её offline от production.

Связка с релизом GPT‑5.6

GPT‑5.6 (Sol/Terra/Luna) уже разбирали как policy + tier story: дайджест 07.07 · gated release. GPT‑Red — вторая половина нарратива: не только «кто допущен к API», но и «как модель училась не ломаться».

Что делать команде в РФ

• Не ждать GPT‑Red в кабинете — его не будет.
• Для agent pipelines: threat model на injection, allowlists tools, human-in-the-loop на money/code deploy.
• Сравнивать Sol vs Sonnet 5 / K3 на ваших adversarial prompts, не только на vendor charts.
• Закупка API — IRI Gateway, multi-vendor — гайд.

Сводка: дайджест 17.07 · соседний open-релиз: Inkling.