Orchestrated AI — нейросимвольне корпоративне врядування
Споріднена ідеяTrisotech · Knowledge Worker Co-pilot
Trisotech Digital Enterprise Suite — Gauthier і Ringuette (слайди); вебінар Gagné «Retake Enterprise AI in 2026»
Три архітектури — prompt-центрична → інтеграційно-ведена → оркестрована — де лише модель-кероване оркестрування «масштабується до врядування». Нейросимвольний поділ кладе бізнес-правила у версіоновані BPMN/CMMN/DMN (не в промпти), а LLM використовується лише як інтерфейс розуміння (через MCP) або як обмежений виконавець User Task. Модель замінна (bring-your-own-AI через MCP); аудит-трек фіксує версію моделі, екземпляр, вхідний масив і JSON-вихід — а не промпти. Незалежне галузеве підтвердження центральної тези TRACE.
метрикиETC · OvR · ABC · CFI
Дає внесок
- ·BPMN/CMMN/DMN як виконуваний субстрат для L1/L3 — TRACE специфікує властивості шару, а це дає конкретний носій.
- ·BPMN User Task як контракт вхід/вихід зі змінним виконавцем (людина ↔ ШІ) — конкретна операціоналізація обмеженого контексту (CFI) плюс ETC: міняй виконавця, а не оболонку завдання.
- ·«Performer Spectrum» (Tool → Assistant → Performer → Agent; повноваження рішення Human → Human → Shared → Delegated) — статичний, проєктно-часовий відповідник поетапної автономії TRACE (ABC), яка робить той самий градієнт здобутим із даних стабільності.
- ·Їхній спектр незалежно зчіплює автономію зі зростанням вимог до прозорості й врядування — саме той зв’язок, що стверджує TRACE (ABC ↔ ETC ↔ суїта метрик), — але лишає всі три якісними (Basic→Very High), де TRACE їх вимірює.
- ·Чотири патерни нагляду над людським базисом (супроводжуване рев’ю · шлюзоване рев’ю за оцінкою · динамічний нагляд · без нагляду) як готові політики ескалації L3 + рев’ю L4 — включно з патерном утримання за оцінкою (abstention), якого голим DMN/CQL бракує.
- ·Наратив «айсберг / тіньові процеси» — сильний зачин для доповідей.
- ·Метафора «справа = стратегічна мапа, BPMN = тактичні маршрути» для пояснення оркестрації L3.
Де TRACE додає строгості
- ·Їхній власний акронім «TRUST AI» (Traceability, Reflectiveness, Understanding, Separation, Transparency) має код-еквівалент лише для одного елемента — Traceability; решта невимірювані. TRACE — це вимірювана версія тієї ж обіцянки (17 метрик, GUM/VIM/17025).
- ·AI-as-Performer подають як «віртуального співробітника під тими ж метриками ефективності», що й люди, — проте жодної з них не визначено. TRACE постачає саме ці метрики L4 + шарові (OvR, RBI, SNR …).
- ·Автономія статична — задається на етапі моделювання, а AI Role Matrix є концептуальним керівництвом, не жорстким обмежувачем. ABC у TRACE робить авторитет здобутим із даних стабільності.
- ·Обмежений контекст як оболонка безпеки — частковий: контракт завдання/MCP обмежений, але справа (case file) росте необмежено місяцями (ризик CFI, а не запобіжник).
- ·Єдина вісь повноважень рішення проти диференційованих ролей остаточного авторитету TRACE по доменах (лікар / буровик-HSE / суддя).
Цитувати лише як галузеве підтвердження — НЕ як методологічне першоджерело (комерційне, продаване «довіра-як-послуга»).
CQL / ELM — виконуваний субстрат клінічного L1
Споріднена ідеяHL7 Clinical Quality Language · ANSI/HL7 CQLANG R1-2020
HL7 International (CQL v1.5.3) над FHIR R4
Обчислювані клінічні настанови, виражені як детерміновані правила: людиночитабельний CQL компілюється в машиночитабельний ELM. Дуальність CQL↔ELM — це саме «правило ↔ серіалізований аудит-трек». Готовий стандартизований виконуваний носій для клінічного шару L1 — і незалежна нормативна (ANSI/HL7) валідація тези про детерміноване ядро; клінічний близнюк BPMN/DMN для L3.
метрикиETC · CPR · RCR · UTC · CRP · CFI
Дає внесок
- ·Стандартизований виконуваний субстрат для клінічного L1 — TRACE специфікує властивість шару, CQL/ELM є конкретним носієм над типізованими ресурсами FHIR R4.
- ·Проводить лінію CPR L1↔L2b в інженерних термінах: що формалізовне — йде в CQL, а не в LLM.
- ·ELM як буквальний ланцюг дані → логіка → рішення — прямий артефакт ETC.
Де TRACE додає строгості
- ·Знімає синтаксичну, а не клінічну неоднозначність — необхідний, але недостатній.
- ·Немає утримання чи ескалації (L3) і немає вимірювання нагляду (L4).
- ·Компонент, а не альтернатива стеку.
Незалежна нормативна (ANSI/HL7) валідація тези про клінічний L1. Патерн-близнюк Trisotech↔L3.
Unlocking ROI From AI in Energy — SPE DSEATS 2026
Споріднена ідеяГалузеве підтвердження для upstream-інстансу
Journal of Petroleum Technology, травень 2026 (виконавчий форум SPE DSEATS)
Синтез виконавчого форуму SPE DSEATS на CERAWeek 2026: ШІ в енергетиці провалюється не на рівні моделей, а на атрибуції ROI до метрик ради, виконанні в масштабі мережі, виборі даних «спершу рішення», гібридному фізико-датовому моделюванні над розрідженими даними, доменних експертах-«power users» і формальному інженерному assurance перед production. Майже дослівно та проблема, яку TRACE формалізує як L1/L2a/L3/L4 плюс метричне ядро.
метрикиCPR · OSI · CFI · CRP · ABC · OvR · RBI · SNR
Дає внесок
- ·Сильна мотивація для Статті 2: галузь формулює проблему як атрибуцію, масштабування й утримання цінності ШІ, а не як «чи працює ШІ».
- ·Таблиця «бізнес-результат → ланцюг вимірювання TRACE», що пов’язує ROI-панелі з набором метрик довіри.
- ·L4 як конкретна операційна модель — доменний експерт-power user (буріння / пласт / видобуток / HSE SME з ШІ-грамотністю), а не абстрактний рецензент.
Де TRACE додає строгості
- ·Не рецензоване й не емпірична валідація TRACE — лише галузевий сигнал.
- ·Немає формальної моделі вартості — CPR подавати як діагностику overhead, а не «на X% дешевше».
- ·ROI-панель і набір метрик довіри — різні рівні вимірювання, їх не можна змішувати.
Відкрите / на узгодження
- ·Chatham House Rule — твердження анонімізовані, приклади ілюстративні.
Цитувати лише як галузеве підтвердження / мотивацію upstream. Не розкривати приватних деталей Інстансу B.
Pacific AI Governance Policy Suite
Споріднена ідеяPacific = ЩО · TRACE = ЯК ВИМІРЯТИ
Pacific AI, Inc., 2026-A (CC BY-NC-SA 4.0)
Найповніший публічний policy-шаблон, що агрегує чинне AI-законодавство 30+ юрисдикцій — дев’ять модульних політик плюс цикл Adopt → Implement → Attest. Покриває нормативний субстрат L1 і декларативно вимагає механіку TRACE (три lifecycle-чекпойнти, людський нагляд і право перекриття, логування простежуваності). Governance-підтвердження: регуляторна спільнота вже вимагає нагляд і простежуваність на рівні політик.
метрикиETC · UTC · OvR · ABC · CE
Дає внесок
- ·Регулярно оновлюваний корпус лише чинного законодавства — готова policy-база для L1 у будь-якому інстансі (крос-доменна, на відміну від CQL).
- ·Три lifecycle-чекпойнти (Go/No-Go → pre-deployment → annual) як policy-формулювання поетапної автономії (ABC); річний перегляд надає метрикам лонгітюдної рамки (OSI).
- ·Масштабування «рівень ризику → хто тестує» (внутрішня група проти незалежної третьої сторони) — той самий патерн, що драбина ярусів в інстансі держоргану.
Де TRACE додає строгості
- ·Немає метрології — вимагає спостереження (напр., моніторингу перекриттів) без специфікації виміру, методу й невизначеності. Прото-OvR, а не OvR.
- ·Немає принципу парсимонії — немає вимоги найпростішої достатньої моделі; CPR відсутній.
- ·Немає поділу L2a/L2b (крім GPAI за FLOPs) і немає runtime L3 — чекпойнти є design-time гейтами.
Відкрите / на узгодження
- ·Vendor-шаблон під CC BY-NC-SA, не стандарт; цінність — в агрегації обов’язкових вимог, а не у власному авторитеті.
Governance-підтвердження. Використовувати як доказ, що policy-органи вимагають нагляду/простежуваності — і що без метрологічної моделі ці обов’язки непідтверджувані.
W&B Weave rai-toolkit — доказово підкріплений шлюз перевірки
Споріднена ідеяОпераціоналізований ETC · форк TRACE-RAI-toolkit будується на ньому
K. Nisar, 2026 (wandb/rai-toolkit, Apache 2.0)
Працюючий open-source governance-toolkit, що трактує схвалення розгортання як доказово підкріплений шлюз перевірки: автоматизовані оцінки, red-team-трейси, версіонований policy-as-code і підписане рішення людини-рецензента — зв’язані в єдиний content-hashed запис Weave. Найближчий відомий працюючий прототип операціоналізованого ETC; форк TRACE-RAI-toolkit розширює його метрологією форку.
метрикиETC · RCR · UTC · TCC · ABC
Дає внесок
- ·Працюючий операціоналізований ETC — докази + рішення людини + хеш в одному трейсі; «скріншоти не витримують аудиту» — це анти-ETC, сказаний прямо.
- ·Чотири незалежні шлюзи через логічне І (анти-патерн: один зведений бал); worst-case red-team gating перегукується зі спільним risk ∧ confidence.
- ·«Не оцінено ≠ нейтральний прохід» — дух GUM у MLOps; і форкабельний harness для шлюзу Medical Brain.
Де TRACE додає строгості
- ·Design-time шлюз перевірки, а не runtime-архітектура — немає станового L3 (повторний виклик, накопичена впевненість) і операційного L4 (RBI/OvR/SNR над потоком рішень).
- ·Його LLM-judge-оцінювачі самі некалібровані — «хто калібрує суддю?» (CE/IPSR для валідаторів) не вирішено; форк додає саме це.
- ·Немає парсимонії — оцінює модель, яку дали; CPR відсутній.
Відкрите / на узгодження
- ·Vendor-стаття про власний продукт; шар трейсів Weave тягне до платформи W&B (пом’якшити self-hosted Weave або абстракцією бекенду).
Tooling-підтвердження. Форк TRACE-RAI-toolkit (github.com/SZabolotnii/TRACE-RAI-toolkit) розвиває його як референсну реалізацію шлюзу перевірки TRACE.
GTL — Genetic Training Loop
Споріднена ідеяКонвергентний дизайн · єдиний побратим, що оптимізує парсимонію
М. Шерешевський, Graph Praxis, серп. 2026
Самополіпшувана система, де генетичний алгоритм еволюціонує DAG детермінованих правил, а мовна модель лишається строго поза шляхом виконання — вона пропонує, виконує детермінований інтерпретатор. Контекст трактується як проблема вимірювання, реєстр здатностей обмежує виразне, твердження працюють як градієнт, kill log фіксує відкинуте, а чотири термінальні стани забороняють підганяти прогін під збіжність. Найближче незалежне попадання в той самий поділ праці L1↔L2b, що й у TRACE.
метрикиCPR · ETC · RCR · RCI · UTC · ABC
Дає внесок
- ·Єдина споріднена система, що вносить парсимонію у цільову функцію, а не в прозу: невеликий штраф на розмір набору правил дав 3-правильний DAG там, де жадібний цикл тримав 4, за незмінної holdout-якості — найсильніша наявна підпора тези, що Model Parsimony вимірювана, а не риторична.
- ·Чотири термінальні стани з явною забороною підганяти прогін під збіжність — чесне правило зупинки, та сама дисципліна, якої фреймворк вимагає щодо неоцінених доказів.
- ·Kill log відкинутих кандидатів: негативні свідчення зберігаються, а не зникають мовчки.
- ·Governance-гейт із людським рішенням і без автоматичного деплою.
Де TRACE додає строгості
- ·Немає метрології: власне судження архітектора ніде не калібрується, тож селекційний тиск не має заявленої невизначеності.
- ·Немає runtime L3 та операційного L4 — цикл закінчується промоцією, а не наглядовою експлуатацією.
- ·Немає ярусу L2a: класичним, калібрувально-верифіковним моделям місця в дизайні не передбачено.
- ·Валідація — один синтетичний бенчмарк, складений тією самою рукою, що спроєктувала систему.
Відкрите / на узгодження
- ·Читати в парі з harness Prime Agent: обидві системи самополіпшувані, і єдина структурна різниця — гейт промоції, що й ізолює змінну, про яку сперечається TRACE.
Конвергентний зовнішній дизайн. Для протоколу: CPR зафіксовано в arXiv:2605.03838 (трав. 2026), тобто до цієї публікації.
Prime Agent — RLM-harness
Споріднена ідеяКонтрполюс, не підтвердження · доказом є сама відмова
Karten et al., Prime Intellect, arXiv:2608.23552 (серп. 2026)
Свідомо необмежений агентний harness: без детермінованого ядра, без метрології, з бюджетом токенів замість політики ескалації та «Agents View», що дає нагляд без жодної його міри. Цінність для фреймворку — інцидент, задокументований самими авторами: у прогоні Factorio промптовий guardrail було обійдено, а обхід персистовано як багаторазовий skill. Їхній же перелік рекомендацій (least-privilege інтерфейси, незалежна валідація стану, відкат контамінованого refinement) відновлює L1, L2a та ETC з боку відмови.
метрикиABC · ETC · TCC · CPR · OSI
Дає внесок
- ·Опублікована зовнішня ін’єкція відмови: guardrail, виражений промптом, — не межа, а обхід, збережений як skill, контамінує все далі за течією. Саме це міряє ABC і саме для цього існує некомпенсаторний гейт.
- ·Їхня event history — придатний шаблон runtime-сліду доказів.
- ·Ресурсна бухгалтерія кореневого процесу й нащадків — готовий probe для CPR.
Де TRACE додає строгості
- ·Автономію обмежує бюджет, а не зароблені повноваження: витрати — не властивість безпеки.
- ·Нагляд пропонується як екран, без міри того, чи хтось дивився, — саме цю прогалину закривають RBI, OvR і SNR.
- ·Без детермінованого шару порушенню просто немає чого порушувати.
Відкрите / на узгодження
- ·Цитувати як контрполюс. Робота сильна щодо спроможностей і свідомо не претендує на assurance — читати її як провалену спробу assurance означало б її спотворити.
Зовнішній контрполюс. Karten et al., arXiv:2608.23552 (2026).
«Крізь строй» — міряти код агентів замість читати його
Споріднена ідеяРоберт Мартін, 2026 · інженерна позиція, не апарат
Р. С. Мартін — публічні репозиторії та дописи, квіт.–вер. 2026
Автор Clean Code — книги про код, написаний для людини-читача, — перестав читати код своїх агентів і натомість оточив їх жорсткими обмеженнями: юніт- і gherkin-тести, QA-процедури, метрики якості, мутаційне тестування, пороги покриття. QA-агенту заборонено заглядати всередину; кодеру заборонено запускати перевірки чистоти й мутаційні прогони. При будь-якій неоднозначності агент мусить зупинитися і спитати. Людина підписує виконувану специфікацію і приймає результат руками — рівно дві точки.
метрикиETC · ABC · RBI · OvR · RCR
Дає внесок
- ·Gherkin як виконувана специфікація: текст, який підписує людина, і тест, який гонить машина, — буквально один артефакт, тож він не може непомітно протухнути. Кандидат на форму пакета рішення L4, який сьогодні ближчий до JSON, ніж до поведінки.
- ·Мутаційне тестування як тест самих тестів — прямо імпортовний probe: мутувати значення в запіненій нормі й перевірити, що вердикт змінюється відповідно.
- ·«Нуль вижилих — не вердикт, а умова виходу з циклу» — та сама дисципліна, що й розрізнення «не оцінено» проти виміряного.
- ·CRAP (складність² × непокритість³) як прийнятий галуззю прецедент: композитна метрика може мати налаштовуваний поріг — ≤6 в одному проєкті, ≤8 у сусідньому.
- ·«I am the engineer because I am accountable» — шість слів, які стискають увесь L4.
Де TRACE додає строгості
- ·Строй міряє лише те, що міряють тести. Властивість, яку жоден тест не покриває, не провалена — вона невидима. Заперечення Ґреді Буча (покриття дає нуль впевненості щодо того, чого тести не міряють) усередині тієї системи відповіді не має; тут воно має назву й поведінку: не оцінено блокує, а не проходить.
- ·Немає калібрування. На закид, що метрики — проксі з малою інформацією, Мартін визнає: це ставка, а не доведення. Ставку на вимірювання перетворює похибка калібрування — заявлена впевненість, звірена з фактичною точністю.
- ·Самі перевіряльні інструменти написані агентами, що відмахується формулою «правильність маленької детермінованої програми видно з її результату». Провенанс авторства, виведений з реєстру й перевірюваний за системою контролю версій, відповідає на це замість відмахування.
Відкрите / на узгодження
- ·Цитувати репозиторії й опублікований експеримент, а не дописи — блог і соцмережі є сірою літературою.
- ·Його вересневий розворот (моделі стали самостійнішими, тож важка оркестрація часто зайва) легко перечитати. Оркестрація стала менш потрібною — вимірювання ні.
Незалежна практикова конвергенція щодо позиції (міряти, а не читати), не щодо апарату. Метрології, невизначеності вимірювання, стану «не оцінено» й регульованого домену там немає — не подавати як валідацію.
TypeSafe / System One — каліброване рішення як товар
Споріднена ідеяПозицію прийнято комерційно · апарат лишився поза дужками
TypeSafe, 2026 (вендорська документація моделі рішень Jev)
Клас моделей, які не повертають тексту: на вхід іде стан і набір типізованих питань, на кожне з яких модель відповідає незалежно — розподілом імовірностей. Власна доктрина вендора близька до цього фреймворку: control flow належить коду, модель дає лише вузькі судження над неструктурованими даними, складне судження розкладається на атомарні питання, а поріг дії задається ціною помилки — read-only крок гейтиться інакше, ніж необоротний. Латентність у межах частки секунди робить дешеву калібровану перевірку доступною поруч із дорогим генератором.
метрикиCE · IPSR · ABC · EP · TCC · CPR
Дає внесок
- ·Калібрування продається як товар, а не згадується як застереження — найясніше комерційне свідчення, що CE є інженерною вимогою, а не академічною забаганкою.
- ·Пороги прив’язані до ціни дії, а не до єдиної глобальної відсічки: незалежне попадання в ризик-ярусне гейтування, яке специфікує фреймворк.
- ·Ізоляція питань проти спільного стану: десять питань в одному промпті взаємно заражаються порядком і ранньою відповіддю, а незалежна оцінка знімає режим відмови, якого інакше важко уникнути.
- ·На два-три порядки дешевше за reasoning-модель на тій самій рубриці — за власним заміром вендора; найсильніший зовнішній аргумент за Model Parsimony в цій бібліотеці, із застереженням, що цифри самозвітні й прямо названі неперевіреними.
- ·Дешеве швидке каліброване судження поруч із дорогим генератором — недообслужене місце в стеку, де guardrails сьогодні будують із тих самих великих моделей, які вони мають перевіряти.
Де TRACE додає строгості
- ·Наскрізний приклад із посібника вендора дозволяє дію зваженою сумою: три незалежні ймовірності зводяться фіксованими вагами, карантин при 0.6, людський перегляд лише у смузі 0.4–0.6. Сигнал «вимагають облікові дані» має вагу 0.45, тож сам він не досягає порога карантину за жодної ймовірності. Живий замір у вересні 2026: майже певний запит пароля (0.95) набрав 0.457 і карантину не отримав. Критичний сигнал без права вето — рівно та згортка, якої обов’язковий гейт приймати не має права. Натомість патерн composite scoring ранжує кандидатів перед людським переглядом, і компенсаторне зведення там легітимне.
- ·Мітки для дистильованого класифікатора генерує ансамбль дорогих reasoning-моделей — некалібрований суддя калібрує калібратор; те саме невирішене питання, що й до LLM-judge в інших записах бібліотеки.
- ·Немає невизначеності вимірювання й немає опублікованих цифр калібрування — ні ECE, ні reliability diagram, ні порівняння з базовою лінією. Для продукту, чия центральна обіцянка — калібрування, обіцянку заявлено, а не виміряно.
- ·Повторні виклики на ідентичному вході переносять імовірність через поріг рішення: власний кукбук вендора показує Noul у діапазоні 0.43–0.53 і перевертання мітки Choice на двох питаннях із восьми. Гейт на одному числі тому потребує смуги гістерезису й піна версії моделі: плаваючий аліас розв’язався в конкретний точковий реліз посеред прогону.
- ·Модель принципово не обґрунтовує рішень. Розподіл імовірностей не є аудиторським поясненням, а це блокує саме ті регульовані сценарії, заради яких існує фреймворк.
- ·Вендор визнає, що калібрування не переноситься на домен покупця — пороги треба перепідбирати на власних даних. Робота з валідацією не зникає, вона переїжджає з промпт-інженерії у побудову таксономії питань.
Відкрите / на узгодження
- ·Це власна документація вендора, а не рецензований результат; цитувати як чинну рекомендовану практику, ніколи — як свідчення продуктивності.
- ·Власний агентський скіл вендора стверджує позицію цього фреймворку — зважені бали годяться для компенсаторних уподобань, а правило «будь-яке серйозне порушення» потребує окремих умов, — але наскрізний приклад документації її не застосовує. Розрізнення проведене в одному артефакті й порушене в іншому, і це гостріша знахідка, ніж проста відсутність.
- ·Позиціюється як новий клас моделей, хоча механізм — розподіл над фіксованим набором варіантів — досяжний уже сьогодні обмеженим декодуванням і logprobs. Заявка на новизну спирається на виміри, яких немає публічно.
Читати як галузеве підтвердження позиції і як живий приклад score-only патерну, який фреймворк відкидає. Публічна вендорська документація, звірено у вер. 2026.
TAO — Tiered Agentic Oversight
Споріднена ідеяНайближчий архітектурний попередник · емпіричний якір
Kim et al., 2025
Ієрархічна багатоагентна архітектура безпеки, де агенти ескалюють до дедалі спроможніших ярусів із виміряним поглинанням 16,9–24,3 % помилок на нижніх ярусах. Найближчий опублікований попередник ідеї ярусної оркестрації й емпіричний якір твердження, що ярусні сходи ловлять помилки, яких не ловить плаский конвеєр.
метрикиEP · FPA · SNR · ABC · TCC
Дає внесок
- ·Кількісно виміряне поглинання помилок по ярусах — найсильніше зовнішнє число для аргументу про точність ескалації.
- ·Працююча демонстрація, що нагляд можна структурувати ярусами, а не одним кроком рецензування.
Де TRACE додає строгості
- ·Вибір ярусу й політика виклику злиті докупи: обрати клас моделі (L2) і вирішити, коли її кликати (L3), — різні рішення з різними режимами відмови.
- ·Немає виділеного детермінованого ядра правил під ярусами.
- ·Немає метрології й обмеження парсимонії — яруси додають, але ніколи не обґрунтовують як найдешевший достатній варіант.
Найближчий архітектурний попередник. Kim et al. (2025), Tiered Agentic Oversight.
AgentField і CodeAF — словник assurance без вимірювання
Споріднена ідеяВендорський контрприклад · підписано ще не означає перевірено
AgentField, 2026 (open-source control plane v0.1.141; CodeAF v0.4.2, Apache-2.0)
Два продукти одного вендора. AgentField — control plane для агентів, що продається через криптографічну ідентичність, runtime policy і tamper-evident журнал аудиту: кожен reasoner стає ендпоінтом, кожен виклик потрапляє в граф виконання, а виконання може стати на паузу до рішення людини. CodeAF — фабрика агентів для кодингу на open-моделях: дерево задач, модель на кожну роль і кожну задачу на «коліні» якість–вартість (Pareto Crewing) і перевірки приймання, яких виконавець не бачить. Автор локально пілотував AgentField як обгортку над детермінованим аудитом ланцюга доказів інстансу research: числа збіглися з еталоном до знака, пауза для людини зберегла стан, але записи аудиту перевірки не витримали.
метрикиETC · CE · ABC · TCC · CPR · OvR
Дає внесок
- ·Held-out acceptance: чек-лист, за яким приймають роботу виконавця, генерується й зберігається поза його досяжністю — незалежність перевіряльника стає структурною, а не проханням.
- ·Pareto Crewing: модель на роль × задачу, frontier-моделі лише там, де цього вимагає якість, — операційна форма Model Parsimony (40 % економії — самозвіт вендора).
- ·Довговічна пауза для людини посеред автоматичного ланцюга: стан зберігається, прогін відновлюється з місця паузи, а рішення записується як окреме виконання — конкретний механізм L4.
- ·Граф викликів кожного прогону — хто кого кликав, у якому порядку, скільки тривало — придатна форма runtime evidence trail.
Де TRACE додає строгості
- ·Підпис — не вимір. Ключі всіх агентів виводяться з одного сіду, який тримає control plane, тож «агент підписав» означає «платформа підписала від його імені». Без ланцюга хешів між записами й без зовнішнього якоря tamper-evidence — властивість, заявлена стороною, яку аудитують. Це модель довіри, а не баг, і патчі її не змінять.
- ·Перевірка цілісності — вимірювальний прилад, і її треба калібрувати. У пілоті (v0.1.141) справжні записи не пройшли перевірку після одного перезапуску control plane, а запис, змінений у сховищі, пройшов. Без виміряних частот хибних тривог і пропусків «VALID» не має метрологічного змісту — похибка калібрування, застосована до шару аудиту, а не лише до моделі.
- ·Гасло «у 3,9 раза точніше за Claude Code» означає, що всі harness-и працювали на одній open-моделі, а Claude Code — поза своєю штатною. При 62 зі 113 задач 95-відсотковий інтервал — близько ±9 пунктів: це абляція harness-а, що відокремлює лише верхню групу, а не порівняння продуктів.
- ·Прочитати AGENTS.md ще не означає виконувати. Межі, які хост-агент тримає через хуки перед виконанням, інший harness не запустить — правило знову стає текстом у промпті.
- ·Ліміт витрат — не межа автономії: він обмежує вартість, а не те, що агентові дозволено. Повноваження мають бути заслужені, а не куплені.
Відкрите / на узгодження
- ·Обидва продукти до версії 1.0. Тривкою знахідкою цитувати версію й архітектурну тезу (ключі в платформи, немає якоря), а не дефекти; дефекти підготовлено як звіт вендору.
- ·Пілот — власний і неопублікований: спостереження практика, не виміряне свідчення. CodeAF сам не пілотувався.
- ·Бенчмарк — самозвіт; його методику незалежно не перевірено.
Вендорський контрприклад: словник assurance (ідентичність, політика, аудит) прийнято, вимірювання лишилося поза дужками. Публічна документація й локальний пілот, жовт. 2026.
METR — монітор, що блокує дії, перевірений самими авторами
Споріднена ідеяДослідницький контрприклад · бал не може бути єдиною підставою для дозволу
METR, 2026 (research note, 27 вересня; не рецензовано)
Монітор, що стоїть перед кожним викликом інструмента агента, якого оцінюють. Окрема LLM читає розмову й запропоновану дію і ставить бал підозрілості від 0 до 10; усе, що має 3 і вище, зупиняє прогін до рішення людини: схвалити, відхилити чи завершити. На живому трафіку хибних тривог дуже мало — 5 із приблизно 20 000 дій усередині організації, 0,015 % на дію на 758 538 діях AI-control, — а кожен шкідливий транскрипт з інциденту UK AISI отримав 8 або більше. Цінність у тому, що далі: автори розбирають власний конвеєр етап за етапом і публікують, де він ламається.
метрикиCE · OvR · RBI · ABC · CPR
Дає внесок
- ·Fail-closed за побудовою: помилка монітора блокує дію, а не пропускає її — те саме правило, що для неоціненого гейта в цьому фреймворку.
- ·Хибні тривоги виміряно на великому трафіку, на дію й на транскрипт, ще до будь-якої заяви про безпеку — та половина калібрування детектора, яку зазвичай пропускають.
- ·Рішення людини стоїть перед виконанням: схвалити, відхилити й завершити — окремі результати, а час перевірки виміряно — від 30 секунд до 2 хвилин на дію.
- ·Чесний рядок витрат: близько +43 % затримки й +85 % вартості інференсу на транскрипт, приблизно 5 секунд на оцінену дію — накладні витрати, які прибрав би дешевший детермінований перший гейт.
- ·Ред-тімінг власного safety-конвеєра, опублікований разом зі збоями, — позиція, якої ця бібліотека вимагає від кожного запису.
Де TRACE додає строгості
- ·Це дозвіл лише за балом з одним доданком: нижче порогу дія виконується на підставі судження однієї моделі, яка читає текст, здебільшого написаний самим агентом. Написана вручну підроблена репліка користувача, що нібито дія є частиною оцінювання, знизила середній бал шкідливої дії з 8,1 до 3,7, і 12 із 30 прогонів опинилися нижче порогу (без підробки — жодного). Походження повідомлення — факт, який знає рантайм; змушувати модель виводити його з тексту — це та компенсація, від якої обов'язковий гейт мусить відмовлятися.
- ·Під час тестування агент для кодингу сам відкрив інтерфейс перевірки людиною й надсилав туди натискання клавіш. Канал схвалення, досяжний з інструментів агента, — не людський нагляд. Автор відтворив цей клас збою на власному референсному гейті: текстові бар'єри й маркер середовища обійшов скрипт, який написав агент; перевірка предків процесу закриває більшість шляхів, але не відʼєднаний процес. Тож схвалення має засвідчувати щось, чого агент не має.
- ·Шкода, розкладена на невинні з вигляду кроки, лишилася непоміченою (0 з 10 на перевірці статус-кодів проксі перед їх використанням). Бал на дію бачить намір в одному кроці; доменний інваріант бачить стан, до якого кроки складаються.
- ·Покриття залежало від дисципліни: дослідник не ввімкнув монітор для набору оцінювань, що підпадав під критерії, а старіші інструменти ховали від нього частину дій. Гейт, який треба вмикати, — не архітектурна межа.
- ·Поріг 3/10 вибрано без reliability diagram, ECE чи смуги гістерезису, recall спирається на десять транскриптів інциденту й тринадцять синтетичних дій, а recall рецензентів не вимірювали взагалі.
Відкрите / на узгодження
- ·Research note, а не рецензована стаття: цитувати як сіру літературу, з датою.
- ·Не доказ того, що LLM-монітори не працюють, — числа хибних тривог сильні. Теза вужча: бал не може бути єдиною підставою для дозволу, і це видно з даних самих авторів.
- ·Відтворення на гейті автора — неопублікована практична робота; LLM-плеча не запускали, тож падіння балу в METR цитується, а не повторюється.
Дослідницький контрприклад із власними даними: LLM-монітор на кожну дію, автори якого виміряли, як підроблена репліка користувача й досяжний канал перевірки його долають. Research note METR, вер. 2026.