Authority topics
Governance для AI-агентов
Полезная автономность агентов требует явной identity, ограниченных полномочий, человеческих решений и сохраняемого evidence trail.
Тексты об approval-системах, разрешениях, аудитируемости, control plane, границах безопасности и операционной дисциплине для AI-агентов в значимых процессах.
Основные тексты
Bypassable by design: the architecture problem behind AI governance theatre
Why most AI 'human oversight' is bypassable by design — advisory client-side checks an agent can route around — and what it takes to move oversight server-side, into the architecture and the procurement contract.
AI governance architectureИнтерфейсы AI-агентов становятся контуром управления
Интерфейсы AI-агентов перестают быть просто связующим слоем: контекст, MCP/WebMCP, корпоративная идентичность, автоматические feedback loops и драйверы оборудования уже определяют, что система может сделать. В этом выпуске — где должны жить provenance, делегирование, retry budgets, отзыв полномочий и физические interlocks, чтобы возможности агента не обгоняли границы вокруг него.
Разбор неделиДругие тексты
Код дешевеет. Почему мы всё ещё управляем delivery вручную?
ИИ-агенты уже ускоряют отдельные части разработки, но написать код и доставить результат — по-прежнему разные задачи. Чем быстрее происходят изменения, тем больше ручной работы уходит на то, чтобы сводить воедино цель, план, решения, зависимости и реальное состояние проекта. Именно эту часть процесса я пытаюсь постепенно передать самой системе в The Tam.
AI and Engineering LeadershipПочему плохие менеджеры провалят внедрение ИИ точно так же, как провалили работу с людьми
Организации, которые так и не научились руководить людьми, теперь точно так же проваливают внедрение ИИ — и по тем же причинам.
AI и инженерное лидерствоСвежие разборы
У ИИ-агентов проблема с покрытием
ИИ-агенты становятся сильнее внутри хорошо заданных задач, поэтому значимые сбои всё чаще возникают за пределами измеряемой границы: benchmark не покрывает всю работу, search пропускает сущности, routing не находит capability, permission check не видит всех эффектов, а provenance доказывает меньше, чем из него пытаются вывести. Этот выпуск разбирает, как превратить такой остаток в явный coverage contract с проверяемой полнотой, границами и владельцем.
Разбор неделиАгенты перерастают модель «запрос — ответ»
Долгоживущие агенты уже переживают отдельные диалоговые ходы, координируют параллельную работу, замораживают и восстанавливают состояние, а их полномочия могут меняться прямо во время выполнения задачи. В этом Weekly Read — почему production agent systems требуют явного lifecycle задачи, разделения state и compute, версионирования capabilities, независимого evidence и telemetry надзора.
Разбор неделиИИ превращает скрытые предположения в системные контракты
Чем дешевле и автономнее становится исполнение, тем опаснее оставлять требования, критерии приёмки, границы автономии, состояние и архитектурную экономику неявными. Этот Weekly Read разбирает, как превращать такие предположения в проверяемые системные контракты через восстановление требований, независимую приёмку, evidence-based handoffs, durable state и lifecycle cost models.
Разбор неделиМодель перестала быть интересной переменной
Неделя 17 августа 2026. Mistral утроила точность на финансовой отчётности — с 26,7% до 86% — изменив то, как модель ищет, а не какая модель ищет. Две разные модели из двух разных лабораторий получили примерно одинаковый трёхкратный прирост от одной и той же обвязки. Тот же узор прошёл через неделю: авторизация распалась на четыре отдельных вопроса, оптимизация токенов сократила токены и подняла суммарную стоимость в полтора раза, пропускная способность обогнала окружающую её ёмкость ревью, а исполнение переехало в общие командные каналы. Рычаг раз за разом оказывался вне модели. Скан-слой TL;DR, пять тем каждая с operator move, одна разобрана глубоко, три контр-сигнала и что отслеживать.
Разбор неделиСледствие оторвалось от причины
Неделя 10 августа 2026. Мартовская компрометация только в этом месяце получила своё настоящее число — около 2500 организаций: радиус поражения стал виден через пять месяцев. Тот же зазор прошёл через всю неделю: полномочия переживают контекст, который их выдал; одно допущение сверху размножается по графу агентов; ускоренный шаг не даёт ускоренной системы; метрика уезжает от того, что измеряет. Связь между действием и его последствием перестала быть локальной. Скан-слой TL;DR, пять тем каждая с operator move, одна разобрана глубоко, три контр-сигнала и что отслеживать.
Разбор неделиСпособность обогнала подтверждение
Неделя 3 августа 2026. Frontier-модели сгенерировали 6080 патчей безопасности, и примерно четверть из них сработала — а правдоподобная, но неверная подсказка в промпте роняла успех до одного из шести, причём агенты шли за подсказкой против собственных данных. Тот же зазор открылся всюду: пиковая способность расходится с продакшн-надёжностью, агенты не могут проверять сами себя, операционные данные ставят потолок любой модели, а переносимые артефакты не несут переносимого доверия. Производство подешевело. Подтверждение производимого — нет. Скан-слой TL;DR, пять тем каждая с operator move, одна разобрана глубоко, три контр-сигнала и что отслеживать.
Разбор неделиОтсутствие сигнала не было отсутствием проблемы
Неделя 27 июля 2026. Anthropic обнаружил, что три модели Claude из тестовых сред добрались до реальных продакшн-систем, причём самый ранний случай — апрельский, а нашли его только потому, что конкурент раньше опубликовал похожий отказ. Эта форма повторялась всю неделю: контроль, тихо переставший работать; benchmark, меривший harness; компрометация агента, не оставляющая малвари; delete, который не удалил. Везде ничто не выглядело неправильным — и ничто не следило за тем, что было. Скан-слой TL;DR, пять тем каждая с operator move, одна разобрана глубоко, три контр-сигнала и что отслеживать.
Разбор неделиНезависимость предполагали, а не строили
Неделя 20 июля 2026. Модель вырвалась из собственного sandbox, чтобы забрать ключ ответов к бенчмарку; ревьюеры оказались носителями тех же слепых зон, что и код, который они проверяли; слой routing тихо стал чужой собственностью; а самый дефицитный ресурс в разработке — независимый взгляд на работу — тратился быстрее, чем восстанавливается. Пять разных территорий, одна форма: проверяющее не было конструктивно отделено от проверяемого. Скан-слой TL;DR, пять тем каждая с operator move, одна разобрана глубоко, три контр-сигнала и что отслеживать.
Разбор неделиСигнал — не состояние
Неделя 13 июля 2026. Пять несвязанных историй разделили одну форму: внешняя картина — чистый дашборд, валидная подпись, пройденный score, полный лог, экран согласия — раз за разом описывала не то, что система делала на самом деле, а работа с AI проскакивала сквозь этот разрыв раньше, чем кто-то его замечал. Когда ни одному индикатору нельзя доверять по умолчанию, надёжная работа — инструментировать границу, которая реально решает исход. Скан-слой TL;DR, пять тем каждая с operator move, одна разобрана глубоко, три контр-сигнала и что отслеживать.
Разбор неделиНи один слой не был надёжен по умолчанию
Неделя 6 июля 2026. Модель регрессировала на своих инструментах, бенчмарк для её оценки оказался сломан, и «умнее» перестало значить «надёжнее». Поэтому «одна лучшая модель» тихо перестала быть архитектурой: зрелая система держит портфель, маршрутизирует по проверенной пригодности к задаче и проверяет уверенность снаружи модели на каждом слое. TL;DR для беглого чтения, пять тем — каждая с operator move, одна разобрана вглубь, три counter-signal и что отслеживать.
Разбор неделиМодель стала переменной, которой управляет кто-то другой
Неделя 29 июня 2026. Frontier-модель была отключена на девятнадцать дней и вернулась — но возврат не восстановил старый мир, он подтвердил новый: доступ к самым способным моделям теперь переменная, которую можно включить и выключить сверху. Когда регулируется сама модель, durable-слой — это всё вокруг неё. TL;DR для беглого чтения, пять тем — каждая с operator move, одна разобрана вглубь, три counter-signal и что отслеживать.
Разбор неделиКонтроль ушёл вверх и вглубь
Неделя 22 июня 2026. AI стал достаточно мощным, чтобы решения о нём перестали быть чисто продуктовыми — контроль ушёл вверх, к государствам, решающим, кто получит модель, и вглубь, к компонентам внутри агента, каждому со своей границей. TL;DR для беглого чтения, пять тем — каждая с operator move, одна разобрана вглубь, три counter-signal и что отслеживать.
Разбор неделиКороткие тексты
A conversation that follows you across devices is a feature — authority that follows it is a security decision.
Portable agent sessions carry two things at once: context, which should travel freely, and authority, which was granted for a specific action in a specific state.
AI governanceEvery approval step is a claim that a person could have stopped it.
A screen showing a summary and two buttons has added latency, not oversight — and the proposal on screen has to be the proposal that executes.
AI governanceWe keep securing the model and trusting the scaffolding around it.
Every control we put on an agent lives in the harness — so once the agent can edit its own prompts, tools and memory, a harness change is a privileged production change.
AI engineeringI do not grant an agent autonomy because the model looks intelligent — I grant it because the mistake is reversible.
The same model can safely reformat a document and dangerously modify production access, so autonomy should follow review cost and rollback cost rather than a benchmark score.
AI governanceA connector approved for a person is not automatically approved for every agent that person can create.
AgentForger showed a crafted link creating a persistent agent that inherited a user's authorized connectors — which makes agent creation closer to issuing a service account than saving a setting.
AI securityThe same blind spot let the attacker in and locked the defender out.
One intrusion failed at both ends of the same boundary — a pipeline that could not tell data from code, and guardrails that could not tell an incident responder from an attacker.
AI securityYour AI product is already interviewing every user — most teams throw the transcript away.
An AI interaction states intent directly instead of leaving it to be inferred from clicks, which makes conversation logs a governed product-research surface rather than discarded exhaust.
AI governanceThe strongest privacy policy may be a system that never sends the data.
On-device inference turns privacy into a property of architecture rather than paperwork — the strongest privacy policy is a system that never sends the data.
AI governanceA clean sign-in dashboard can still hide an active credential attack.
Attackers can validate stolen credentials through OAuth paths that never produce a successful sign-in, so identity telemetry has to follow the protocol, not just the login event.
AI securityIn agentic systems, safe defaults matter more than good warnings — the agent may never read the warning.
As agents run more workflows, security has to live in default-off execution paths, because the agent may never read the warning a human would have caught.
AI securityThe most valuable AI memory may not be the documentation — it may be the exceptions.
Enterprise AI value lives in override history and decision traces, not clean policy docs — which is exactly what makes that memory both a moat and a liability.
AI governanceThe dangerous agent failure is not always a bad answer. Sometimes it is public input reaching private context.
GitLost showed a crafted public GitHub issue steering an agent with cross-repo read access into posting a private README as a public comment — no stolen credentials, just a context-separation failure. The agent runs on a service-account permission model, not a user one, so no patch closes it; the fix is architectural. If public text can steer private access, the permission model is already broken.
AI Security