Управление границами контекста
Спроектировать и проверить три разные границы для работы AI-агента:
- workspace boundary — директория и набор источников, назначенные рабочей областью задачи;
- visibility boundary — данные, намеренно приложенные, проиндексированные или переданные в активный контекст;
- access boundary — технически обеспеченные ограничения чтения, изменения, сети и инструментов через permissions, sandbox, ACL и tool policy.
Рабочая директория и отсутствие данных в ответе не доказывают техническую изоляцию. Человек должен выбирать минимальную область работы, не смешивать домены и подтверждать границу доступа настройками среды и наблюдаемым поведением инструментов.
Тренажёр навыка
Понять.
Сделать.
Подтвердить.
Что нужно уметь
Спроектировать и проверить три разные границы для работы AI-агента:
- workspace boundary — директория и набор источников, назначенные рабочей областью задачи;
- visibility boundary — данные, намеренно приложенные, проиндексированные или переданные в активный контекст;
- access boundary — технически обеспеченные ограничения чтения, изменения, сети и инструментов через permissions, sandbox, ACL и tool policy.
Рабочая директория и отсутствие данных в ответе не доказывают техническую изоляцию. Человек должен выбирать минимальную область работы, не смешивать домены и подтверждать границу доступа настройками среды и наблюдаемым поведением инструментов.
Составляющие навыка
- Workspace boundary — назначить директорию и источники рабочей областью конкретной задачи.
- Visibility boundary — определить данные, намеренно переданные или проиндексированные в активном контексте.
- Access boundary — технически ограничить чтение, изменение, сеть и инструменты через permissions, sandbox, ACL или tool policy.
- Минимизация домена — не смешивать личные, рабочие и иные несвязанные области данных.
- Проверка границы — подтвердить ограничения настройками, безопасными canary-проверками и наблюдаемым поведением инструментов.
Как закрепить
На учебном наборе из нужных, лишних и синтетических чувствительных материалов определить workspace и visibility для одной задачи, затем настроить или проверить permissions, sandbox и tool policy так, чтобы исключённый контрольный файл был технически недоступен. Выполнить безопасную попытку чтения синтетического canary-файла и проверить отказ и журнал инструментов; отдельно описать допустимый маршрут для сквозного запроса.
Как проверить перенос
Получить новый кейс с двумя похожими проектами, общими источниками и синтетическими чувствительными данными. До выполнения задачи без готовой схемы разделить workspace, visibility и access, выбрать минимальные разрешения и доступные инструменты, проверить ограничения безопасным canary-тестом и по журналам, объяснить каждое включение и исключение. Если среда не позволяет обеспечить требуемую границу, остановить запуск и сформулировать необходимое изменение среды.
Результат, а не ощущение
Evidence
освоения
- отдельная карта workspace, visibility и access boundary;
- перечень включённых и исключённых источников с владельцами и причиной решения;
- фактические permissions, sandbox и tool policy, включая ограничения сети и инструментов, когда они существенны;
- безопасный canary-тест, подтверждающий разрешённый доступ и отказ для исключённого синтетического файла;
- журнал инструментов или другой наблюдаемый след проверки доступа;
- осознанный маршрут авторизации для допустимого сквозного запроса;
- отсутствие вывода об изоляции только на основании текущей директории или текста ответа.
Антипаттерны
Типовые ошибки
- восприятие рабочей директории как sandbox или ACL;
- смешение того, что не приложено к контексту, с тем, что технически недоступно;
- попытка защитить чувствительные данные только инструкцией в prompt;
- запуск из домашней или общей родительской директории без проверки разрешений;
- игнорирование доступа через сеть, поиск, коннекторы и другие инструменты;
- вывод о безопасности потому, что лишние данные не появились в ответе;
- проверка границы на реальном секрете вместо синтетического canary-файла.