Безопасность AI-функций

Статья сводит воедино механизмы, ограничивающие доступ к AI-функциям платформы и действия самих агентов.

Лицензия и доступ пользователей

AI-функции доступны при выполнении двух условий:

  1. Лицензия инсталляции содержит признак ai (или лицензия разработчика).

  2. Пользователь состоит в группе ai-feature-allowed («Разрешено использовать AI-функции», полный идентификатор GROUP_ai-feature-allowed). Администраторы платформы проходят проверку без членства в группе. Анонимным и гостевым пользователям AI-функции недоступны всегда.

Группа поставляется вместе с модулем citeck-ai пустой: администратор наполняет её пользователями или группами оргструктуры.

Генерация и редактирование изображений дополнительно требуют членства в группе ai-image-allowed — доступ к платным генерациям изображений управляется отдельно от остальных AI-функций.

Три оси доступа к инструментам

Какие действия доступны агенту, определяется тремя независимыми механизмами:

  1. Белый список агента — поле tools записи агента. Агент видит только явно подключённые инструменты; это единственный фильтр «какие инструменты у какого агента».

  2. Путь выполнения — признак isAvailableForStatelessExecution() инструмента. Изменяющие инструменты (создание, изменение, удаление записей, публикация артефактов) запрещены на stateless-пути (вызов из BPMN, POST /api/ai-agent/execute) и доступны только в интерактивном диалоге, где действует подтверждение человеком. Способ отказа зависит от вызывающего: BPMN-путь завершается явной ошибкой, REST-путь исключает запрещённые инструменты из набора и сообщает об этом в ответе; запрещённый инструмент не будет выполнен ни в одном из случаев. См. каталог инструментов.

  3. Движок агента — поле engine определяет сам режим выполнения и его защитные механизмы (подробнее).

Права пользователя

В интерактивном диалоге все инструменты работают под правами текущего пользователя: агент не прочитает запись и не изменит артефакт, которые недоступны самому пользователю. Попытка публикации без прав завершается одним понятным сообщением об отказе.

Предупреждение

На stateless-пути (вызов из BPMN) запрос выполняется под техническим пользователем процесса, без подтверждений человеком: процесс рабочего пространства — под системным пользователем этого пространства, с теми же ограничениями, что и скрипты процесса, глобальный процесс — под системным пользователем платформы. Не добавляйте изменяющие инструменты агентам, предназначенным для автономного вызова, — ограничивайтесь читающими. Платформа дополнительно защищает этот путь: изменяющий инструмент в белом списке агента при вызове из BPMN приводит к явной ошибке, а при вызове через POST /api/ai-agent/execute — исключается из набора; молчаливого выполнения нет ни в одном случае.

Изоляция рабочих пространств

  • Операции агента выполняются в рамках рабочего пространства диалога; публикация артефактов из рабочего пространства не затрагивает глобальную конфигурацию: из пространства ассистент изменяет только артефакты этого пространства, а матрицу прав над типом вне пространства не создаёт, потому что она изменила бы доступ к записям для всех пользователей системы (область публикации).

  • AI-задача и AI-агент, вызванные из процесса рабочего пространства, работают от имени системного пользователя этого пространства, а не с полными правами системы, — так же, как скрипты того же процесса. Пространство определяется по ключу определения процесса (<идентификатор пространства>..<идентификатор процесса>); ключ с пустым идентификатором пространства приводит к ошибке задачи, а не к выполнению с правами системы.

  • Действия над записями (кнопки на карточке), созданные ассистентом в рабочем пространстве, сохраняются как действия этого пространства; создавать их могут администратор и менеджер пространства (область публикации).

  • Базы знаний индексируются в отдельные коллекции по рабочим пространствам, результаты семантического поиска фильтруются по правам пользователя (настройка RAG).

Изоляция диалогов

  • Диалог принадлежит пользователю, который его начал. Отправить сообщение в чужой диалог, подтвердить или отклонить в нём план или публикацию, очистить его историю нельзя: на идентификатор чужого диалога сервис отвечает 404, как если бы диалога не существовало. Исключения для администратора нет — история диалога не имеет прав доступа, на которые можно было бы опереться, и её чтение администратором было бы тем же раскрытием данных.

  • Данные диалога живут столько же, сколько его история. Если в диалоге около суток нет записей и ходов владельца (на практике — 24–25 часов), удаляются вместе: история сообщений, привязка к владельцу, состояние незавершённого плана и временные файлы диалога. Каждый ход владельца продлевает срок. Незавершённый план больше не хранится отдельно от диалога дольше его истории.

  • После явной очистки диалога (кнопка «Очистить») или истечения срока идентификатор освобождается: новым владельцем становится тот, кто первым отправит в него сообщение. Идентификатор, у которого владельца нет, но сохранилась история или состояние плана, не занимается никем — на него сервис отвечает 404 всем пользователям.

  • Служебные идентификаторы не принимаются от клиента. Идентификатор диалога, содержащий -agent- или -gen-, зарезервирован за внутренними областями самого сервиса: на запрос с таким идентификатором сервис отвечает 400 с объяснением и ход не выполняет. Интерфейс платформы использует идентификаторы в формате UUID, на них это ограничение не влияет.

Подтверждения действий

Все действия с необратимыми последствиями — публикация конфигурации, изменение и удаление записей, расширение типов — проходят через подтверждение человеком. Нормативный перечень точек — в разделе Человек в контуре.