Захист корпоративного штучного інтелекту та ШІ-агентів

AI-інструменти (ChatGPT, Claude, Gemini та інші) вже використовуються співробітниками, а AI-функціональність активно інтегрується в застосунки та сервіси.

При цьому організації часто не мають:

• достатньої видимості того, як саме використовується ШІ;
• контролю над тим, які дані передаються в AI-сервіси;
• механізмів виявлення ризикових взаємодій;
• необхідного контексту для розслідування інцидентів;
• узгодженого підходу між SecOps, IT і engineering командами.

Falcon AI Detection and Response (AIDR)  забезпечує видимість і контроль AI-взаємодій без необхідності обмежувати використання штучного інтелекту.

Контроль використання AI співробітниками в керованому середовищі.

Моніторинг активності ШІ у керованих браузерах за допомогою Browser Collector AIDR, який є легковаговим браузерним розширенням для керованих кінцевих пристроїв і забезпечує збір та аналіз взаємодій співробітників із вебінструментами ШІ з подальшим застосуванням політик безпеки.

Можливості

• видимість використання AI-інструментів співробітниками;
• аналіз взаємодій (промпти та відповіді);
• виявлення передачі чутливих даних (PII, credentials тощо);
• застосування політик контролю;
• підтримка сценаріїв захисту даних у GenAI.

Коли це актуально

• співробітники використовують публічні AI-інструменти;
• є вимоги до контролю передачі даних;
• потрібна видимість без повної заборони AI.

Контроль і безпека активності ШІ в застосунках і агентних середовищах

Моніторинг і контроль AI-активності в застосунках, сервісах і агентних середовищах за допомогою набору колекторів AIDR, які забезпечують збір і аналіз AI-телеметрії на різних рівнях інфраструктури та застосування політик безпеки.

Колектори

• Browser – браузерне розширення, яке фіксує взаємодії користувачів із сайтами провайдерів ШІ (ChatGPT, Claude, Gemini та інші) у керованих браузерах;
• Application — інтеграція через SDK та API для інструментування внутрішніх застосунків із вбудованими (inline) перевірками безпеки ШІ;
• Agentic — MCP (Model Context Protocol) proxy, що фіксує трафік ШІ між MCP-клієнтами та серверами;
• Gateway — інтеграція на рівні мережевого proxy (Kong, LiteLLM, Portkey та інші), що інспектує трафік ШІ на рівні API gateway;
• Cloud — інтеграція з хмарними платформами, яка збирає логи та події, пов’язані з ШІ, із підтримуваних платформ (AWS Bedrock);
• OpenTelemetry — стандартизоване інструментування телеметрії для збору даних, пов’язаних із ШІ, із застосунків і сервісів.

Можливості

• видимість AI-активності в застосунках і сервісах;
• виявлення ризикових сценаріїв (наприклад, prompt injection);
• застосування політик до AI-взаємодій;
• забезпечення комплаєнсу та відповідності регуляторним вимогам.

Коли це актуально

• ШІ інтегровано у продукти або внутрішні системи;
• потрібен контроль взаємодій на рівні API або застосунків;
• є ризики, пов’язані з експлуатацією AI-логіки.

AIDR збирає AI-телеметрію, аналізує її та застосовує політики контролю.

Які дані збираються:

• промпти;
• відповіді AI;
• метадані (user, device, application, timestamp тощо);
• результати аналізу (виявлені ризики, застосовані дії).

Типи політик:

Access rules — на основі атрибутів (користувач, пристрій, застосунок).
Prompt rules — аналіз контенту промптів та відповідей.

Які ризики допомагає знизити AIDR

• передача чутливих даних в AI-сервіси;
• використання несанкціонованих AI-інструментів;
• відсутність видимості AI-використання;
• ризикові або небезпечні взаємодії з AI;
• порушення внутрішніх політик і комплаєнсу.

AIDR не замінює наявні інструменти безпеки (SIEM, DLP, EDR), а доповнює їх, додаючи видимість і контроль саме для AI-взаємодій.

CrowdStrike співпрацює з OpenAI у межах програми Trusted Access for Cyber (TAC), отримуючи доступ до спеціалізованих моделей для кібербезпеки.

Це дозволяє:

• використовувати AI для виявлення складних атак
• аналізувати загрози в реальному часі
• підвищувати точність рішень у сфері безпеки