У 2025 році компанії продовжували боротися з кількома ключовими викликами у безпечній розробці. Розвиток ШІ та генеративного ШІ кардинально змінив ландшафт загроз і, як наслідок, суттєво вплинув на практики безпечної розробки.
Однією з ключових проблем є зростання складності атак на основі ШІ, тому для команд розробки критично важливо інтегрувати надійні заходи безпеки безпосередньо у свої робочі процеси.
Крім того, критичним викликом залишається забезпечення безпеки систем ШІ протягом усього життєвого циклу. Це включає не лише безпечну розробку ШІ-рішень, а й захист моделей, зокрема LLM від вразливостей, таких як отруєння даних або ін’єкції промптів. При цьому традиційні заходи безпеки, зокрема моніторинг, логування та виявлення вторгнень, також залишаються необхідними для ефективного управління системами ШІ.
Атаки на ланцюг постачання залишаються значною загрозою. Компрометація компонентів програмного забезпечення, чи то відкритого коду, чи комерційного, може мати критичні наслідки. Організації мають надавати пріоритет управлінню та моніторингу ризиків ланцюга постачання програмного забезпечення, включаючи використання специфікації компонентів програмного забезпечення (Software Bills of Materials) і ретельне управління патчами.
Поширення регуляторних вимог із кібербезпеки створює додатковий рівень складності. Організаціям доводиться працювати у фрагментованому середовищі регіональних і глобальних стандартів, що ускладнює одночасне забезпечення відповідності та безпеки процесів розробки.