Školení na Bezpečný vývoj a AI

Co je to Bezpečný vývoj a AI

AI nástroje jako ChatGPT, GitHub Copilot, Claude, Cursor nebo další asistenti zásadně mění způsob, jakým vyvíjíme software. Přinášejí vyšší produktivitu, rychlejší prototypování a možnost automatizovat rutinní práci – od psaní kódu až po dokumentaci, testy nebo code review. Současně však zavádějí nová rizika: úniky citlivých dat, porušení licencí a IP, vznik zranitelností vygenerovaným kódem, závislost na nástrojích bez kontroly a nové typy útoků specifické pro LLM a AI agenty.

Toto školení vás naučí používat AI při vývoji efektivně a bezpečně. Zaměříme se na správnou práci s prompty, bezpečné „vibe coding“ workflow, ochranu dat a duševního vlastnictví, a také na to, jak AI zapojit do vývojového procesu tak, aby zlepšovala kvalitu a bezpečnost – ne aby přidávala rizika. Součástí je i pohled na moderní hrozby spojené s LLM (prompt injection, data exfiltration, supply chain rizika) a praktické postupy, jak jim předcházet.

Jak školení probíhá

Školení probíhá formou praktického workshopu kombinujícího teorii s ukázkami a hands-on cvičeními. Na konkrétních příkladech si ukážeme, jak AI asistenty používat v reálném vývoji: generování kódu, refactoring, psaní testů, analýza logů a návrh architektury. Zároveň si ukážeme, kde AI typicky „halucinuje“, kdy vytváří nebezpečné vzory a jak takové výstupy odhalit.

Projdeme si i bezpečnostní část: reálné útoky a slabiny v AI systémech, principy OWASP Top 10 for LLM, bezpečné zacházení s daty a přístupovými údaji, a doporučení pro firemní politiku používání AI (co je OK, co není, jaké workflow a jaké nástroje). Ukážeme si, jak AI doplnit o standardní bezpečnostní kontroly v pipeline (SAST/SCA/DAST), aby se z AI-driven vývoje nestal bezpečnostní dluh.

Podle potřeb účastníků lze část zaměřit i na tvorbu vlastních AI agentů: jak je navrhnout bezpečně, jak omezit jejich přístupy, jak auditovat jejich akce a jak se vyhnout typickým chybám (např. náhodné provádění destruktivních akcí nebo únik secrets).

Co se naučíte

• Rizika AI ve vývoji – úniky dat, licenční/IP rizika, halucinace, vznik zranitelností, supply chain
• Bezpečný prompt engineering – jak psát prompty, validovat výstupy a pracovat s kontextem bez úniku citlivých dat
• Bezpečné „vibe coding“ workflow – jak zvýšit produktivitu, ale udržet kontrolu nad kvalitou a bezpečností
• Porovnání AI nástrojů – GitHub Copilot, ChatGPT, Cursor a další: silné/slabé stránky, vhodné scénáře použití
• OWASP Top 10 for LLM – přehled nejčastějších zranitelností LLM, prompt injection a obrana
• DevSecOps principy – automatizovaná bezpečnost v CI/CD (SAST, SCA, DAST) a bezpečnostní „gates“
• AI pro security – jak pomocí AI hledat zranitelnosti v kódu, analyzovat diffy a posílit code review
• Bezpečný vývoj AI agentů – správný návrh, minimalizace oprávnění, audit, rate limiting, bezpečné integrace
• Firemní pravidla a governance – politika používání AI, práce s daty, přístupy, logování a compliance
• Best practices – jak zavést AI do vývoje moderně, bezpečně a dlouhodobě udržitelně

Pro koho je školení určeno

Pro vývojáře, architekty, DevOps a security manažery, kteří chtějí zavést AI do vývoje bezpečně a prakticky. Školení je vhodné jak pro týmy, které s AI asistenty teprve začínají, tak pro ty, které už AI používají, ale chtějí zavést jasná pravidla, minimalizovat rizika a zvýšit bezpečnost i kvalitu výstupu.

Kurz je přínosný také pro organizace, které řeší ochranu duševního vlastnictví, citlivých dat a compliance, a chtějí mít kontrolu nad tím, jak se AI ve firmě používá.

Technické požadavky a předchozí znalosti

• Základní znalost vývoje software (čtení kódu, práce s repozitářem)
• Přístup na internet
• Volitelně: účet nebo přístup k nástrojům, které ve firmě používáte (Copilot/ChatGPT/Cursor apod.)