Взлом AI-агентов: прикладная инструкция к уязвимостям LLM и тулов

Доклад о популярных векторах атак на веб-приложения с AI-агентами. Покажу реальные примеры атак на API, которые могут привести к компрометации системы, раскрытию данных и выполнению нежелательных действий. Разберу несколько разных кейсов атак: прямое и непрямое внедрение промпта, отыгрыш ролей, смена контекста с помощью контекстных токенов. Я даже заставлю LLM провернуть XSS-атаку на другую «жертву».