Как злоумышленники могут атаковать защиту LLM-чат-ботов

Приглашаем на бесплатный вебинар в рамках курса по генеративному ИИ.

На вебинаре мы разберём актуальные угрозы для ИИ-систем, покажем реальные примеры атак и расскажем о том, почему многие компании уже создают отделы AI Security. Также обсудим методики защиты и возможности обучения специалистов.

Программа

• Какую задачу решают LLM и почему они уязвимы
• Топ-10 популярных угроз для ИИ-приложений по версии OWASP
• Состязательные суффиксы
• Джейлбрейки DAN, UCAR, AIM
• Автоматизированный джейлбрейк AutoDAN
• Автоматизация атак с помощью LLM PAIR