Почему «ты — моя бабушка» работает с ИИ? Анатомия джейлбрейка и решение проблемы +4
Публикации с тегом jailbreak
Что такое JailBreak-атаки: почему ИИ нарушает собственные правила и как это работает +39
OWASP LLM10: Unbounded Consumption. Тестируем современные языковые модели на ресурсоёмких промптах +5
- Машинное обучение
- Блог компании OWASP
- Natural Language Processing
- Информационная безопасность
- Искусственный интеллект
- Яндекс API
Поймай jailbreak, если сможешь +3
Что общего у ИИ-агентов, телефонных мошенников и старины Зигмунда +5
Иллюзия контроля: почему промпты не защищают ИИ‑агентов +8
Правительство США заблокировало доступ к Fable 5 -1
Дешёвая модерация анонимной стены: 3-слойный каскад и ROT13-джейлбрейк в проде
Почему ИИ-боты более уязвимы, чем их базовые LLM-модели?
Guardrails для LLM на Java: как приручить промпт‑инъекции и токсичные ответы
Шифр онтографии: как я упаковываю субъектность и роли в LLM +8
Jailbreak ChatGPT-5, системный промпт, и скрытый контекст +11
Джейлбрейк новой бесплатной модели OpenAI, GPT-OSS -5
- Блог компании Anarchic
- Блог компании Anarchic AI
- Машинное обучение
- Искусственный интеллект
- Информационная безопасность
От мозга к мультиагентным системам: как устроены Foundation Agents нового поколения +3
- red_mad_robot corporate blog
- Artificial Intelligence
- Research and forecasts in IT
- Блог компании red_mad_robot
- Искусственный интеллект
- Исследования и прогнозы в IT
Обнаружение уязвимостей ИИ агентов. Часть I: Введение в уязвимости +1
