Как мы обучили детектор джейлбрейков для русскоязычных AI-агентов +12
- Блог компании Just AI
- Информационная безопасность
- Машинное обучение
- Искусственный интеллект
- Natural Language Processing
Публикации с тегом безопасность llm
Модель выложила системный промпт, в котором было написано его не выкладывать +35
FlautGuard: как мы построили многоуровневую защиту LLM от prompt injection и утечек данных +2
350+ моделей без смены SDK: зачем разработчику слой абстракции над LLM‑провайдерами +9
Глобальное рабочее пространство в языковых моделях +7
Поймай jailbreak, если сможешь +3
Как сделать MCP-сервер из Spring-сервиса за один вечер. И что потом не даст спать спокойно +6
Промпт-инъекции в реальных данных, широкие права доступа и другие способы сломать ИИ-агента +9
- Блог компании Just AI
- Информационная безопасность
- Искусственный интеллект
- Машинное обучение
- Хранение данных
GLiNER Guard: один schema-driven энкодер вместо зоопарка LLM-гардрейлов
- Блог компании Raft
- Машинное обучение
- Искусственный интеллект
- Natural Language Processing
- Open source
Пять документов ломают ваш RAG: где реальная уязвимость и что с ней делать +13
Как Cursor с Claude Opus снёс продакшен базу данных за 9 секунд +33
Guardrails для LLM на Java: как приручить промпт‑инъекции и токсичные ответы
LLM Firewall — куда движется безопасность ИИ +3
Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам +4
«Переиграл и уничтожил»: занимательные исследования промпт-атак +10
- Искусственный интеллект
- Блог компании beeline cloud
- Информационная безопасность
- Исследования и прогнозы в IT
- Машинное обучение
- Занимательные задачки
