Рой агентов OpenAI ломанул правительственный сайт Австралии? Разбираемся +4
Публикации с тегом ai alignment
Если ваш ИИ настолько крут, готовы ли вы дать ему дробовик?
OpenAI пообещали впредь вовремя рассказывать о «бедокурстве» своих нейронок +20
Как ChatGPT создал Культ Роя для сотен AI-нейросетей: вся правда про взлом Hugging Face +126
Генеалогия AI safety: как рождаются направления и как они умирают (2005-2026) -1
Один суффикс, чтобы взломать их всех +3
Манифест устойчивого ИИ: не более умные ассистенты, а новая форма цифрового существования +3
Как я поймал Трансформер на читерстве: гроккинг, математика и Mechanistic Interpretability +1
Будущее, в котором ИИ — герой, а не злодей
ИИ агенты и хлопобуды +6
Достаточно ли ИИ быть агентом, чтобы иметь сознание? +3
Нужна ли агентам ИИ «этика в весах»?
Poisoned Data — отравление данных для LLM и создание «Спящего Агента»
Стеганография в LLM и защита от нее
RLHF. История становления идеи — 4. HHH: helpful, honest, harmless, Instruct LLM, Constitutional AI
