AI Security Lab
We hack AI and don’t let others HiveTrace x AI Talent Hub ITMOai.itmo.ru/aisecuritylab
What our data says
- This channel was created between August 2024 and February 2025.
- Created after May 2024, which puts it among the newest 20% of Russian-language security channels.
This channel is part of the discussion
AI Security Lab appears in 20 event pages on TGScopeОткрытый вебинар про интерепретируемость агентов совместно со Stepik. Завтра (вторник, 18:00 по МСК) лид лабы Сабрина Садиех (@jdata_blog) проведет вебинар про агентов. Разбор будет построен от базового понимания "что есть агент?", до границ и разбора вопроса "почему мы не…
🍂 Записи докладов наших студенток, выступавших на международной конференции AINL 2026 Продолжаем осень в активном формате (или подводим итоги лета) Наши студентки выступали на AINL 2026 и сейчас организаторы опубликовали выступление Веры Краснобаевой, выпустившейся…
Инциденты в cyber-evals у Anthropic — и почему нам всем нужен трейсинг агентов Anthropic выпустили пост-ретроспективу про инциденты в собственных evals по кибербезопасности. Технически история почти атака на Hf во второй части, но у Anthropic интересная подача. На неё и…
Участник лаборатории Мосин Вячеслав завершил работу над обзором 7 ресурсов для мониторинга угроз AI Security 🔥 И обзор доступен каждому Выбор ресурсов для сбора информации об угрозах, в том числе связанных с безопасностью ИИ является важным этапом в решении задач моделирования…
Наш исследователь — контрибьютор SAE Lens 🎉 PR Егора Емельянова, исследователя нашей лаборатории, приняли в SAE Lens — одну из основных библиотек для обучения и анализа sparse autoencoder'ов. Sparse autoencoder'ы раскладывают внутренние активации нейросети на более простые и…
🍂 Записи докладов наших студенток, выступавших на международной конференции AINL 2026 Продолжаем осень в активном формате (или подводим итоги лета) Наши студентки выступали на AINL 2026 и сейчас организаторы опубликовали выступление Веры Краснобаевой, выпустившейся…