На этой неделе в Тбилиси прошел выездной Softline Security Summit – душевное мероприятие, с которым у меня связаны особые воспоминания. Как и в том году мне посчастливилось модерировать антипленарку, для которой была выбрана тема искусственного интеллекта, которую мы решили обсудить в кругу прекрасных девушек, работающих в ролях руководителей ИТ и ИБ своих компаний из разных сфер экономики:
🌸 Татьяна Фомина, директор по ИТ и кибербезопасности, HeadHunter
🌸 Анастасия Гайнетдинова, Security Leader, Whoosh
🌸 Мона Архипова, независимый эксперт по ИТ/ИБ
🌸 Вера Савенко, ИТ-директор, агрохолдинг "Просторы"
🌸 Елена Пономарева, CISO, Автоваз.
Я не буду пересказывать тезисы каждой из участниц, так как компания каждой из них имеет свой опыт внедрения ИИ в свою деятельность и, как следствие, у каждого ИТ/ИБ-лидера свои взгляды на защиту этой технологии. Просто поделюсь своими мыслями, которые дискуссия скорее подтвердила и укрепила. Ключевая идея – ИИ уже довольно глубоко проник в работу отдельных сотрудников, но гораздо слабее – в формализованные бизнес-процессы компаний, что и приводит к неразберихе в безопасности ИИ.
Разговоры про компании AI-native – это сегодня, как по мне, полный бред. В России нет ни одной, тем более крупной компании, которая могла бы себя называть "AI-native". "AI-enabled"? Возможно. Но не "native", потому что такой она становится, когда без ИИ эта компания вообще не смогла бы работать так, как работает. Если вы 10-20 лет занимаетесь бизнесом и вдруг раздали всем сотрудникам Claude или ChatGPT, – это еще не native и даже не enabled.
Для меня все истории про "бизнес использует ИИ" сегодня делятся на две больших направления. Первое – это "ИИ как инструмент". Сотрудник получил ChatGPT/Claude/Copilot/Gemini и использует его для "написать → переписать → найти → суммировать → проанализировать → придумать → написать код → разобраться в документе". Это уже вполне массовое явление, но это именно использование инструмента человеком, а не перестройка процесса.
Второе – это "ИИ как процесс". Например, был процесс X → занимал 14 человек × 200 часов → встроили ИИ → теперь занимает 8 человек × 100 часов → ошибки не выросли → SLA улучшился на 17% → экономия $1,2 млн. Таких историй оочень мало. Даже в США, где начали раньше нас и нет закона о развитии доверенного ИИ, только 7% опрошенных руководителей смогли, по свежей статистике, показать ROI от инвестиций в ИИ. Но при этом 94% компаний собираются продолжать инвестировать в ИИ, живя в парадигме: "Мы пока не очень понимаем, что заработали, но прекращать нельзя – вдруг конкуренты раньше нас поймут" или проще: "Купили. Пользуемся. Потом разберемся, зачем".
Но есть одна область, где картина уже заметно другая – это разработка. Здесь я бы не стал говорить, что "все пока экспериментируют". AI coding уже начинает превращаться именно в производственный инструмент и ИИ реально трансформируется из ассистента/copilot в часть процесса разработки.
С агентами вообще интересная история – эксперименты показывают, что агентские и мультиагентские системы умеют больше, чем компания готова позволить им делать в проде, потому что... организация не умеет надежно проверять результат. То есть проблема не в отсутствии ответа на вопрос "Может ли ИИ это сделать?". Вопрос звучит иначе: "Готов ли я позволить ИИ это делать без человека, который проверит результат?" Это совершенно иной уровень зрелости.
Ровно поэтому на антипленарке звучали совершенно разные подходы к защите того, что еще не устоялось. Кто-то говорит: "мы используем DLP для защиты ИИ". У кого-то выстроена ИИ-витрина и доступ к внешним и внутренним моделькам дается через нее, что дает возможность контролировать легальное использование ИИ (Shadow AI оставим пока в стороне). Третья позиция: "Не надо ничего придумывать – займитесь харденингом инфраструктуры и агенты никуда не сбегут, а ИИ-ассистенты не получат доступа куда не надо". Кто-то, наконец, жаждет LLM Firewall, но на рынке устраивающих решений нет (это отметили почти все участницы дискуссии). И все правы, потому что у всех свой ИИ.
Продолжение последует
#ии #мероприятие