Безопасность ИИ-агентов и квантовое обучение: 10 перспективных российских стартапов

Параллельно русскоязычная площадка Product Radar опубликовала спецнабор из десяти стартапов — финалистов собственной премии, среди которых проект защиты корпоративных ИИ-агентов и образовательная платформа квантового программирования.

Механика AIR

AIR работает с навыками, плагинами, MCP-серверами и аддонами — компонентами, через которые ИИ-агенты получают доступ к корпоративной инфраструктуре и внешним ресурсам. Платформа обнаруживает активных агентов внутри компании, ведёт непрерывную проверку используемых ими компонентов и блокирует взаимодействие с объектами, не прошедшими внутренние критерии. Основатели — ветераны подразделения 8200 израильской военной разведки с опытом в offensive cybersecurity. Первый раунд на $10 млн возглавила Sequoia, второй на $40 млн — Greenoaks. Среди прочих инвесторов — сооснователь Wiz Yinon Costica и президент Cognition Zach Frankel.

Главный риск, по версии AIR, — отравление контента, который ИИ-агент загружает из интернета. Атакующий не ломает агента напрямую: он подбрасывает ему вредоносный навык или компрометирует аккаунт разработчика ранее одобренного плагина. Защита строится в три слоя: видимость (поиск агентов и нерегламентированного использования ИИ-инструментов сотрудниками), принудительный контроль (перехват и анализ действий агента на этапе загрузки навыка или обращения к внешнему источнику), белый список поддерживаемых дополнений. По заявлению AIR, у компании более 20 клиентов, около четверти — крупные предприятия, преимущественно из финансового и фармацевтического секторов.

Российский срез

Product Radar опубликовал спецнабор финалистов собственной премии. В него вошёл проект, решающий задачу контроля действий корпоративных ИИ-агентов. По описанию команды, агент самостоятельно читает данные, вызывает инструменты и выполняет операции, а ошибка или скрытая инструкция ведёт к утечке, превышению полномочий или опасному действию. Детали реализации и архитектура не раскрыты.

В тот же набор попала образовательная платформа квантового программирования — теория и практика по квантовым вычислениям, позиционируемым командой как стратегически важная технология. Среди остальных проектов: платформа A/B-экспериментов с ML для роста конверсии, сервис изучения языков через чтение классики, видео-бронирование отелей, автономные модули хранения свежей зелени, мультимедийная AI-платформа Gen-A, сеть из 1507 экспресс-складов в 88 городах, патентная аналитика INVENTORUS, мультиагентная платформа цифровых копий людей. Голосование завершится 7 сентября в 12:00 мск, очная церемония с объявлением победителя намечена на 11 сентября в Москве.

Контур контроля

Цифра 27% — доля дополнений и навыков, отбракованных AIR из открытых источников. Методика отбора компанией не опубликована, критерии «рисковости» закрыты. До появления независимого аудита это заявление остаётся маркетинговым параметром, а не подтверждённой гарантией. Практический вывод для корпоративного пользователя: любой навык или MCP-сервер, попадающий в контур ИИ-агента, должен проходить ту же процедуру подписи и ревизии, что и драйвер режима ядра в операционной системе. Этого слоя контроля сейчас нет ни в одной публичной экосистеме агентов — каждый такой компонент работает как чёрный ящик с неопределённой поверхностью атаки и неверифицированной телеметрией на выходе.