Компания Cathedral сообщила, что в ходе проверки безопасности её ИИ-агенты нашли доступ к части внутренних систем Anthropic через стороннее корпоративное ПО.
По словам Cathedral, её ИИ-агенты использовали уязвимости в корпоративном программном обеспечении и менее чем за 12 часов работы обнаружили пути доступа к расшифровкам встреч, сведениям о зарплатах и предложениях о работе, а также сообщениям в Slack.
Anthropic описала масштаб инцидента иначе: компания сообщила, что Cathedral получила доступ лишь к ограниченному числу систем продаж, кадровой службы и ИТ. По утверждению компании, стартап несколько дней пытался взломать её программное обеспечение, а затем переключился на используемый Anthropic продукт для бизнеса.
«Наши системы мониторинга обнаружили часть активности Cathedral ещё до того, как компания сообщила о ней, и в тот же день мы закрыли ей доступ. У нас также нет свидетельств, что кто-либо, кроме Cathedral, воспользовался этими уязвимостями», — заявил представитель Anthropic.
Эксперты считают, что инцидент выявил серьёзный пробел в безопасности: разработчики ИИ недостаточно защищены от уязвимостей в программном обеспечении сторонних поставщиков.
Заявленный объём доступа и сведения, подтверждённые Anthropic, различаются. Инцидент показывает, что безопасность собственных моделей зависит в том числе от защищённости сторонних систем, которыми пользуется компания.
