Небольшая группа неавторизованных пользователей получила несанкционированный доступ к новой ИИ-модели Mythos от Anthropic. Об этом пишет Bloomberg со ссылкой на внутренние документы.
По информации агентства, несколько участников закрытого онлайн-форума смогли воспользоваться нейросетью сразу в день выхода и с тех пор регулярно ее применяют.
Anthropic позиционирует Mythos как систему, способную обнаруживать и эксплуатировать уязвимости «во всех основных операционных системах и веб-браузерах». В связи с этим компания предоставила доступ к ней только избранному кругу поставщиков ПО.
Для проникновения в систему пользователи задействовали несколько тактик: воспользовались учетными данными сотрудника стороннего подрядчика Anthropic, угадали URL модели по паттернам адресации других систем компании, а также извлекли дополнительные сведения из утечки данных стартапа Mercor.
Источник Bloomberg утверждает, что группа намерена лишь экспериментировать с новой моделью и не планирует причинять вред. Помимо Mythos, ее участники имеют доступ и к ряду других невыпущенных нейросетей Anthropic.
«Мы расследуем сообщение о несанкционированном подключении к Claude Mythos Preview через одну из сред сторонних поставщиков», — заявил представитель фирмы.
Этот инцидент подчеркивает трудность контроля за распространением потенциально опасных технологий и оставляет открытым вопрос: кто еще может получить доступ к Mythos и в каких целях.
Мощность Mythos
Mozilla сообщила в своем блоге, что ранняя версия Mythos помогла выявить 271 уязвимость в браузере Firefox в ходе внутреннего тестирования. Ошибки исправили.
Результат продемонстрировал, как передовые ИИ-системы способны анализировать большие кодовые базы и находить слабые места, которые ранее требовали тщательной проверки со стороны специалистов по кибербезопасности.
Ранее Mozilla тестировала другую модель Anthropic, которая выявила 22 уязвимости в предыдущей версии Firefox. Несмотря на новые результаты, в компании признают, что достижение абсолютной безопасности является «нереалистичной целью».
Фирма заявила, что все обнаруженные ошибки смог бы найти и высококлассный исследователь-человек.
«Некоторые комментаторы считают, что будущие ИИ-модели обнаружат совершенно новые формы уязвимостей, которые выходят за рамки нашего нынешнего понимания. Мы так не думаем», — отметили в компании.
Напомним, в апреле СМИ узнали, что Агентство национальной безопасности США использует Mythos, несмотря на конфликт стартапа с Пентагоном.
В марте фирма подтвердила утечку части исходного кода своего ИИ-инструмента для программирования Claude Code.
Позже она по ошибке удалила тысячи репозиториев на GitHub в попытках исправить ситуацию.
