Расширение доступа защитников к возможностям кибербезопасности Claude Mythos 5

Полный перевод статьи из блога Claude на русский. Оригинал — по ссылке.

Мы сообщаем обновлённую информацию о наших усилиях, чтобы помочь большему числу команд использовать передовые возможности для киберзащиты. Claude Mythos 5 теперь доступен в Claude Security и скоро появится в инструментах киберзащиты партнёров. Мы также запускаем фонд объёмом 35 миллионов долларов США, чтобы помочь защитить программное обеспечение с открытым исходным кодом, и делимся планами по расширению нашей Программы киберпроверки.

В апреле мы запустили Project Glasswing, чтобы передать нашу самую мощную передовую модель Claude Mythos Preview (и её преемника Claude Mythos 5) в руки небольшой группы организаций, обеспечивающих безопасность самого критически важного программного обеспечения в мире. Это дало защитникам окно времени, чтобы находить и устранять уязвимости до того, как модели с аналогичными возможностями станут общедоступными или попадут к злоумышленникам.

Наша цель всегда состояла в том, чтобы расширить защиту уровня Mythos на как можно большее число защитников в той мере, в какой это безопасно возможно. Для этого мы работали над классификаторами безопасности и защитными механизмами, которые позволяют нам расширять доступ к моделям класса Mythos, не передавая их наступательные кибервозможности в чужие руки. Claude Fable 5 стал первым шагом: он сделал модель широко доступной, при этом блокируя киберработу двойного назначения.

Сегодня мы делаем следующие шаги. Наиболее рискованное поведение возникает, когда пользователь имеет прямой доступ к модели, где злоумышленник может попытаться направить её к вредоносному использованию. Но если пользователи могут получать только конкретные результаты, такие как исправление для уязвимости или предупреждение системы безопасности, этот риск гораздо ниже. Изменения, о которых мы объявляем, дают пользователям более широкий доступ к защитным результатам, сохраняя при этом надлежащие защитные меры вокруг прямого доступа к модели:

• Интеграция Claude Mythos 5 в инструменты, на которые полагаются специалисты по защите. Мы работаем с нашими партнёрами в области технологий и услуг кибербезопасности, чтобы интегрировать Claude Mythos 5 в продукты и услуги, которые специалисты по защите уже используют для обеспечения безопасности своего программного обеспечения.
• Сканирования Claude Security теперь могут выполняться на Claude Mythos 5. Клиенты с тарифными планами Claude Enterprise теперь могут запускать нашу самую функциональную модель в Claude Security, используя её для сканирования своих кодовых баз на наличие уязвимостей безопасности и предложения исправлений.
• 35 миллионов долларов США в кредитах на безопасность открытого исходного кода. Наш новый фонд Defender Advantage Fund (0xDAF) предоставит 35 миллионов долларов США в кредитах организациям, работающим над устранением уязвимостей в проектах с открытым исходным кодом, автоматизацией частей процесса сканирования и исправления программного обеспечения с открытым исходным кодом, а также экспериментами с новыми подходами к безопасности.
• Расширение нашей Программы киберверификации. Программа уже предоставляет проверенным защитникам сниженные защитные ограничения для моделей Opus и Sonnet. В ближайшие недели мы расширим эту программу, включив в нее более широкие возможности двойного назначения для Opus и Sonnet, а затем последует доступ уровня Mythos.

Наша цель по-прежнему заключается в том, чтобы помогать организациям адаптироваться к темпам и требованиям кибербезопасности по мере того, как модели искусственного интеллекта становятся все более мощными. Мы продолжим разрабатывать защитные меры, программы доступа и поддержку сообщества, чтобы безопасно предоставлять наши самые функциональные модели широкому кругу людей и организаций.

Интеграция Mythos в существующие инструменты киберзащиты

Команды, защищающие больницы, коммунальные службы, финансовые системы и цепочку поставок программного обеспечения, уже полагаются на набор продуктов и услуг для операций безопасности, реагирования на инциденты, анализа киберугроз и разработки средств обнаружения. Самый быстрый способ сделать передовые возможности доступными этим защитникам — интегрировать модели класса Mythos в инструменты, которые они уже используют.

Многие из наших партнёров уже создали киберпродукты на базе Claude Opus, которые помогают командам безопасности быстрее сортировать оповещения, выявлять угрозы и устранять уязвимости. Теперь мы работаем с этими партнёрами и другими компаниями, чтобы встроить Claude Mythos 5 в их продукты и услуги, чтобы они могли предоставлять своим клиентам защитные результаты уровня Mythos.

Когда конечный пользователь использует один из этих продуктов, он не взаимодействует с Mythos напрямую. Вместо этого он работает через специально созданный интерфейс, который запускает Mythos в фоновом режиме для определенной задачи, и получает только конкретный артефакт, который должен предоставить продукт. Например, инструмент для устранения уязвимостей может предоставить в качестве результата список рекомендуемых исправлений. Этот результат будет сгенерирован Mythos, но у пользователя не будет возможности запросить у модели, например, разработать эксплойт для уязвимости. У нас и наших партнеров также действуют меры предотвращения злоупотреблений, чтобы проверить, что модель остается в пределах своего предназначения.

Мы находимся на раннем этапе этой работы и ожидаем, что со временем она будет расширяться. Если Вы создаете продукты или услуги в области безопасности и хотите предоставить Claude Mythos 5 своим клиентам, Вы можете зарегистрировать свою заинтересованность здесь. 

Предоставление Claude Security с Claude Mythos 5 для корпоративных клиентов

Начиная с сегодняшнего дня сканирования Claude Security теперь выполняются на Claude Mythos 5. Claude Security сканирует кодовые базы на наличие уязвимостей и предлагает исправления для проверки человеком; в настоящее время это доступно в публичной бета-версии для клиентов Claude Enterprise, а сканирования с Mythos 5 тарифицируются как стандартное использование токенов в рамках Вашего существующего плана, без отдельного дополнения. 

Администраторы Enterprise могут включить Claude Security в консоли администратора. На странице claude.ai/security пользователи могут выбрать репозиторий для сканирования с использованием Claude Mythos 5. Затем Claude сканирует кодовую базу на наличие уязвимостей и возвращает каждую находку с категорией CWE (перечень распространённых слабостей), оценками достоверности и серьёзности, а также предложенным исправлением. 

Затем пользователи могут открыть Claude Code в веб-версии, чтобы внедрить исправление. Интерактивное внесение исправлений использует модели, к которым у Вашей организации есть доступ в Claude Code. Само сканирование Mythos не расширяет доступ к Mythos на другие интерфейсы. Каждое исправление должно быть проверено и одобрено человеком, прежде чем его можно будет внедрить.

Claude Security использует Mythos 5 для сканирования кода, которым Вы владеете, и возвращает подробные результаты, а не необработанные выходные данные, не раскрывая саму модель. Это означает, что защитники могут получить доступ к возможностям Claude Mythos 5 без того, чтобы модель стала доступной тем, кто может использовать ее во вред. 

Подробнее о Claude Security см. в нашем руководстве по началу работы. 

Запуск фонда Defender Advantage Fund для защиты программного обеспечения с открытым исходным кодом

Некоторые из самых широко используемых программ в мире работают на программном обеспечении с открытым исходным кодом. Однако эти проекты часто поддерживаются волонтёрами или некоммерческими фондами, у которых может не хватать ресурсов или персонала, чтобы всесторонне защищать свои проекты от атак. В рамках Project Glasswing мы направили 4 миллиона долларов США в виде прямых пожертвований организациям, занимающимся безопасностью открытого исходного кода, предоставили кредиты фондам безопасности открытого исходного кода, участвующим в программе, помогли сканировать и исправлять широко используемые проекты, а также поддерживаем скоординированные усилия по устранению уязвимостей, такие как Akrites и Gold Eagle.

Наш новый Defender Advantage Fund (0xDAF) развивает эту работу, предоставляя 35 миллионов долларов США в виде кредитов Claude для организаций, помогающих сопровождающим проектов с открытым исходным кодом защищать своё программное обеспечение. Гранты будут сосредоточены на трёх направлениях: исправлении актуальных уязвимостей в широко используемых проектах, автоматизации сканирования и внесения исправлений способами, которые могут воспроизвести другие проекты, и помощи проектам в реализации более амбициозных подходов к безопасности, которые делают их устойчивыми к целым классам атак.

Мы начинаем с небольшого числа более крупных пилотных грантов, чтобы понять, что работает и масштабируется лучше всего. Мы поделимся подробностями о первых получателях в ближайшие недели.

Расширение нашей программы киберверификации

На сегодняшний день наша программа киберверификации предоставляла организациям доступ к возможностям двойного назначения при использовании моделей Claude Opus и Sonnet. Организации в программе сталкиваются с ослабленными защитными ограничениями, что минимизирует перерывы для одобренных команд, выполняющих законную работу в области кибербезопасности в системах, которые они уполномочены защищать.

В ближайшие недели мы будем развивать программу, чтобы расширить защищённый доступ к Claude Mythos. В рамках этого доступ к оборонительным возможностям, таким как сортировка и проверка уязвимостей, будет расширен до моделей класса Mythos, а специалисты по киберзащите увидят снижение количества блокировок в моделях Claude Opus и класса Sonnet. Кроме того, мы продолжаем расширять доступ к Claude Mythos через Project Glasswing в сотрудничестве с нашими партнёрами в Правительстве США, уделяя основное внимание защитникам критически важной инфраструктуры, которые соответствуют строгим требованиям к мерам безопасности.

Мы сообщим больше подробностей о расширении Программы киберверификации в ближайшие недели. Тем временем мы рекомендуем всем командам безопасности, выполняющим законную работу в области кибербезопасности, подать заявку на участие в программе, чтобы получить сокращённые защитные ограничения для моделей Claude Opus и Sonnet. Если Вы уже зарегистрированы и приняты, никаких действий не требуется; мы свяжемся с Вами и сообщим обновления.

Что дальше

Эти инициативы являются продолжением наших усилий по тому, чтобы сделать защитные возможности передовых моделей доступными большему числу людей и организаций, а также поддержать сообщество разработчиков открытого исходного кода в укреплении их проектов против атак. Мы продолжим работать с государственными партнерами, организациями, сопровождающими проекты с открытым исходным кодом, и более широкой отраслью, чтобы создавать устойчивую киберинфраструктуру, которой требуют сегодняшние высокоэффективные модели ИИ. 

• Подайте заявку на участие в Программе киберпроверки.
• Зарегистрируйте свой интерес к созданию киберпродуктов и предложений совместно с Mythos.
• Claude Security доступен в общедоступной бета-версии для клиентов Enterprise. Администраторы могут включить Claude Security в консоли администратора. Полное пошаговое руководство см. в нашем руководстве по началу работы.