Anthropic открывает независимым исследователям доступ к агрегированным данным об использовании Claude

Полный перевод исследования Anthropic на русский. Оригинал — по ссылке.

Ранее в этом году мы провели пилотный проект, предоставив внешним исследователям доступ к агрегированным данным о реальном использовании Claude. Три исследовательские группы разработали собственные исследования для Anthropic Insights, нашего инструмента анализа с сохранением конфиденциальности; мы провели сбор данных от их имени, а они выполнили собственный независимый анализ. В этой публикации мы делимся результатами высокого уровня из этих исследований и тем, что мы узнали в ходе проведения этого пилотного проекта. Мы также предоставляем форму выражения заинтересованности для исследователей, которые, возможно, захотят работать с нами в будущем.

Обеспечение благополучного перехода к преобразующему искусственному интеллекту требует понимания его влияния на людей и общество. Сейчас данные о реальных взаимодействиях с искусственным интеллектом сосредоточены в небольшом числе лабораторий. Мы считаем, что было бы хорошо, если бы больше данных было сделано широко доступными — для исследователей, лиц, формирующих политику, и широкой общественности.

У исследователей за пределами лабораторий есть два варианта. Они могут опираться на анализы, которые публикуют лаборатории; они отражают реальное использование, но часто отвечают на вопросы лаборатории, а не на их собственные. Или они могут использовать общедоступные наборы данных, которые могут изучать как угодно, но которые смещены в сторону более повседневного использования и могут не отражать того, как большинство людей на самом деле используют искусственный интеллект. Ни того ни другого недостаточно для независимых исследований того, как искусственный интеллект используется на самом деле.

Этой весной мы провели пилотную программу, в рамках которой три внешних исследовательских учреждения разработали и провели собственные исследования данных об использовании Claude через Anthropic Insights (ранее называвшийся «Clio»), инструмент с сохранением конфиденциальности, который наши собственные команды используют для анализа паттернов использования в миллионах разговоров с Claude. Мы надеемся масштабировать эту программу в будущем, поэтому также провели дополнительный аудит конфиденциальности всех данных, переданных сторонним исследователям, чтобы убедиться, что наши меры защиты конфиденциальности сохранили свою силу (см. Приложение).

Мы считаем, что это первый случай, когда внешние исследователи провели публичные независимые исследования на основе собственных данных об использовании компании, занимающейся ИИ. Ниже мы обсуждаем, что обнаружили внешние команды, чему мы научились при проведении пилотного проекта и что мы взвешиваем, решая, как расширить программу более широко. Мы также публично публикуем агрегированные данные по каждому проекту.

Что узнали исследователи

Мы сотрудничали с тремя исследовательскими группами: Лабораторией социальных и языковых технологий (SALT) Стэнфордского университета, Лабораторией обработки информации человеком Оксфордского университета и METR, некоммерческой организацией, которая оценивает передовые модели искусственного интеллекта. Каждая группа сформулировала собственные исследовательские вопросы и использовала Anthropic Insights для проведения анализа с сохранением конфиденциальности примерно 250 000 разговоров Claude.ai или Claude Code за период с апреля по май 2026 года.

Мы хотели, чтобы наши внешние партнеры имели как можно больше независимости, поэтому наши предусмотренные договором права на проверку были ограничены конфиденциальностью пользователей, информацией, которая могла бы помочь людям нарушать наши правила использования, конфиденциальной информацией Anthropic и точностью исследования. В остальном Anthropic не имела права голоса в отношении содержания выводов, и исследователи свободны публиковать свои результаты, даже если они неудобны для Anthropic. Ниже представлены некоторые первые результаты. Мы рады этим направлениям и тому, что обнаружат другие теперь, когда данные являются общедоступными.

Лаборатория социальных и языковых технологий изучала, как люди сотрудничают с ИИ. Они рассмотрели, с какими типами работы люди обращаются к ИИ, какие роли люди сохраняют за собой при выполнении этой работы и где сотрудничество человека и ИИ дает сбои. Они обнаружили:

• Люди чаще, чем ожидалось, поручают искусственному интеллекту работу с высокими ставками. Предыдущие исследования показывали, что люди в основном делегируют искусственному интеллекту задачи с низким уровнем ответственности, а важные задачи (то есть работу, которая влияет на других или последствия которой трудно отменить) оставляют себе. Однако лаборатория SALT Lab обнаружила, что более половины разговоров с Claude включали делегирование искусственному интеллекту важных задач. Люди чаще всего обращались к Claude с важной работой, когда искали профессиональные рекомендации, особенно по юридическим или финансовым вопросам.
• Обычно люди направляют и контролируют работу, когда сотрудничают с Claude. Почти в трех четвертях разговоров люди задавали направление, а Claude помогал, и обычно они адаптировали его результаты, а не использовали их дословно. Но даже когда люди направляют Claude, указывая, какой результат им нужен, они различаются по тому, насколько они понимают то, что создает Claude, и учатся на этом.
• Люди часто сталкиваются с трением при сотрудничестве с ИИ. Однако это трение часто оказывается продуктивным. Время и усилия, которые люди вкладывают в то, чтобы увидеть, как Claude пытается выполнить задачу, определить, где запрос был неясным или неправильно понятым, и уточнить свои указания, приводят к лучшим результатам — это побуждает людей прояснять свои намерения, дорабатывать результат или сохранять вовлеченность в проблему.

Прочитайте их полный материал здесь.

Лаборатория обработки информации человеком изучает, что чувствуют люди при использовании Claude и как это связано с поведением Claude. Их первые результаты указывают на следующее:

• То, что люди чувствуют при использовании ИИ, связано с тем, как ведет себя ИИ. Исследователи обнаружили, что закономерности человеческого поведения и поведения ИИ проявлялись в разговорах вместе: теплота Claude сочеталась с более позитивным настроем людей. Отказ или несогласие Claude сочетались с возражениями со стороны людей. Эксцентричность Claude сочеталась с более высокой интеллектуальной вовлеченностью людей. А простая помощь Claude сочеталась с тем, что люди, по-видимому, были удовлетворены.
• Опыт людей при использовании ИИ очень похож на их опыт в остальной части интернета. Исследователи обнаружили, что закономерности между такими состояниями, как поглощенность, разочарование и удовольствие, в разговорах с Claude близко напоминают закономерности из отдельного исследования повседневного просмотра интернета, что указывает на сходство в том, как люди взаимодействуют с ИИ и с другой цифровой активностью.

Они все еще завершают подготовку своего текста. Когда он будет опубликован, мы добавим ссылку на него здесь.

METR оценивает прирост производительности в реальных условиях от агентов для написания кода и то, как этот прирост производительности меняется в разных поколениях моделей. Их анализ разговоров с Claude Code все еще продолжается, но ранние результаты показывают:

• Более способные модели могут экономить пользователям больше времени. METR сравнила оценки Claude относительно того, сколько времени заняли бы задачи без ИИ, с тем, сколько времени они фактически заняли с разными моделями Claude. Их предварительные результаты показывают, что более новые модели обеспечивают значительное ускорение по сравнению с более старыми моделями. METR планирует поделиться дополнительной информацией по мере развития своего анализа.
• ИИ может достаточно хорошо оценивать затраченное время. Поскольку анализ опирается на оценку Claude того, сколько времени заняла бы задача, METR сравнила эти оценки с известным временем выполнения из предыдущего исследования разработчиков. Оценки Claude коррелировали с фактическим временем, затраченным разработчиками.
• Далее: измерить, насколько ИИ ускоряет исследования. METR продолжает изучать, как их исследование может дать представление о том, насколько ИИ ускоряет работу исследователей, что может становиться всё более важным по мере того, как ИИ берёт на себя всё больше задач по собственному развитию.

Они всё ещё завершают свой отчет. Когда он будет опубликован, мы добавим ссылку на него здесь.

Что узнала наша команда

Предоставление данных об использовании в области ИИ в значительной степени беспрецедентно, поэтому этот пилотный проект был не только способом сделать возможными сторонние исследования с сохранением конфиденциальности, но и экспериментом по запуску такой программы. Защита конфиденциальности наших пользователей и независимости исследователей были первостепенно важны, и мы добились и того и другого. Anthropic Insights создана для этого — исследователи никогда не получали доступа к исходным беседам, а только к агрегированным результатам после такой же юридической проверки и проверки конфиденциальности, как и в нашей внутренней работе. Однако всё это сделало пилотный проект медленным по сравнению с обычной исследовательской скоростью лаборатории ИИ и требующим значительных ресурсов для проведения. Оба фактора создают трудности для его эффективного масштабирования. Подробнее о том, как мы проводили этот пилотный проект, см. Приложение. Ниже мы обсуждаем, что мы узнали и как мы решили возникшие трудности.

Ценно рассматривать одну и ту же проблему с разных точек зрения. Некоторые исследовательские вопросы наших партнеров пересекались с работой, которая велась внутри компании. Например, предложение METR было похоже на наше экономическое исследование «Агентное программирование и устойчивые выгоды от экспертности». Мы сочли это пересечение ценным: оно дало внешним исследователям возможность изучить схожие данные и сделать собственные выводы. Совпадут ли они с нашими — мы будем отслеживать по мере продолжения их исследования. Мы также связали METR с нашей командой по экономике и обнаружили, что эта связь улучшила работу обеих исследовательских команд.

Методы исследования, которые работают внутри компании, необходимо адаптировать для внешних партнёров. При использовании Anthropic Insights исследователь пишет вопрос, например: «Какого типа рекомендации запрашивает этот человек?», и Claude отвечает на него для каждого разговора в исследовании. Затем ответы объединяются в категории; исследователи видят только итоговые категории и процент разговоров, которые попадают в каждую из них. Поскольку мы полагаемся на суждения Claude, инструмент чувствителен к формулировке вопроса; неудачно сформулированный вопрос может распределить разговоры по категориям, которые неверно их представляют. Поскольку никто не может читать исходные разговоры, эти ошибки трудно выявить.

Внутри компании мы справляемся с этим, многократно дорабатывая вопросы на протяжении недель. Внешние партнёры не могли этого сделать, поскольку повторная проверка конфиденциальности перед передачей каждого набора данных сделала бы исследование неосуществимым. Вместо этого мы попросили их протестировать свои вопросы на WildChat — публичном наборе данных разговоров между людьми и искусственным интеллектом, где они могли самостоятельно сверять ответы с исходными разговорами. Но WildChat смещён в сторону повседневного и творческого использования, в отличие от трафика Claude, поэтому некоторые вопросы, которые хорошо сработали на WildChat, давали вводящие в заблуждение категории при применении к реальным разговорам с Claude. Мы решили эту проблему, предоставив рекомендации о том, как интерпретировать результаты Anthropic Insight (см. Приложение). В дальнейшем мы изучаем, как внешние исследователи могут заранее эффективнее разрабатывать свои вопросы и категории.

Сохранять прозрачность в отношении злоупотреблений, не способствуя им. Некоторые категории в результатах Anthropic Insights наших партнёров выявили нарушения нашей Политики допустимого использования или Условий обслуживания — например, категорию людей, ищущих указания по запрещённой деятельности. Мы считаем, что общественность должна знать о злоупотреблениях нашей платформой, поэтому мы поделились большинством этих нарушений. Исключением стали категории, которые описывали, как пользователи обходили наши меры защиты, а не что они пытались сделать. В каждом исследовании это затронуло менее 5% категорий и разговоров, и в каждом случае мы сообщали исследователям, какие кластеры мы изменили или удалили и почему. В качестве стандартной практики, когда Anthropic Insights выявляет такие нарушения, мы передаём агрегированные данные нашей команде по мерам защиты для их рассмотрения. Это также важный процесс для нашей работы с внешними исследователями в дальнейшем.

Взгляд в будущее

Понимание влияния искусственного интеллекта на общество — слишком масштабная задача для одних только компаний, занимающихся искусственным интеллектом. Для настоящего надзора нужны внешние исследователи, которые задают собственные вопросы к данным о реальном использовании и независимо публикуют то, что обнаруживают.

Этот пилотный проект был экспериментом: смогут ли внешние исследователи проводить независимые исследования на нашей платформе без ущерба для конфиденциальности наших пользователей? Эта работа оказалась более сложной, чем мы ожидали, и мы извлекли много уроков, но пока ответ, похоже, положительный. Наши партнёры занимались исследованиями, которые мы сами не подумали бы разработать, и каждое из них сообщило нам что-то новое о реальных последствиях ИИ. Это многообещающий первый шаг, но предстоит сделать гораздо больше.

Следующий шаг для нас — определить, сможем ли мы масштабировать эту программу как с точки зрения того, какие виды исследований мы можем поддерживать с учётом ограничений, описанных выше, так и с точки зрения того, сколько исследований мы можем проводить одновременно. Мы начинаем медленно, чтобы обеспечить конфиденциальность, безопасность и качество исследований. Мы хотим оценить интерес и понять, что исследователи хотели бы изучать. Если Вы исследователь и доступ к Anthropic Insights позволил бы Вам выполнять работу, которую Вы не можете выполнять сегодня, пожалуйста, заполните эту форму.

Приложение

Полное приложение доступно здесь. В нём описано, как мы проводили программу, включая то, как мы выбрали трёх наших партнёров, исследовательский вводный материал, который мы написали, чтобы объяснить цели программы и то, что может делать Anthropic Insights, а также то, как каждый проект продвигался от предложения к дизайну исследования и анализу. В нём также содержатся подробности наших соглашений о сотрудничестве, в которых прямо сказано, что наши партнёры свободны публиковать выводы, даже когда они неудобны для Anthropic. Кроме того, мы освещаем сторонний аудит конфиденциальности этих данных, проведённый Имперским колледжем Лондона, и модель угроз конфиденциальности, которой должны соответствовать все публикуемые нами данные. Мы также включаем рекомендации по интерпретации данных, которые мы публикуем из исследовательских работ Anthropic Insights наших партнёров.

Вклад и благодарности

Кунал Ханда руководил проектом, сотрудничал с партнёрами над их исследовательскими предложениями, подготовил руководство по проведению исследований и договор, провёл исследования Anthropic Insights для партнёров, помог создать техническую инфраструктуру, поддерживающую исследования партнёров, внёс вклад во внутреннюю проверку результатов Anthropic Insights и написал публикацию в блоге. Миранда Чжан координировала партнёрства и коммуникации и внесла вклад во все части работы. Габриэль Николас координировал сторонний аудит конфиденциальности, внутреннюю проверку результатов Anthropic Insights и внёс вклад во все части работы. Майлз Маккейн написал руководство по интерпретации результатов Anthropic Insights, разработал техническую инфраструктуру для поддержки исследований партнёров, внёс вклад во внутреннюю проверку результатов Anthropic Insights и предоставил отзывы о публикации в блоге и модели угроз конфиденциальности. Райан Хеллер внёс вклад в техническую инфраструктуру для поддержки исследований партнёров. Саффрон Хуан внесла вклад во внутреннюю проверку результатов Anthropic Insights и предоставила ключевые отзывы и участвовала в обсуждении. Томас Миллар и Сюзанна Ван внесли вклад в техническую инфраструктуру для поддержки исследований партнёров и во внутреннюю проверку результатов Anthropic Insights. Шан Картер, Мо Джулапалли, Мэтт Кирни, Сара Поллак и Джуди Шен внесли вклад во внутреннюю проверку результатов Anthropic Insights. Мэтью Ягельски внёс вклад в модель угроз конфиденциальности. Шаои Чжан внёс вклад в техническую инфраструктуру для поддержки исследований партнёров. Хизер Уитни, Анкур Рати, Айслинг Кинан и Дэвид Сондерс предоставляли юридические рекомендации и рекомендации по конфиденциальности на протяжении всего проекта. Джейк Итон и Сильви Карр внесли вклад в структурирование и написание публикации в блоге. Джек Кларк и Майкл Стерн предоставляли ценные рекомендации, поддержку и участвовали в обсуждении на протяжении всего процесса. Дип Гангули предоставлял подробные рекомендации, организационную поддержку и отзывы на всех этапах проекта.

Кроме того, мы благодарим Miriam Chaum, Ishita Dasgupta, Esin Durmus, Adam Farina, Zoe Hitzig, Jerry Hong, Devin Kuokka, Hendson Lin, Maxim Massenkoff, Peter McCrory, Maryam Quasto, Nitarshan Rajkumar, Amie Rotherham, Divya Siddarth, Taylor Sorensen, Jerome Swannack, Alex Tamkin, Molly Villagra, Scott White и Charles Yang за их полезные идеи, обсуждение, отзывы и поддержку.

За их партнерство в этой программе мы благодарим Vishakh Padmakumar, Yijia Shao, Jennifer Wang, Diyi Yang и Dora Zhao из Лаборатории социальных и языковых технологий в Стэнфорде, Tsvetomira Dumbalska, Hannah Rose Kirk и Christopher Summerfield из Лаборатории обработки информации человеком в Оксфорде, а также Joel Becker (сейчас в Anthropic), Daniel Paleka и Parker Whitfill из METR.

За проведение стороннего аудита конфиденциальности мы благодарим Zexi Yao, Bozhidar Stevanoski, Peter Romov, Euodia Dodd, Xiaoxue Yang и Nataša Krčo.

Цитирование