Anthropic рассказали про Clio - аналитическую систему для отслеживания реального использования Claude (типа Google Trends). Радует что она сохраняет приватность пользователей.

- Извлекает из каждого разговора ключевые атрибуты (тему, количество сообщений, язык)
- Автоматически группирует похожие диалоги
- Claude сам создаёт описания для каждой группы, убирая личную информацию
- И наконец, строит иерархию для удобного анализа

Больше 10% всех разговоров с Claude - это про разработку. Ещё 7% - про образование, 6% - про бизнес.

А также:
- Толкование снов (причём много!)
- Подсчёт буквы "r" в слове "strawberry"
- Планирование кампаний в D&D
- Помощь с кроссвордами (не читерство ли это?)
- Анализ футбольных матчей
- Советы по подготовке к стихийным бедствиям

С помощью Clio поймали несколько интересных багов в системе безопасности. Например, Claude иногда пропускал запрещённый контент, если его просили перевести с одного языка на другой. А ещё система безопасности считала опасными разговоры про боевую статистику в D&D 😅

Сергей Булаев AI 🤖 - об AI и не только