Самые лучше бесплатные API нейронок

На Reddit мужик прогнал одинаковую нагрузку по разным провайдерам: дайджест утром, разбор 20–30 писем, 10–15 обычных диалогов и несколько ресерч-задач. В день выходило примерно 800–1200 запросов и 300–500 тысяч токенов. И вот, что он выяснил:

OpenRouter без депозита почти бесполезен. Там 50 бесплатных запросов в день, и это скорее демка, чем рабочий бесплатный тариф. Но если закинуть $10 на баланс, лимит бесплатных моделей поднимается до 1000 запросов в день. Деньги при этом не тратятся, если гонять именно free-модели.

Groq на больших моделях живет недолго. Llama 70B быстрая, прям очень, но дневной лимит по токенам улетает быстро. Зато маленькие модели Groq отлично подходят для фоновой рутины: классифицировать письма, проверять статусы, коротко отвечать, дергать простые задачи по расписанию. (У Llama 3.3 70B дают 1000 запросов в день и 100 тысяч токенов в день. У Llama 3.1 8B лимит намного жирнее: 14 400 запросов в день и 500 тысяч токенов в день.)

Gemini Flash оказался самым нормальным вариантом для основного агента. У автора он три недели тянул дайджесты, письма, диалоги, ресерч и саммари документов без упора в дневной лимит. Но есть минус: на бесплатном тарифе Google может использовать запросы для улучшения продуктов, так что личную почту, финансы и рабочие секреты туда лучше не тащить.

Cerebras хорош для больших пачек текста. Например, когда нужно прогнать длинный документ, собрать саммари, разобрать логи или обработать кучу заметок. Моделей меньше, чем в OpenRouter, зато токенов дают щедро и скорость высокая. (Дают примерно 1 млн токенов в день без карты. Но лимиты там считаются не только по токенам, но и по запросам, поэтому большой батч может упереться раньше.

Mistral Experiment очень хорош, но учится на ваших данных. Для личного ассистента с календарем, письмами и рабочими задачами уже такое себе. (Дают примерно 1 млрд токенов в месяц. Карта не нужна, но нужна верификация по телефону. Запросы в бесплатном Experiment-плане могут использоваться для обучения моделей Mistral.)

#инструкции

@neurozeh