Бесплатные программы для запуска нейросетей локально
Локальный запуск снимает лимиты и вопрос приватности: модель работает на вашем железе. Большинство программ поднимают OpenAI-совместимый сервер для IDE и агентов.
11 инструментов9 open source
| # | Программа ↕ | Что бесплатно | Лицензия | Платформы | GitHub ↕ | |
|---|---|---|---|---|---|---|
| 1 | Ollama Ollama Inc. |
Локальный запуск моделей бесплатен и без ограничений; бесплатный план Ollama Cloud даёт стартовые кредиты и 1 параллельный запрос, платные — от $20/мес. | Open source MIT |
WindowsmacOSLinuxDockerCLI | ★ 181 500 | |
| 2 | llama.cpp ggml-org |
Полностью бесплатный open-source без аккаунтов, API-ключей и лимитов. | Open source MIT |
WindowsmacOSLinuxDockerCLI | ★ 129 300 | |
| 3 | vLLM vLLM Project |
Полностью бесплатный open-source, но нужно своё железо — обычно серверный GPU. | Open source Apache-2.0 |
LinuxDockerCLI | ★ 92 500 | |
| 4 | LocalAI Ettore Di Giacinto & community |
Полностью бесплатный open-source для своего хостинга, платных версий нет. | Open source MIT |
LinuxmacOSDockerCLI | ★ 49 200 | |
| 5 | TextGen (text-generation-webui) oobabooga |
Полностью бесплатный open-source, работает офлайн, без телеметрии. | Open source AGPL-3.0 |
WindowsmacOSLinux | ★ 47 700 | |
| 6 | Jan Menlo Research |
Полностью бесплатный open-source без платных тарифов: локальные модели или свои ключи облачных API. | Open source Apache-2.0 |
WindowsmacOSLinux | ★ 44 600 | |
| 7 | KoboldCpp LostRuins (Concedo) |
Полностью бесплатный open-source, один исполняемый файл без установки. | Open source AGPL-3.0 |
WindowsmacOSLinuxDockerCLI | ★ 11 800 | |
| 8 | Lemonade Lemonade community (sponsored by AMD) |
Полностью бесплатный open-source без телеметрии. | Open source Apache-2.0 |
WindowsmacOSLinuxDockerCLI | ★ 5 800 | |
| 9 | LM Studio Element Labs |
Десктоп-приложение, включая локальный инференс и агента Bionic, бесплатно для личного и рабочего использования; платные планы добавляют облачные модели и командные функции. | Бесплатно proprietary |
WindowsmacOSLinux | — | |
| 10 | Msty Studio Msty |
Msty Studio Desktop бесплатен только для личного некоммерческого использования; для коммерции и расширенных функций нужен платный Aurum. | Бесплатный тариф proprietary |
WindowsmacOSLinux | — | |
| 11 | GPT4All Nomic AI Не обновляется |
Бесплатный open-source для локального использования, но разработка, похоже, остановилась: последний релиз v3.10.0 вышел в феврале 2025. | Open source MIT |
WindowsmacOSLinux | ★ 77 400 |
Ничего не найдено.
Нужна бесплатная модель для этих программ? Выберите её в каталоге — у каждой модели есть base URL и пример кода. Модели для кода · Модели для агентов