Ищу MLOps/DevOps: локальная LLM-станция (Dify + Ollama, Windows 11 + WSL 2, без облака) (для всех) № 38554
По договорённости
ОткликнутьсяРынок рубрики
3 000 ₽медиана по «DevOps и серверы»
По 158 заказам за 90 дней. Шкала логарифмическая.
СвежестьОкно закрыто
4 дн. назадгорячее окно: окно закрыто
Оценка по площадке: в первые часы заказчик получает больше всего откликов.
ПК: RTX 3090 24 GB + RTX 5060 Ti 16 GB, Ryzen 7 7700, 64 GB RAM, SSD 2 ТБ, ИБП Powercom Macan 1500W. Нужно: — два независимых инстанса Ollama (GPU 0 — 11434, GPU 1 — 11435, привязка по UUID); — Dify CE через Docker Engine в WSL 2 (без Docker Desktop); — 5 Chat-приложений с пустым System Prompt; — эмбеддинги bge-m3 на GPU 1 в том же инстансе 11435; — автозапуск без входа в Windows; — сетевая изоляция Ollama и Dify от внешней сети; — ИБП: graceful shutdown, BIOS Power On; — бэкап-скрипт с тестовым восстановлением, README, видео-инструкция. Требования: опыт с Ollama и Dify, WSL 2, Docker на Windows, NVIDIA GPU. Работа лично, без субподряда. Работа офлайн в Москве.