Привет. Я разрабатываю локального ИИ-ассистента Zer0Trace AI и хочу
понять, как приблизиться к твоему уровню автономности и качества.
Помоги спроектировать архитектуру.
═══════════════════════════════════════════════
МОЁ ЖЕЛЕЗО
═══════════════════════════════════════════════
- GPU: RTX 3060 (12 ГБ VRAM)
- RAM: 32 ГБ
- Диск: отдельный SSD 1 ТБ ТОЛЬКО под ИИ (диск E:)
- ОС: Windows
- Всё работает локально, без облаков и подписок.
- Лимит: система должна занимать до 950 ГБ, оставить 50 ГБ свободно.
═══════════════════════════════════════════════
ЧТО Я ХОЧУ ПОСТРОИТЬ
═══════════════════════════════════════════════
Локальный мультиагентный ассистент, который:
1. Работает как ты — планирует, делегирует, проверяет, исправляет.
2. Держит задачу до 18 часов непрерывно (как Claude Opus 5.5),
не теряя контекст и цель.
3. Умеет: код, безопасность, OSINT, бизнес, SEO, копирайтинг,
генерацию фото, motion-графику через код, монтаж видео,
клонирование голоса.
4. Ищет в сети, когда нужно, и объясняет, зачем.
5. Спрашивает разрешения перед опасными действиями (allow/deny/ask).
6. Учится на моих правках (LoRA-адаптеры).
7. Помнит всё: проекты, предпочтения, стиль кода.
═══════════════════════════════════════════════
АРХИТЕКТУРА (черновик)
═══════════════════════════════════════════════
Оркестратор + пул специалистов + инструменты:
- Роутер (3B): классифицирует запросы.
- Агенты-специалисты: кодеры, хакеры, OSINT, бизнес, general,
vision, переводчики.
- Три режима: ⚡Быстрый, 🧠Средний, 💪Мощный.
- Мощный режим: планировщик → команда агентов → критик → цикл
до 3 итераций. Слабые модели отсекаются по порогу 0.8.
- Память: ChromaDB + SQLite + DreamCycle (самообучение).
- Инструменты: MCP-серверы (файлы, веб-поиск, Blender, Unity,
security tools, OSINT).
═══════════════════════════════════════════════
ВОПРОСЫ К ТЕБЕ
═══════════════════════════════════════════════
1. Как именно ты удерживаешь задачу 18+ часов? Какие механизмы
памяти и компрессии контекста используешь? Как реализовать
это локально на 12 ГБ VRAM?
2. Какие агенты и в каком количестве нужны для моей системы?
Дай конкретный список ролей и моделей (3B-24B), которые
влезут в 12 ГБ VRAM с offload в 32 ГБ RAM.
3. Как правильно построить конвейер (последовательная загрузка
моделей через hot-swap), чтобы не упираться в VRAM? Какой
порядок загрузки оптимален?
4. Как реализовать самокоррекцию: агент пишет код → запускает →
смотрит результат → находит баг → исправляет → повторяет.
Какие инструменты нужны (скриншоты, эмуляция, sandbox)?
5. Как сделать компрессию истории чата, чтобы контекст не
переполнялся, но суть не терялась?
6. Как встроить DreamCycle-подобное самообучение: агент собирает
удачные диалоги → обучает LoRA → тестирует → внедряет или
откатывает?
7. Как реализовать систему разрешений allow/deny/ask, чтобы
агент замирал перед опасным действием и показывал обоснование?
8. Какой стек Python-библиотек ты бы использовал для всего этого
на моём железе?
9. Что я упускаю? Какие компоненты нужны, чтобы система
работала стабильно 18+ часов?
═══════════════════════════════════════════════
ФОРМАТ ОТВЕТА
═══════════════════════════════════════════════
Дай подробный технический разбор по каждому пункту.
С конкретными моделями, библиотеками, архитектурными решениями
и подводными камнями. Без общих слов — только конкретика,
которую можно реализовать на RTX 3060 + 32 ГБ RAM.
No preview
Comments (0)
No comments yet. Be the first!
Sign in to leave a comment
Project Tasks
29 planning tasks
#1
Generate system requirement document
0m 44s0.2 cr used
Done
#23
Generate system requirement document
0m 56s0.2 cr used
Paused
#2
Generate personas & user flows
2m 40s0.2 cr used
Done
#7
Create flow for Локальный разработчик Zer0Trace AI
Not recordedCredits in parent
Done
#3
Design first page
0.2 cr needed
Cancelled
#14
Design first page
0m 2s0.2 cr used
Error
#22
Retry First Page
0.4 cr needed
Cancelled
#21
Retry First Page
0.4 cr needed
Cancelled
#20
Retry First Page
0m 0s0.4 cr used
Error
#19
Retry First Page
0m 1s0.4 cr used
Error
#18
Retry First Page
0.4 cr needed
Cancelled
#17
Retry First Page
0.4 cr needed
Cancelled
#16
Retry First Page
0m 0s0.4 cr used
Error
#4
Design remaining pages
0.2 cr needed
Cancelled
#15
Design remaining pages
0.2 cr used
Cancelled
#5
Architecture
0m 4s0.2 cr used
Cancelled
#8
Architecture
2m 27s0.2 cr used
Done
#9
Create backend_modules diagram
1m 59sCredits in parent
Done
#10
Create er_diagram diagram
1m 59sCredits in parent
Done
#11
Create frontend_modules diagram
1m 59sCredits in parent
Done
#12
Create sequence diagram
1m 59sCredits in parent
Done
#13
Create service_network diagram
1m 59sCredits in parent
Done
#6
Workspace task plan
0.2 cr used
Cancelled
#24
Update Локальный разработчик Zer0Trace AI flow
Credits unavailable
Backlog
#25
Update Zer0Trace AI — Карта локальных сервисов и хранилищ
Credits unavailable
Backlog
#26
Update Zer0Trace AI — Модель данных локальной памяти
Credits unavailable
Backlog
#27
Update Zer0Trace AI — Модули локального пульта
Credits unavailable
Backlog
#28
Update Zer0Trace AI — Модули локального ядра
Credits unavailable
Backlog
#29
Update Zer0Trace AI — Порядок работы агентов, разрешений и самообучения
Credits unavailable
Backlog
No completed page designs yet.
Completed design pages will appear here when they are ready to preview.
No completed page designs yet.
Completed design pages will appear here when they are ready to preview.
No comments yet. Be the first!