zer0trace-ai

byMain Main

Привет. Я разрабатываю локального ИИ-ассистента Zer0Trace AI и хочу понять, как приблизиться к твоему уровню автономности и качества. Помоги спроектировать архитектуру. ═══════════════════════════════════════════════ МОЁ ЖЕЛЕЗО ═══════════════════════════════════════════════ - GPU: RTX 3060 (12 ГБ VRAM) - RAM: 32 ГБ - Диск: отдельный SSD 1 ТБ ТОЛЬКО под ИИ (диск E:) - ОС: Windows - Всё работает локально, без облаков и подписок. - Лимит: система должна занимать до 950 ГБ, оставить 50 ГБ свободно. ═══════════════════════════════════════════════ ЧТО Я ХОЧУ ПОСТРОИТЬ ═══════════════════════════════════════════════ Локальный мультиагентный ассистент, который: 1. Работает как ты — планирует, делегирует, проверяет, исправляет. 2. Держит задачу до 18 часов непрерывно (как Claude Opus 5.5), не теряя контекст и цель. 3. Умеет: код, безопасность, OSINT, бизнес, SEO, копирайтинг, генерацию фото, motion-графику через код, монтаж видео, клонирование голоса. 4. Ищет в сети, когда нужно, и объясняет, зачем. 5. Спрашивает разрешения перед опасными действиями (allow/deny/ask). 6. Учится на моих правках (LoRA-адаптеры). 7. Помнит всё: проекты, предпочтения, стиль кода. ═══════════════════════════════════════════════ АРХИТЕКТУРА (черновик) ═══════════════════════════════════════════════ Оркестратор + пул специалистов + инструменты: - Роутер (3B): классифицирует запросы. - Агенты-специалисты: кодеры, хакеры, OSINT, бизнес, general, vision, переводчики. - Три режима: ⚡Быстрый, 🧠Средний, 💪Мощный. - Мощный режим: планировщик → команда агентов → критик → цикл до 3 итераций. Слабые модели отсекаются по порогу 0.8. - Память: ChromaDB + SQLite + DreamCycle (самообучение). - Инструменты: MCP-серверы (файлы, веб-поиск, Blender, Unity, security tools, OSINT). ═══════════════════════════════════════════════ ВОПРОСЫ К ТЕБЕ ═══════════════════════════════════════════════ 1. Как именно ты удерживаешь задачу 18+ часов? Какие механизмы памяти и компрессии контекста используешь? Как реализовать это локально на 12 ГБ VRAM? 2. Какие агенты и в каком количестве нужны для моей системы? Дай конкретный список ролей и моделей (3B-24B), которые влезут в 12 ГБ VRAM с offload в 32 ГБ RAM. 3. Как правильно построить конвейер (последовательная загрузка моделей через hot-swap), чтобы не упираться в VRAM? Какой порядок загрузки оптимален? 4. Как реализовать самокоррекцию: агент пишет код → запускает → смотрит результат → находит баг → исправляет → повторяет. Какие инструменты нужны (скриншоты, эмуляция, sandbox)? 5. Как сделать компрессию истории чата, чтобы контекст не переполнялся, но суть не терялась? 6. Как встроить DreamCycle-подобное самообучение: агент собирает удачные диалоги → обучает LoRA → тестирует → внедряет или откатывает? 7. Как реализовать систему разрешений allow/deny/ask, чтобы агент замирал перед опасным действием и показывал обоснование? 8. Какой стек Python-библиотек ты бы использовал для всего этого на моём железе? 9. Что я упускаю? Какие компоненты нужны, чтобы система работала стабильно 18+ часов? ═══════════════════════════════════════════════ ФОРМАТ ОТВЕТА ═══════════════════════════════════════════════ Дай подробный технический разбор по каждому пункту. С конкретными моделями, библиотеками, архитектурными решениями и подводными камнями. Без общих слов — только конкретика, которую можно реализовать на RTX 3060 + 32 ГБ RAM.

No preview

Comments (0)

No comments yet. Be the first!

Project Tasks

29 planning tasks
#1

Generate system requirement document

0m 44s0.2 cr used
Done
#23

Generate system requirement document

0m 56s0.2 cr used
Paused
#2

Generate personas & user flows

2m 40s0.2 cr used
Done
#7

Create flow for Локальный разработчик Zer0Trace AI

Not recordedCredits in parent
Done
#3

Design first page

0.2 cr needed
Cancelled
#14

Design first page

0m 2s0.2 cr used
Error
#22

Retry First Page

0.4 cr needed
Cancelled
#21

Retry First Page

0.4 cr needed
Cancelled
#20

Retry First Page

0m 0s0.4 cr used
Error
#19

Retry First Page

0m 1s0.4 cr used
Error
#18

Retry First Page

0.4 cr needed
Cancelled
#17

Retry First Page

0.4 cr needed
Cancelled
#16

Retry First Page

0m 0s0.4 cr used
Error
#4

Design remaining pages

0.2 cr needed
Cancelled
#15

Design remaining pages

0.2 cr used
Cancelled
#5

Architecture

0m 4s0.2 cr used
Cancelled
#8

Architecture

2m 27s0.2 cr used
Done
#9

Create backend_modules diagram

1m 59sCredits in parent
Done
#10

Create er_diagram diagram

1m 59sCredits in parent
Done
#11

Create frontend_modules diagram

1m 59sCredits in parent
Done
#12

Create sequence diagram

1m 59sCredits in parent
Done
#13

Create service_network diagram

1m 59sCredits in parent
Done
#6

Workspace task plan

0.2 cr used
Cancelled
#24

Update Локальный разработчик Zer0Trace AI flow

Credits unavailable
Backlog
#25

Update Zer0Trace AI — Карта локальных сервисов и хранилищ

Credits unavailable
Backlog
#26

Update Zer0Trace AI — Модель данных локальной памяти

Credits unavailable
Backlog
#27

Update Zer0Trace AI — Модули локального пульта

Credits unavailable
Backlog
#28

Update Zer0Trace AI — Модули локального ядра

Credits unavailable
Backlog
#29

Update Zer0Trace AI — Порядок работы агентов, разрешений и самообучения

Credits unavailable
Backlog

No completed page designs yet.

Completed design pages will appear here when they are ready to preview.

модель не влезает в VRAM
результат требует правки
результат неудовлетворителен и итерация 3
итерация == 3 и результат неудовлетворителен
требуется правка или переформулировка
потеря контекста или ошибка
нет ответа
сеть доступна
код не рабочий и лимит итераций не исчерпан
баг не исправлен
модель влезает в VRAM
занято приближается к 950 ГБ
Настройка доступа к локальным моделям, ChromaDB, SQLite, DreamCycle и MCP-серверам
Локальный запуск системы на Windows с доступом к RTX 3060, 32 ГБ RAM и SSD E:
Пользователь формулирует короткий запрос и выбирает режим ⚡Быстрый
Роутер 3B классифицирует запрос и передаёт его профильному агенту
Агент выполняет задачу, вызывая MCP-инструмент при необходимости
Агент выдаёт результат в соответствующей предметной области
Пользователь видит результат и журнал шагов
Требуется ли правка результата
Пользователь правит результат — правка сохраняется как материал для LoRA
Сбой: модель не влезает в VRAM — hot-swap на меньшую модель
Пользователь формулирует сложную задачу и выбирает режим 💪Мощный
Роутер 3B классифицирует запрос
Планировщик строит план и формирует команду агентов-специалистов
1. Команда выполняет подзадачи, делегированные профильным агентам
2. Критик проверяет результат; модели с оценкой ниже 0.8 отсекаются
3. Результат удовлетворителен
4. Цикл повторяется до 3 итераций
Пользователь видит финальный результат, историю итераций и отсечённые варианты
Сбой: после 3 итераций не сошлось — показан лучший вариант с пометкой
Пользователь принимает, правит или переформулирует задачу
Пользователь запускает длительную задачу
Система сохраняет цель, журнал и промежуточные результаты в SQLite и ChromaDB
Система выполняет компрессию истории чата по мере роста
1. Задача продолжается без потери контекста и цели
Пользователь просматривает состояние, промежуточные результаты, сжатый контекст и память о проектах/предпочтениях/стиле
2. Сбой: система восстанавливается из журнала и сжатого контекста и возобновляет задачу
Агент обнаруживает опасное действие в ходе выполнения задачи
1. Агент замирает и формирует запрос разрешения с обоснованием
2. Пользователь выбирает allow, deny или ask
Allow — действие выполняется
Deny — действие отменяется
3. Ask — система уточняет детали и возвращается с уточнённым запросом
Сбой: пользователь не отвечает — действие остаётся приостановленным
Агент обнаруживает нехватку знаний для выполнения задачи
Агент формулирует и показывает объяснение, зачем нужен веб-поиск
Агент вызывает MCP-инструмент веб-поиска
Результаты поиска используются в задаче
Сбой: сеть недоступна — система сообщает и продолжает без поиска, помечая результат как неполный
Агент-кодер пишет код
1. Агент запускает код в sandbox
2. Агент смотрит результат скриншоты, эмуляция
3. Агент находит баг и исправляет его
4. Код рабочий или лимит итераций достигнут
Сбой: баг не удаётся исправить — система показывает, что не сходится
Пользователь правит код — правка становится материалом для LoRA
Система накапливает удачные диалоги и правки пользователя
DreamCycle формирует датасет и обучает LoRA-адаптер
Адаптер тестируется на контрольных задачах
Тест пройден
Адаптер внедряется
Сбой: тест провален — адаптер откатывается
Пользователь видит результат внедрения или отката
Система определяет, что для следующего шага нужна другая модель
Текущая модель выгружается из VRAM
Новая модель загружается с offload в RAM
Задача продолжается на новой модели
Сбой: новая модель не влезает в VRAM — выбирается меньшая модель в диапазоне 3B–24B
Система отслеживает занятое место на диске E: и состояние VRAM/RAM
Приближение к лимиту 950 ГБ
Система предупреждает пользователя
Пользователь решает, что удалить или отложить
Сбой: свободно менее 50 ГБ — система отказывается от загрузки новых моделей или данных
После очистки работа возобновляется

No completed page designs yet.

Completed design pages will appear here when they are ready to preview.

модель не влезает в VRAM
результат требует правки
результат неудовлетворителен и итерация 3
итерация == 3 и результат неудовлетворителен
требуется правка или переформулировка
потеря контекста или ошибка
нет ответа
сеть доступна
код не рабочий и лимит итераций не исчерпан
баг не исправлен
модель влезает в VRAM
занято приближается к 950 ГБ
Настройка доступа к локальным моделям, ChromaDB, SQLite, DreamCycle и MCP-серверам
Локальный запуск системы на Windows с доступом к RTX 3060, 32 ГБ RAM и SSD E:
Пользователь формулирует короткий запрос и выбирает режим ⚡Быстрый
Роутер 3B классифицирует запрос и передаёт его профильному агенту
Агент выполняет задачу, вызывая MCP-инструмент при необходимости
Агент выдаёт результат в соответствующей предметной области
Пользователь видит результат и журнал шагов
Требуется ли правка результата
Пользователь правит результат — правка сохраняется как материал для LoRA
Сбой: модель не влезает в VRAM — hot-swap на меньшую модель
Пользователь формулирует сложную задачу и выбирает режим 💪Мощный
Роутер 3B классифицирует запрос
Планировщик строит план и формирует команду агентов-специалистов
1. Команда выполняет подзадачи, делегированные профильным агентам
2. Критик проверяет результат; модели с оценкой ниже 0.8 отсекаются
3. Результат удовлетворителен
4. Цикл повторяется до 3 итераций
Пользователь видит финальный результат, историю итераций и отсечённые варианты
Сбой: после 3 итераций не сошлось — показан лучший вариант с пометкой
Пользователь принимает, правит или переформулирует задачу
Пользователь запускает длительную задачу
Система сохраняет цель, журнал и промежуточные результаты в SQLite и ChromaDB
Система выполняет компрессию истории чата по мере роста
1. Задача продолжается без потери контекста и цели
Пользователь просматривает состояние, промежуточные результаты, сжатый контекст и память о проектах/предпочтениях/стиле
2. Сбой: система восстанавливается из журнала и сжатого контекста и возобновляет задачу
Агент обнаруживает опасное действие в ходе выполнения задачи
1. Агент замирает и формирует запрос разрешения с обоснованием
2. Пользователь выбирает allow, deny или ask
Allow — действие выполняется
Deny — действие отменяется
3. Ask — система уточняет детали и возвращается с уточнённым запросом
Сбой: пользователь не отвечает — действие остаётся приостановленным
Агент обнаруживает нехватку знаний для выполнения задачи
Агент формулирует и показывает объяснение, зачем нужен веб-поиск
Агент вызывает MCP-инструмент веб-поиска
Результаты поиска используются в задаче
Сбой: сеть недоступна — система сообщает и продолжает без поиска, помечая результат как неполный
Агент-кодер пишет код
1. Агент запускает код в sandbox
2. Агент смотрит результат скриншоты, эмуляция
3. Агент находит баг и исправляет его
4. Код рабочий или лимит итераций достигнут
Сбой: баг не удаётся исправить — система показывает, что не сходится
Пользователь правит код — правка становится материалом для LoRA
Система накапливает удачные диалоги и правки пользователя
DreamCycle формирует датасет и обучает LoRA-адаптер
Адаптер тестируется на контрольных задачах
Тест пройден
Адаптер внедряется
Сбой: тест провален — адаптер откатывается
Пользователь видит результат внедрения или отката
Система определяет, что для следующего шага нужна другая модель
Текущая модель выгружается из VRAM
Новая модель загружается с offload в RAM
Задача продолжается на новой модели
Сбой: новая модель не влезает в VRAM — выбирается меньшая модель в диапазоне 3B–24B
Система отслеживает занятое место на диске E: и состояние VRAM/RAM
Приближение к лимиту 950 ГБ
Система предупреждает пользователя
Пользователь решает, что удалить или отложить
Сбой: свободно менее 50 ГБ — система отказывается от загрузки новых моделей или данных
После очистки работа возобновляется