Research: Архитектура мультимодельности и план добавления Kimi 2.5

[aleks1k]

Background

Контекст

Репо: /root/gonka (fork MinglesAI/gonka от upstream gonka-ai/gonka)

Цепочка Gonka сейчас поддерживает одну модель — Qwen3-235B-FP8. Есть незавершённая ветка upstream/gm/multi-models (38 коммитов впереди main, 5 позади, PR нет) с архитектурным proposal для мультимодельности.

Задача

Проанализировать текущее состояние ветки upstream/gm/multi-models, понять что готово, что не готово, и составить конкретный план добавления модели Kimi 2.5 (kimi-k2.5).

Что изучить

1. Proposal: git show upstream/gm/multi-models:proposals/multi-model-poc/README.md (репо в /root/gonka)
2. Diff: git diff upstream/main...upstream/gm/multi-models --stat
3. Ключевые файлы в ветке (через git show upstream/gm/multi-models:<path>):
   • inference-chain/x/inference/module/model_assignment.go
   • inference-chain/x/inference/module/chainvalidation.go
   • inference-chain/x/inference/types/params.pb.go
   • inference-chain/x/inference/keeper/params.go
4. Где хардкожена Qwen3: grep -r "Qwen3\|qwen3\|235B" /root/gonka/inference-chain --include="*.go" -l
5. Open TODO/questions в proposal и коде ветки

Ожидаемый результат

• Оценка готовности ветки gm/multi-models к merge
• Список что нужно доделать до merge
• Конкретный план добавления Kimi 2.5: файлы, параметры, governance
• Оценка сложности (junior/medior/senior) и объём работы
• Создать implementation tasks в Planning

Focus Areas

• готовность ветки gm/multi-models
• механизм добавления новой модели
• governance параметры
• план добавления Kimi 2.5
• что нужно доделать до merge

[aleks1k]

🏗️ ARCHITECT: ## Архитектурный анализ: мультимодельность и план добавления Kimi 2.5

Problem Statement

Gonka поддерживает одну модель (Qwen/Qwen3-235B-A22B-Instruct-2507-FP8). Ветка upstream/gm/multi-models закладывает инфраструктуру — multi-model node assignment и PoC slot allocation. Но критические части proposal (consensusKoeff, multi-model consensus weight calculation, multi-model PoC в DAPI) отсутствуют.

Current State

Хардкод в main:

• PocParams.model_id — один string в protobuf
• decentralized-api/poc/validator.go:501 — pocParams.ModelId (один ID)
• app/upgrades/v0_2_8/upgrades.go:230 — прямое присвоение Qwen3 model_id
• app/upgrades/v0_2_9/upgrades.go:65,83 — явная очистка не-Qwen235B моделей

Уже есть в main (MsgRegisterModel flow):

• MsgRegisterModel → SetModel → Models KV-store
• GetGovernanceModelsSorted() — список governance моделей
• Model proto: {Id, HfRepo, HfCommit, VRam, ThroughputPerNonce, ValidationThreshold, ...}
• Нет поля ConsensusKoeff — критический gap

Что реализовано в ветке gm/multi-models

✅ EpochMLNodeData — данные map[modelId][participantAddr][]*MLNodeInfo
✅ setModelsForParticipants() — раздаёт узлы участников по governance моделям
✅ AllocateMLNodesForPoC() — per-model PoC slot allocation
✅ filterEligibleMLNodes() — multi-model eligible set с sampling N/2+1 per model
✅ PoCValidationSnapshot для детерминированного семплинга
✅ BitcoinRewardParams: FullCoverageBonusFactor, UtilizationBonusFactor, PartialCoverageBonusFactor
✅ Фильтр участников без награды предыдущего эпоха из eligible set
✅ Upgrade v0_2_10 boilerplate

Что НЕ реализовано (критические gaps для merge)

Gap	Описание
consensusKoeff per model	Нет в proto/params/Model. Основа proposal — конвертация PoC-веса в консенсус-вес
Multi-model consensus weight	chainvalidation.go WeightCalculator считает вес по одной модели. Нет агрегации consensusKoeff × pocWeight
Multi-model PoC в DAPI	poc/validator.go использует pocParams.ModelId (один ID). Нет цикла по governance моделям
W_threshold, V_min	Условия eligibility группы — отсутствуют в params
T_grace per model	Grace window после governance approval — нет в Model proto
v0_2_10 upgrade handler	Пустой placeholder, нет миграции Qwen3 как governance model с consensusKoeff=1.0

Вердикт: ветка НЕ готова к merge. Реализован инфраструктурный слой, но не ключевые части proposal.

Plan: добавление Kimi 2.5

Phase 1 — Multi-model инфраструктура (~3-5 дней, Senior)

• Добавить consensus_koeff, t_grace_epochs в Model proto → регенерировать pb.go
• Добавить w_threshold, v_min в PocParams proto
• Рефакторинг WeightCalculator в chainvalidation.go: агрегация веса по моделям через consensusKoeff
• Проверка eligibility группы (W_threshold, V_min) per model
• v0_2_10 upgrade handler: мигрировать Qwen3 с ConsensusKoeff=1.0, TGraceEpochs=0; установить WThreshold=0.05, VMin=5

Phase 2 — Multi-model PoC в DAPI (~2-3 дня, Medior/Senior)

• poc/validator.go: запрашивать GetGovernanceModels() вместо poc_params.model_id
• Разделение участников по моделям через ActiveParticipant.Models
• Запуск PoC generation/validation per model group
• Обновить poc/orchestrator.go и apiconfig/config_manager.go

Phase 3 — Регистрация Kimi K2.5 (~1 день, Junior, после Phase 1+2)

• Governance proposal MsgRegisterModel:
  • Id: "moonshot-ai/Kimi-K2.5"
  • ConsensusKoeff: 0.8 (начальное значение, ниже Qwen3's 1.0)
  • TGraceEpochs: 3
  • VRam, ThroughputPerNonce — по результатам бенчмарка на целевом железе
• Хосты объявляют поддержку в HardwareNodes.HardwareNodes[].Models
• Governance params update: WThreshold=0.05, VMin=5

Оценка

• Общий объём: 6-9 рабочих дней
• Phase 1 является блокером для всего остального
• Уровень: Senior на Phase 1-2, Junior на Phase 3-4
• Рекомендуется Sequential: Phase 1 → Phase 2 → Phase 3

References

• inference-chain/x/inference/module/model_assignment.go — multi-model slot allocation (готово)
• inference-chain/x/inference/module/chainvalidation.go — WeightCalculator (нужен рефакторинг)
• decentralized-api/poc/validator.go:501 — точка интеграции с моделью
• inference-chain/x/inference/keeper/model.go — GetGovernanceModels/SetModel
• inference-chain/app/upgrades/v0_2_10/upgrades.go — placeholder upgrade handler
• proposals/multi-model-poc/README.md — оригинальный proposal