axiom — промежуточные итоги 05.10: статус, архитектура L3, обучение в Spine AI/ML

axiom — промежуточные итоги 05.10: статус, архитектура L3, обучение в Spine AI/ML An architecture diagram generated by Archify. Корпус W/C/Q 17,84B · ✓ шард-стрим · ротация 500М · sha256 verified · Architecture component · ADR-021 Корпус W/C/Q 17,84B ✓ шард-стрим · ротация 500М · sha256 verified ADR-021 Токенизатор BPE 160K · ✓ v2 16e4a532 — полный sha256 в манифесте · Architecture component · ADR-004-amend Токенизатор BPE 160K ✓ v2 16e4a532 — полный sha256 в манифесте ADR-004-amend Претрейн-луп на GB10 · ▶ нога-2: шаг 309/600 · loss 8,19 · тренд ✓ · Architecture component · RUNBOOK §7 Претрейн-луп на GB10 ▶ нога-2: шаг 309/600 · loss 8,19 · тренд ✓ RUNBOOK §7 Скелет L3 ~1B MoE · KDA + MLA + LatentMoE · narrow-but-deep · Architecture component · ADR-003/019 Скелет L3 ~1B MoE KDA + MLA + LatentMoE · narrow-but-deep ADR-003/019 Реестр чекпойнтов · ✓ Orbax tree_hash · курсор 300 · нога-1 300/300 · Architecture component · AD-4 Реестр чекпойнтов ✓ Orbax tree_hash · курсор 300 · нога-1 300/300 AD-4 SFT-вход: v12-normalized · ✓ 44 949 записей · 0/0,14/0 · + env-блок E-2 15% · Architecture component · C-044/§8.5 SFT-вход: v12-normalized ✓ 44 949 записей · 0/0,14/0 · + env-блок E-2 15% C-044/§8.5 SFT-стадия · ○ полный прогон после 3 ног · QAT MXFP4 on · Architecture component · ADR-005 SFT-стадия ○ полный прогон после 3 ног · QAT MXFP4 on ADR-005 C-039 изоляция награды · ✓ LLM-судья вне контура — проверка кода · Architecture component · AD-2 C-039 изоляция награды ✓ LLM-судья вне контура — проверка кода AD-2 RL: две ветки-сравнения · ○ laguna (CISPO+LOO) | frognano · health C-045 · Architecture component · ADR-027 RL: две ветки-сравнения ○ laguna (CISPO+LOO) | frognano · health C-045 ADR-027 Среда v1 на arch-ml · ✓ 40 тестов · лестница L0–L3 · calibrate ✓ · Architecture component · ENV-V1 Среда v1 на arch-ml ✓ 40 тестов · лестница L0–L3 · calibrate ✓ ENV-V1 Kimi K3 — baseline · holdout-сравнение · равный бюджет (AD-3) · Architecture component · AD-1 Kimi K3 — baseline holdout-сравнение · равный бюджет (AD-3) AD-1 GB10 / DGX Spark · ▶ одна нагрузка (AD-7) · B3-down · 75 ГиБ · Architecture component · ADR-013 GB10 / DGX Spark ▶ одна нагрузка (AD-7) · B3-down · 75 ГиБ ADR-013 C-043 чистота eval · ✓ selftest-мутанты · реальный прогон — PENDING · Architecture component · AD-12 C-043 чистота eval ✓ selftest-мутанты · реальный прогон — PENDING AD-12 C-044 аудитор SFT · ✓ 3 класса + эпизод-семантика · нормализация · Architecture component · AD-12 C-044 аудитор SFT ✓ 3 класса + эпизод-семантика · нормализация AD-12 arch-ml 0.3.2 · ✓ верификатор пиннут build-hash (TITO) · Architecture component · ADR-022 arch-ml 0.3.2 ✓ верификатор пиннут build-hash (TITO) ADR-022 стрим шардов tokens-v2 · пин хеша Orbax + курсор forward/backward чекпойнт пилота набор + env-блок + leak_check чекпойнт SFT + env-грамотность пул/синтез раундами верификатор = награда награда без судьи Legend Backend Database Cloud External

Статус 05.10

  • • Нога-1 претрейна: 300/300, loss 13,54 → 8,12 — resume-механика подтверждена
  • • Нога-2 идёт: шаг 309+/600, warm restart lr (WSD на новый горизонт)
  • • Приборы: 526 тестов зелёных · 3 стража C-043/044/045 с мутантами
  • • Fitness: 45 правил · trace 26/26 · спайн 13 инвариантов

Решения (ADR)

  • • ADR-023: уроки Лагуны → регламенты и стражи (тренд §3.1, бронь предмета, гигиена SFT)
  • • ADR-027: RL в двух методологиях — ветки laguna | frognano, вердикт МакНемар
  • • ADR-028: зоны по темам — две равноценные линии в одном репозитории
  • • ADR-004-амендмент: канон токенизатора = корпусной BPE v2

Дальше (по решению владельца)

  • • Нога-3 (601–900) → SFT-смоук на v12-normalized + env-блок
  • • Калибровка L0/L1 на реальном чекпойнте → первые числа R1 (коридор pass-rate)
  • • RL: две ветки последовательно на одной GPU (AD-7) → МакНемар на holdout
  • • 20B-претрейн на аренде H800 — отдельное решение, сейчас строго GB10