IOTA, или Incentivised Orchestrated Training Architecture (Архитектура оркестрованного обучения с вознаграждением), — это подсеть 9 в экосистеме Bittensor, разработанная и управляемая компанией Macrocosmos для обеспечения распределенного предварительного обучения больших языковых моделей (LLM) без необходимости получения разрешений.
Она развилась из более ранней версии SN9, где отдельные майнеры обучали полные модели независимо друг от друга, но перешла к кооперативной модели для решения таких проблем, как высокие требования к оборудованию и система вознаграждений «победитель забирает всё», которая препятствовала совместному использованию ресурсов. Теперь майнеры предоставляют вычислительные ресурсы графических процессоров, память и пропускную способность для обучения частей моделей параллельно с обработкой данных и конвейером — разделяя слои или данные между множеством устройств.
Система оркестровки координирует работу роя, переключая майнеров между фазами обучения и слияния для совместного построения всё более крупных моделей. Валидаторы постоянно оценивают вклад каждого майнера на основе качества и прогресса, распределяя вознаграждения детально и справедливо посредством эмиссии в подсети, а не по принципу «всё или ничего».
Подсеть использует огромные веб-наборы данных (например, Falcon Refined Web) для обучения базовой модели, с интерактивными панелями мониторинга, отображающими активных майнеров, прогресс слоя и метрики. Она образует основной обучающий слой в более широком конвейере ИИ Macrocosmos наряду со сбором данных в SN13 Gravity и других.
SN9
