Chutes AI обучила 8B-модель на 240 RTX 5090 за $6 500 через сеть Bittensor
- —240 GPU RTX 5090 в 30 хостах и 13 странах обучили модель на 8 млрд параметров
- —Стоимость обучения — около $6 500, или $11 за 1 млрд токенов
- —8B-модель выдаёт 59,6 токена/с на CPU смартфона, модель на 40,75 млрд параметров — 26,9 токена/с
- —Обучение построено на системе Parallax с P2P-структурой на libp2p
Почему важно: Кейс показывает, что распределённые сети на потребительских GPU могут удешевить обучение ИИ, усиливая нарратив децентрализованных вычислений вроде Bittensor.
Источник: TokenPost