К сигналам
Open SourceHacker News25 July 20262 мин чтения
Echo: несколько open-weight моделей как одна система
Echo объединяет пул open-weight моделей и для каждого запроса решает, сколько вычислений выделить, какие модели подключить и как скомбинировать ответы. Автор заявляет результат уровня Fable примерно за треть стоимости inference.
Почему это важно
Вместо гонки за одну лучшую модель появляется идея умного распределения задач между специалистами. Для продуктов это путь к лучшему качеству при меньших затратах на inference.
#open-weight#routing#inference#agents