Router modeli po nodeih

Prebere JSON iz router endpointa, pokaže naložene modele po hostih in posebej hoste brez modelov.

Kapaciteta / ozka grla

Kateri model/ctx nivo ali svarun zmogljivost trenutno primanjkuje vozlišč — ne "kako hitro deluje host" (spodaj), ampak "ali sploh imamo dovolj kapacitete". Zgornja tabela je vezana na PRVOTNO zahtevani model/ctx (preden je šlo v fallback); spodnja na tisto, kar je zahtevo dejansko postreglo.

Aktivni hosti (model naložen ali svarun dejaven)

Nedejavni hosti (dosegljivi)

Hosti offline ▶

Izmerjena performanca (opazovano, self-learning)

Realen tok/s iz živega prometa na (model, host) par. Vrstice, kjer je tok/s bistveno pod pričakovanim razmerjem za ta model (glede na tflops baseline), so obarvane — to je isti signal, ki bi zaznal degradacijo strojne opreme (npr. komet.rcp Blackwell) samodejno.