lognebudo - najnovije aktivnosti
-
Zanimljiv post. Jedno od rešenja je alat na serveru koji bi model pozvao da proveri datum, ali je tu pitanje kako model barata alatima... -
lognebudo je odgovorio(la) u temi Lokalno korišćenje AI modela.Pošto se ovde dosta pričalo o VRAM-u i o kompresiji KV keša, jedna stvar koju sam izmerio a koja ne zavisi od kartice: koliko kešа...
-
