Šta je novo?
Od:
Filteri

AI chatbotovi i asistenti - generalna tema

Ollama podrzava API pristup samo gadjas localhost umesto nekog cloud servera. Ja sam povezao OpenClaw da gadja Ollama localhost API. Jedino sto za to sto meni treba (coding) Openclaw bolje radi sa Anthropic ili GPT Api kljucem koji se placa po potrosnji.

docs.ollama.com

Windows - Ollama

docs.ollama.com docs.ollama.com
 
Mislio sam da probam da dodam mogucnost ai prevoda titlova na kodi addonu, ali fakticki nema free apija koji bi to uradili dobro, dakle nema dzabe ni kod babe 😉 i jos je to slab nivo kvaliteta...
Grok ima dobre kvote i lako se napravi api kljuc, samo sto je to relativno upotrebljivo, mozda ako bas ne znas engleski pa da ti odradi, ali moze fino da nervira zbog padeža, i nekad loseg konteksta i ponekad drugih gresaka zavisno od modela...
Pa ne znam dal uopste vredi da se cimam...
A placeni api ko pa koristi i da placa, neki mali procenat ljudi...
 
Besplatno, a dobro, teško. Gemini je OK što se tiče prevoda, što znači Flash model je bang for the buck. Ako se ipak udlučiš za plaćeno, idi ovde, pa scrolluj na Pricing.
 
jimmytza je napisao(la):
Besplatno, a dobro, teško. Gemini je OK što se tiče prevoda, što znači Flash model je bang for the buck. Ako se ipak udlučiš za plaćeno, idi ovde, pa scrolluj na Pricing.
Kliknite za proširenje...
Verujem da je gemini najbolji, ali su ga urnisali nacisto za free od skoro, i skresali na 20 upita dnevno
 
A GemmaTranslate free model?
 
Nema api za free, a i kvote su male 10x5000 karaktera dnevno
 
jimmytza je napisao(la):
Mislim da je jasno šta traži
Kliknite za proširenje...
Jasno mi je sta je trazeno samo sam ponudio alternativu jer koristim lokalno i znam da funkcionise. Potpuno je besplatna za odredjene modele. Cloud API koji imaju free tier uvek dolaze sa ogranicenjima i cesto sa skrivenim troskovima. Na @dEXE je da odluci sta ce koristiti od ponudjenog. Mislim da forum za to i sluzi da se razmene iskustva drugih korisnika foruma.
 
Da li neko može da mi preprouči kako da rešim prevođenje teksta u fajlu sa nekim AI offline jezičkim modelom prevoidoca sa engleskog na srpski. Windows ili Lynux rešešenje bi bilo prihvatljivo. Bitno je da je offline.
 
Bukvalno se o tome prica, poslednjih 10-15 posta...
 
Ja sam malo probao GemmaTranslate u Ollama, baš sam sa Gemini komentarisao tih nekih par pasusa koje sam testirao, pa mi je on rekao kako bi on neke stvari bolje preveo, i zaista bi. Sadašnji GemmaTranslate je baziran na Gemma2, ali se nadam da će izaći novi koji je bazira na Gemma3, s obzirom da je on izašao za offline upotrebu, pa vidjećemo kakav će on biti (Gemini očekuje da će biti osjetno bolji). Ali zasad kad nešto prevodim koristim Gemini, prilično dobro mi se pokazao.
 
Da, vidim, zaista jeste.
Da li je neko testirao te modele, pošto ih ima više na Ollama, od 4b do 27, od q4 do q8?
 
Malo sam se zezao sa Mac Mini M4 16 GB i instalirao OpenClaw.

Sa Ollama 3b je bio neupotrebljiv, 8b ga sahranjuje, dok sa Claude API je neuporedivo bolje, jedino sto ke bas skupo, na primer za prompt da mi pronadje na amazon.de najjevtiniji iPhone i posalje na mail link i summary, maltene pojede 0.50 usd kredita.
 
Dok se ne pojave neki upotrebljivi claude sonet 4.6 distilati u formi 8B parametara, bice neupotrebljivo.
I opet zbog malog broja parametara, to ce takodje biti neuporedivo sa claude cloud servisima (putem API-ja). Jednostavno, ako se poredi model sa 3T parametara treninga, matematicki je nemoguce da lokalni 8-70B-400B distilat bude bolji.
 
od pre nekoliko dana Lmarena (Arena.ai) traži login, pa ne prolaze čišćenje cookija, niti pristup iz incognito režima.
Možda koristiti mozillu, librewolf i slične portable browsere za više login sesija, ako ništa, a bilo je lepo dok je trajalo
 
Morate se prijaviti ili registrovati da odgovorite ovde.
Nazad
Vrh Dno