Budućnost AI agenata

[marantz]

Upravo vidim na viberu da su ubacili neku opciju tog tipa a možeš chatgpt da uvežeš to jes da se uloguješ na svoj nalog.

Bez brige to nije AGI 🙂

 

[emaremare]

Nemam nikakvih briga kad je ai i slično u pitanju...mislim da se taj post odnosio na nečije pitanje pa kao sličan primer.

 

[marantz]

Claude bukvalno može sada da kontroliše ceo komp, kao da se neko nakačio preko TeamViewer-a, a može da mu se da i volume access... Nisam mu ovde dao sudo, ali može bukvalno da očisti ceo drajv, spam mailove, apdejtuje OS itd... Podešava sam filtere u Apple Mail-u na osnovu onoga što je našao kao spam, a kod mene pošto imam svoj mail server ode i na hosting i tamo direktno setuje global mail filtere. Ono što sam ja do sada radio preko cPanel-a.

U ovom slučaju sam mu dao da ode u Settings i sam doda šta da se isključi iz Time Machine bekapa ubuduće da se ne gomila zauzeti prostor na drajvu.

Fascinantno koliko su agenti napredovali za ovo vreme.

 

[kartingdriver]

Kako bi podesio neki lokalni LLM da to odradi? Ja sam protiv dopustanja cloud resenjima da drkaju po diskovima i da rade to sto kazu da rade.

 

[Masinac]

Instaliraš hermes, usmeriš ga da koristi lokalni LLM i to je to.

 

[marantz]

Kako bi podesio neki lokalni LLM da to odradi? Ja sam protiv dopustanja cloud resenjima da drkaju po diskovima i da rade to sto kazu da rade.

Možeš Hermes, OpenClaw, verovatno i LM Studio... Samo imaj u vidu da je lokalni model tipa 30B sa manjom kvantizacijom daleko inferiorniji. Ja nemam ograničenje RAM-a (128GB), ali ako učitaš veliki model na DGX Spark, radi dosta sporije nego manji model.

Tu je sada taj problem sa cenama hardvera. Takvo eksperimentisanje bi imalo smisla da npr. DGX Spark košta 1500 eura, a RTX 5090 nije >5000 eur. I sada je tu pitanje isplativosti, Claude Max je 100$, a DGX Spark je 7000-8000$. To je 70-80 meseci pretplate.

Što se tiče podataka, na boot drajvu nema ništa, odavno ne držim podatke tamo.

Ovo sa boot drajvom je samo eksperiment, ne treba mi Claude da mi čisti disk. Ipak, neverovatno je koliko stvari može da odradi npr. na Web Serveru, ako mu daš SSH. Ne samo da mu ti kažeš šta da radi, već mnogo toga i sam pronalazi. Ne bih bio siguran da lokalnom modelu dam pristup production serveru.

Drugi primer gde bi možda lokalni model bio primereniji, je Vibe Coding. Povezao sam Claude na XCode... Napravio za tipa 10 minuta app koja menja inpute na monitoru da ne bih za to korstio BetterDisplay. Task je bio da dva monitora prebacuje na odgovarajuće inpute koji su povezani na dva različita Mac-a. Testirao je sam DDC signale, prepoznao gde je šta povezano, mapirao, kompajlirao, dodelio Apple sertifikat da se Gatekeeper ne buni itd... Mislim da bi to mogao i npr. QWEN3.8, možda bi bilo više pokušaja i grešaka, ali bi na kraju odradio.