Da li verovati u info od AI? - NE!

[rafiki]

Meni je od toga što AI izmišlja i laže, još neverovatnije da neko ulaže svoje vreme i trud da poboljša taj isti AI, tako što sam traži i prezentuje tačne podatke AI-ju.
Pozdrav

 

[mixkax]

Mene je Grok ubeđivao da je za punjenje praznog akumulatora od 56 Ah potrebno 54 kWh struje, još mi je i celu formulu napisao zbog čega je tako. Dodao je još da uzimajući u obzir prosečnu cenu struje u Srbiji, punjenje takvog akumulatora izađe nekih 13000 dinara

 

[nenadan]

Meni je od toga što AI izmišlja i laže, još neverovatnije da neko ulaže svoje vreme i trud da poboljša taj isti AI, tako što sam traži i prezentuje tačne podatke AI-ju.
Pozdrav

Znas kako, zaludni ljudi, nista manje zaludni od onih koji dodju na neku temu i napisu komentar nevezan za temu samo da bi pametovali. 😉

 

[Mare]

Meni je od toga što AI izmišlja i laže, još neverovatnije da neko ulaže svoje vreme i trud da poboljša taj isti AI, tako što sam traži i prezentuje tačne podatke AI-ju.
Pozdrav

To je zato što fundamentalno ne razumeju šta je to LLM. To su pre svega alati koji fanstastično tranformišu text iz jedne forme u drugu. Dati mu tačne izvore (linkove, dokumente, etc.) da vam to prebaci u neki drugi format i-ili summary je bukvalno najbolja moguća primena LLM koja postoji...

 

[zuke]

Ne znam uopste otkud nekom ideja da moze da veruje primer chatgpt 100% .To nije ni zamisao ,ni namena njegova .Tu je da ti pomogne .Meni sluzi kao sto mi je sluzio google.com ,samo mnogo brze dodjem do nekih info nego sto bih preko google ,sakupi ti sa vise izvora na jednom mestu .A kad mi treba neki info da je 100% tacan ,onda se proveri na vise strana

 

[component]

Meni su isto razni AI izmišljali članove zakona. Može da bude opasno ako mu poveruješ tako nešto i ne proveriš.

Juče zamalo da se posvađam sa ženom zato što veruje AI više nego meni 😀
Učim klinca da igra šah i žena kaže da ne sme da pomeri pešaka 2 polja u otvaranju. Kaže AI može samo ako je baš prvi potez. Ja počeo da navodim otvaranja gde se to radi, pa kako će ikada da izvede en passant? I na krajuu instalirao šah da odigra jednu partiju. Ne vredi. Kaže mi žena "evo šta kaže" pa navodi šta je AI napisao. I to je za nju kraj rasprave. AI je rekao svoje. Šta tu ima ko da kaže drugačije. Ljudi, nadrljali smo.

 

[Martin Mystere]

Ili ona da menja AI koji pita ili ti da menjaš ženu - ja tu ne vidim treće rešenje.

 

[component]

Samo update, ugrade, new version? Nema patching ili tako nešto?

 

[snorki11]

A tek u vezi elektronike treba biti izuzetno oprezan. Mojom naivnošću kako AI prepoznaje komponente sa ploče i objašnjava šta koja komponenta radi, pokušao sam da popravim napajanje za PC. U nekom trenutku mi je chatgpt predložio da odlemim neki otpornik kako bih proverio ispravnost nekog optocoupler-a. E sad iako znam da se obično optocoupleri stavljaju na mestima gde dolazi do razdvajanja visok napon/niski napon, oduševljen prethodnim odgovorima bota i naravno ne razmišljajući odlemim ja taj otpornik i kada sam uključio napajanje umalo me nije ubila struja a da ne spominjem kakva je lepa explozija bila i da nisam video ništa narednih 5 minuta na oči. Ne da sam mu se načestitao mile nove godine kada mi se vratio vid nego.....

 

[component]

Ne treba nam scenario iz terminatora. Samo treba da nas troluje do besvesti i sami ćemo se pobiti 😀

 

[component]

Skoro sam video ovo pa sam rešio da testiram


Gemini:

ChatGPT:

Claude:

Grok:


Ne znam u čemu je fora, ali nisu bar nešto random. Pitao sam 4 osobe i dobio 4 različita broja.

 

[pmb]

AI mi je najkorisniji tamo gde ne očekujem da zameni moje razmišljanje, nego da mi ubrza posao koji bih inače svakako umeo da proverim. Recimo, mogu da mu dam veliki dokument i tražim da mi izdvoji sve delove koji se odnose na određenu temu, da uporedi dve verzije ugovora, da pronađe nelogičnosti u tekstu, da od gomile beleški napravi smislen nacrt ili da mi iz tehničke dokumentacije izvuče ono što mi je trenutno potrebno. U programiranju mi više znači kada mi za deset minuta suzi problem na tri verovatna uzroka nego kada napiše kompletan kod koji ću posle morati da pregledam red po red. Kod kupovine mi je koristan kada od deset modela napravi poređenje prema kriterijumima koje sam mu zadao, ali ne i kada samouvereno preporuči jedan proizvod na osnovu specifikacija koje možda nisu ni tačne. Kod učenja može odlično da posluži jer mogu da ga teram da isti koncept objasni jednostavno, tehnički, kroz analogiju ili na konkretnom primeru, sve dok ne pronađem objašnjenje koje mi odgovara.

Od AI ne očekujem nepogrešivost. Očekujem da što češće prepozna granicu između onoga što stvarno može da zaključi i onoga što samo nagađa. Ako je slika nejasna, nije problem da kaže da ne može pouzdano da prebroji objekte. Ako postoji više mogućih tumačenja pitanja, bolje je da ih navede nego da sam izabere jedno i nastavi kao da dileme nema. Ako koristi podatke koji mogu biti zastareli, očekujem da ih proveri ili makar jasno kaže da to nije uradio. Najgora osobina ovih sistema nije sama greška, nego kombinacija greške, samouverenog tona i naknadnog izmišljanja objašnjenja koje tu grešku čini ubedljivijom.

Zato mi ni ideja "AI je pogrešio, dakle beskoristan je" nema mnogo smisla. Kalkulatoru tražim tačan rezultat, ali od alata koji radi sa jezikom, slikama, nepotpunim informacijama i verovatnoćama očekujem nešto drugo: da bude dovoljno dobar da mi skrati put, dovoljno transparentan da znam kada mu ne treba verovati i dovoljno prilagodljiv da mogu da ga nateram da pokaže kako je do nečega došao. Kada proveravam zakon, medicinski savet, finansijsku odluku ili nešto što može da napravi ozbiljnu štetu, AI za mene nije poslednja instanca nego prvi ili drugi korak u proveri. Kada sređujem tekst, tražim ideje, analiziram podatke, učim nešto novo ili pokušavam da razumem problem, prag poverenja je sasvim drugačiji.

Najviše bih voleo da naredne generacije modela manje napreduju u tome da zvuče sigurno, a više u tome da pouzdano prepoznaju sopstvenu nesigurnost. Mnogo vredniji odgovor je "ne mogu ovo dovoljno pouzdano da utvrdim iz onoga što imam" nego savršeno napisan pasus koji počiva na pogrešnoj pretpostavci. AI će za mene postati stvarno zreo alat onda kada budem mogao da mu verujem ne zato što retko greši, nego zato što dobro zna kada postoji ozbiljna šansa da greši.

 

[NSX]

problem je u tome što laicima izgleda nepogrešiv i onda moraš da objašnjavaš da to nije baš tako, a to uzima vremena

da ne pričam o tome što je gomila dunstera dobilo diplome, licence i pečate za sve i svašta, pa sad kad su se dočepali AI-ja misle da imaju i znanje

 

[Ludak]

Kolegi iz Supporta na pitanje koje je postavio Gemini - ju: zašto slika treperi na računaru dao je obrazloženja da je to to kablova najčšćši uzrok.

Ja mu kažem šanse nema da je do kablova (jer je u pitanju AIO) i da jedini kabal koji ima taj računar je onaj od struje (pošto su tatstuara i miš bežični) .

Nije bilo sile, do kabla je. Pa su dva dana dana šetali kabal, probali drugi kabal, zvali tehničku službu , zamijenili utičnicu , zamijenili UPS. . .

Slika je i dalje treperi la 🤣

 

[Mare]

Problem je što većina ljudi ne plaća pretplatu, već koristi ono što imaju besplatno, a ti modeli su uglavnom Gemini 3.5 Flash ili čak lošiji, GPT5-mini derivati, itd. Dakle modeli koji nisu ni nivou frontier modela od pre 2-3 godine. I onda na osnovu toga stiču ideju šta AI može, ne može, gde greši. Ti modeli su super za razbibrigu, nisu ni za kakav posao ili donošenje odluka.

 

[alter]

A koji je ne pogrešiv plaćen?

 

[yuga]

Dobar dan i poštovanje !
Evo ja da pitam ovde jer je stvarno dobra tema i interesuje me da mi neko ko ima mogućnost odgovori
Šta su sledeći članovi zakona da li su ok i o čemu se radi pošto mi ih je AI rekao i ja to poslao kao opravdanje za sebe :
чланова 13, 31 i 79 Закона о заштити потрошача

 

[marantz]

Kolegi iz Supporta na pitanje koje je postavio Gemini - ju: zašto slika treperi na računaru dao je obrazloženja da je to to kablova najčšćši uzrok.

Ja mu kažem šanse nema da je do kablova (jer je u pitanju AIO) i da jedini kabal koji ima taj računar je onaj od struje (pošto su tatstuara i miš bežični) .

Nije bilo sile, do kabla je. Pa su dva dana dana šetali kabal, probali drugi kabal, zvali tehničku službu , zamijenili utičnicu , zamijenili UPS. . .

Slika je i dalje treperi la 🤣

Slična situacija, puca mi BetterDisplay. Ostane ikonica u menu bar-u, ali program ne radi. Ne mogu da prebacim sa jednogv Mac-a na drugi. Požalim se na to Claude-u. Nisam planirao da to rešavam, ali pošalje mi jednu, drugu komandu, ekram crn, pa se vrati i posle toga mi pusti komandu za terminal da instaliram aplikaciju koja menja inpute na monitorima. Napisao je u chat-u program, uploadovao mi ga na VPS... Nisam čak ni ulazio u Code ili sam koristio XCode Vibe Coding na koji mi je Claude inače povezan.

Sada mi je malo krivo što sam kupovao licencu za BetterDisplay koji više ne koristim, više mi se svakako isplati Claude Max pretplata.

 

[ShadowoftheNight]

Gemini je glup ko noc, njemu npr Forza Horizon 6 jos nije najavljena, nije izasla
To je samo deo , retko kad odgovori kako treba ili uporedi
Ne citaju detaljnije specifikacije uredjaja npr
Posto meni sluzi za te stvari

 

[Trčuljak]

Ja mu ne sugerišem svojom reakcijom da li mi je rekao tačno ili netačno, samo ako nisam sigurna da mi je rekao nešto ispravno, pitam ga nekoliko puta da proveri i on se potrudi da mi bolje "iskopa" određenu informaciju sa izvorima kao dokazima. E, sad, ako ti izvori lažu, to je opet nešto treće.

 

[Forumas X]

Gemini je glup ko noc, njemu npr Forza Horizon 6 jos nije najavljena, nije izasla
To je samo deo , retko kad odgovori kako treba ili uporedi
Ne citaju detaljnije specifikacije uredjaja npr
Posto meni sluzi za te stvari

Ne znam koji ti Gemini koristis, ali moj npr na pitanje gde ima da se kupi Forza Horizon 6 mi je izlistao dugacak spisak gde kod nas moze da se uzme..

 

[ShadowoftheNight]

Ne znam koji ti Gemini koristis, ali moj npr na pitanje gde ima da se kupi Forza Horizon 6 mi je izlistao dugacak spisak gde kod nas moze da se uzme.
Uporedjivao sam sa nekim drugim i mogu reci da daje tacnije i preciznije odgovore.

Sada je 2.5 ako se ne varam, u njegovu odbranu na Forzu, bilo je pre mesec dana to pitanje.
Ali generalno dosta gresi u nekim najosnovnijim pitanjima
Danas pitam za jedan monitor da mi detaljno proveri i istrazi koji panel ima, uporno odgovara da je va a ips je. Iz 4-tog pogodi.
Tako neke stvari.
Ne kazem da uvek gresi ali za ovako neke stvari bar meni zna cesto da se nekako zbuni, pa moras pitanje da mu postavis na vise nacina da skapira

 

[marantz]

Gemini je glup ko noc, njemu npr Forza Horizon 6 jos nije najavljena, nije izasla
To je samo deo , retko kad odgovori kako treba ili uporedi
Ne citaju detaljnije specifikacije uredjaja npr
Posto meni sluzi za te stvari

Verovanto je public model treniran pre datuma izalska. Možeš da ga uputiš da pretraži na Internetu. U početku, kada je izašao prvi javni ChatGPT model, imao je memoriju 2 godine unazad. Ništa posle toga.

 

[Ludak]

Gemini pro ne zna da je izašao Galaxy S25 Edge.
Kada ga ubijediš da je izašao onda laže za visinu i težinu telefona

 

[Forumas X]

Gemini pro ne zna da je izašao Galaxy S25 Edge.
Kada ga ubijediš da je izašao onda laže za visinu i težinu telefona

Necu da branim Gemini, ali je mozda problem u vasim pitanjima? Evo ja koristim besplatnu verziju i pokazao je podatke tacnim.
Za ove jednostavne stvari nisam primetio greske, ali za neka "komplikovanija" pitanja bude lutanja u odgovorima. Posto je besplatno i ako mi je nesto vazno pitam na 2-3 razlicita nacina da vidim sta ce reci.

 

[Mare]

A koji je ne pogrešiv plaćen?

Ne postoji nepogrešiv, postoji samo dobro i loše napisan prompt. Recimo da na nivou Sonnnet5, Terra (pa i Luna) 5.6 nivo halucinacije je relativno mali. Ako si nekada pisao naučni rad, znaš kako te profesor/mentor vraća za svaku sitnicu, ne smeš jednu stvar, pola rečenice da napišeš a da ili nisi uradio experiment po svim prvilima da to što tvrdiš dokažeš ili navodiš i tačno citiraš izvor. LLM-ovi i te kako mogu da budu precizni ako im tražiš da to budu. Problem je što su ljudi izrazito lenji i napisati prompt od 3000-6000 karaktera im je zadnje što žele da urade, već napišu 20 karaktera i misle da su bili dovoljno precizni...

PS. E da poslenjih ~9m je postalo cool pljuvati po AI i LLM, nisi cool u društvu ako to koristiš i još ako kažeš da ti pomaže da brže uradiš neki posao onda s' tobom nešto nije u redu...

 

[namcor]

Da, prompt...
Neću da se pravim pametan jer ne koristim i ne znam sve detalje, ali pokazivao mi je programer koji koristi Claude za pomoć kod kodiranja - bukvalno mu napiše ceo referat od nekoliko strana kao "prompt"...

 

[uji]

Gemini pro ne zna da je izašao Galaxy S25 Edge.
Kada ga ubijediš da je izašao onda laže za visinu i težinu telefona

Napiši mu da je danas taj i taj datum i da povuče aktuelne podatke sa interneta. Gemini predefinisano koristi trening podatke do datuma preseka i zato moraš da ga nateraš na pretragu novih kako bi bio bolji u daljim odgovorima. Od ovoga pate i drugi LLM modeli, ali ChatGPT na primer ima podatak o datumu i vremenu pa i ako napišeš pogrešan (jučerašnji na primer) ispraviće te.

 

[drgonzo]

Koristim ChatGPT Plus i Gemini (Google AI Plus) za neke bazične stvari ali generalno preferiram ChatGPT.
Na poslu mi služi kada brzo trebam da proverim neki podatak ili dobijem detaljnije informacije od onog što znam; zadao sam mu nekoliko dnevnih i nedeljnih taskova raznih namena; koristim ga povremeno i kao pomoć u kupovini, kada treba da uporedim proizvode, da napravim deci neku fotomontažu ili sliku po želji. Za sve ove zadatke zadovoljava sve moje (skromne) potrebe.
Supruga me juče zove za neki zadatak za dete za prvi razred; malo je nejasno napisan ali rešim ga. Onda mi padne na pamet da fotografiju zadatka prosledim ChatGPT-u uz molbu da ga reši i napravi objašnjenje za šestogodišnje dete. Dva puta je dao pogrešan odgovor dok ga nisam "ubedio". Tako da mislim da smo još uvek jako daleko od onog što suštinski definiše inteligenciju, i pored pompeznih najava dolaska AGI

 

[Jericho]

Ja mu ne sugerišem svojom reakcijom da li mi je rekao tačno ili netačno, samo ako nisam sigurna da mi je rekao nešto ispravno, pitam ga nekoliko puta da proveri i on se potrudi da mi bolje "iskopa" određenu informaciju sa izvorima kao dokazima. E, sad, ako ti izvori lažu, to je opet nešto treće.

Ja se ne mucim sa istim modelom, vec setam izmedju 2 modela (kada mi je bitno da bude sigurno). Koristim Deepseek, pa kad zelim proveru, copy-paste celog odgovora ide u ChatGPT (iako je najgori od sve AI dece), pa onda vratim njegov komentar Deepseek-u. Kada pogresi, Deepseek analizira svoju gresku i priznaje je, ChatGPT i dalje gura svoju pricu, samo podesava narativ da se uklopi u njegov prvobitni odgovor. Zato ChatGPT definitivno treba izbegavati kao osnovni model.