Da li verovati u info od AI? - NE!

[rafiki]

Meni je od toga što AI izmišlja i laže, još neverovatnije da neko ulaže svoje vreme i trud da poboljša taj isti AI, tako što sam traži i prezentuje tačne podatke AI-ju.
Pozdrav

 

[mixkax]

Mene je Grok ubeđivao da je za punjenje praznog akumulatora od 56 Ah potrebno 54 kWh struje, još mi je i celu formulu napisao zbog čega je tako. Dodao je još da uzimajući u obzir prosečnu cenu struje u Srbiji, punjenje takvog akumulatora izađe nekih 13000 dinara

 

[nenadan]

Meni je od toga što AI izmišlja i laže, još neverovatnije da neko ulaže svoje vreme i trud da poboljša taj isti AI, tako što sam traži i prezentuje tačne podatke AI-ju.
Pozdrav

Znas kako, zaludni ljudi, nista manje zaludni od onih koji dodju na neku temu i napisu komentar nevezan za temu samo da bi pametovali. 😉

 

[Mare]

Meni je od toga što AI izmišlja i laže, još neverovatnije da neko ulaže svoje vreme i trud da poboljša taj isti AI, tako što sam traži i prezentuje tačne podatke AI-ju.
Pozdrav

To je zato što fundamentalno ne razumeju šta je to LLM. To su pre svega alati koji fanstastično tranformišu text iz jedne forme u drugu. Dati mu tačne izvore (linkove, dokumente, etc.) da vam to prebaci u neki drugi format i-ili summary je bukvalno najbolja moguća primena LLM koja postoji...

 

[zuke]

Ne znam uopste otkud nekom ideja da moze da veruje primer chatgpt 100% .To nije ni zamisao ,ni namena njegova .Tu je da ti pomogne .Meni sluzi kao sto mi je sluzio google.com ,samo mnogo brze dodjem do nekih info nego sto bih preko google ,sakupi ti sa vise izvora na jednom mestu .A kad mi treba neki info da je 100% tacan ,onda se proveri na vise strana

 

[component]

Meni su isto razni AI izmišljali članove zakona. Može da bude opasno ako mu poveruješ tako nešto i ne proveriš.

Juče zamalo da se posvađam sa ženom zato što veruje AI više nego meni 😀
Učim klinca da igra šah i žena kaže da ne sme da pomeri pešaka 2 polja u otvaranju. Kaže AI može samo ako je baš prvi potez. Ja počeo da navodim otvaranja gde se to radi, pa kako će ikada da izvede en passant? I na krajuu instalirao šah da odigra jednu partiju. Ne vredi. Kaže mi žena "evo šta kaže" pa navodi šta je AI napisao. I to je za nju kraj rasprave. AI je rekao svoje. Šta tu ima ko da kaže drugačije. Ljudi, nadrljali smo.

 

[Martin Mystere]

Ili ona da menja AI koji pita ili ti da menjaš ženu - ja tu ne vidim treće rešenje.

 

[component]

Samo update, ugrade, new version? Nema patching ili tako nešto?

 

[snorki11]

A tek u vezi elektronike treba biti izuzetno oprezan. Mojom naivnošću kako AI prepoznaje komponente sa ploče i objašnjava šta koja komponenta radi, pokušao sam da popravim napajanje za PC. U nekom trenutku mi je chatgpt predložio da odlemim neki otpornik kako bih proverio ispravnost nekog optocoupler-a. E sad iako znam da se obično optocoupleri stavljaju na mestima gde dolazi do razdvajanja visok napon/niski napon, oduševljen prethodnim odgovorima bota i naravno ne razmišljajući odlemim ja taj otpornik i kada sam uključio napajanje umalo me nije ubila struja a da ne spominjem kakva je lepa explozija bila i da nisam video ništa narednih 5 minuta na oči. Ne da sam mu se načestitao mile nove godine kada mi se vratio vid nego.....

 

[component]

Ne treba nam scenario iz terminatora. Samo treba da nas troluje do besvesti i sami ćemo se pobiti 😀

 

[component]

Skoro sam video ovo pa sam rešio da testiram


Gemini:

ChatGPT:

Claude:

Grok:


Ne znam u čemu je fora, ali nisu bar nešto random. Pitao sam 4 osobe i dobio 4 različita broja.

 

[pmb]

AI mi je najkorisniji tamo gde ne očekujem da zameni moje razmišljanje, nego da mi ubrza posao koji bih inače svakako umeo da proverim. Recimo, mogu da mu dam veliki dokument i tražim da mi izdvoji sve delove koji se odnose na određenu temu, da uporedi dve verzije ugovora, da pronađe nelogičnosti u tekstu, da od gomile beleški napravi smislen nacrt ili da mi iz tehničke dokumentacije izvuče ono što mi je trenutno potrebno. U programiranju mi više znači kada mi za deset minuta suzi problem na tri verovatna uzroka nego kada napiše kompletan kod koji ću posle morati da pregledam red po red. Kod kupovine mi je koristan kada od deset modela napravi poređenje prema kriterijumima koje sam mu zadao, ali ne i kada samouvereno preporuči jedan proizvod na osnovu specifikacija koje možda nisu ni tačne. Kod učenja može odlično da posluži jer mogu da ga teram da isti koncept objasni jednostavno, tehnički, kroz analogiju ili na konkretnom primeru, sve dok ne pronađem objašnjenje koje mi odgovara.

Od AI ne očekujem nepogrešivost. Očekujem da što češće prepozna granicu između onoga što stvarno može da zaključi i onoga što samo nagađa. Ako je slika nejasna, nije problem da kaže da ne može pouzdano da prebroji objekte. Ako postoji više mogućih tumačenja pitanja, bolje je da ih navede nego da sam izabere jedno i nastavi kao da dileme nema. Ako koristi podatke koji mogu biti zastareli, očekujem da ih proveri ili makar jasno kaže da to nije uradio. Najgora osobina ovih sistema nije sama greška, nego kombinacija greške, samouverenog tona i naknadnog izmišljanja objašnjenja koje tu grešku čini ubedljivijom.

Zato mi ni ideja "AI je pogrešio, dakle beskoristan je" nema mnogo smisla. Kalkulatoru tražim tačan rezultat, ali od alata koji radi sa jezikom, slikama, nepotpunim informacijama i verovatnoćama očekujem nešto drugo: da bude dovoljno dobar da mi skrati put, dovoljno transparentan da znam kada mu ne treba verovati i dovoljno prilagodljiv da mogu da ga nateram da pokaže kako je do nečega došao. Kada proveravam zakon, medicinski savet, finansijsku odluku ili nešto što može da napravi ozbiljnu štetu, AI za mene nije poslednja instanca nego prvi ili drugi korak u proveri. Kada sređujem tekst, tražim ideje, analiziram podatke, učim nešto novo ili pokušavam da razumem problem, prag poverenja je sasvim drugačiji.

Najviše bih voleo da naredne generacije modela manje napreduju u tome da zvuče sigurno, a više u tome da pouzdano prepoznaju sopstvenu nesigurnost. Mnogo vredniji odgovor je "ne mogu ovo dovoljno pouzdano da utvrdim iz onoga što imam" nego savršeno napisan pasus koji počiva na pogrešnoj pretpostavci. AI će za mene postati stvarno zreo alat onda kada budem mogao da mu verujem ne zato što retko greši, nego zato što dobro zna kada postoji ozbiljna šansa da greši.

 

[NSX]

problem je u tome što laicima izgleda nepogrešiv i onda moraš da objašnjavaš da to nije baš tako, a to uzima vremena

da ne pričam o tome što je gomila dunstera dobilo diplome, licence i pečate za sve i svašta, pa sad kad su se dočepali AI-ja misle da imaju i znanje