Šta je novo?

OpenAI ChatGPT

Moje mišljenje je da je pitanje kada će, ne da li će ;)
Skeptičan sam po tom pitanju. Pročitaj šta je napisao @NShappy. Mi još uvek ne znamo šta je svest I to je najveći problem. Neko treba da feeduje te informacije u AI kako bi se izvršila sinteza, a mi tim informacijama (još uvek) ne rapsolažemo. Nema sumnje da će AI dostići fantastičan nivo, ali da sam skonta ša je svest i da sam postane svestan, jako teško. Naravno, pretnja od AI-a i dalje postoji, čak i bez svesti.
 
Ali je tačno.

Za ispravnu odluku u tako strašnoj situaciji je potrebna ljudska svest. A da li će AI ikada dostići taj nivo, upitno je.
Sta mislis, koliki je % takvih situacija gde covek donese ispravnu odluku?
U takvim situacijama covek donosi odluke intuitivno i neracionalno, jer obicno imas 1-2s za reakciju, i to pod adrenalinom na max.
Tako da kontam da kad bi AI to radio bukvalno random, ne bi bilo razlike u %
 
Za ispravnu odluku u tako strašnoj situaciji je potrebna ljudska svest. A da li će AI ikada dostići taj nivo, upitno je.

Baš je ovo problem u AI drive vozilima, kada ne postoji ispravna odluka, već samo na osnovu rasploživih inputa matematički proračunata, najmanje neispravna.
Lako ćemo za izbor između samo materijalne štete, i štete u ljudskim životima. Tu će AI drajveri brzo da briljiraju.

Za početak, kada su delići sekunde u pitanju, nema tu šta ljudska svest da donosi odluku. U delićima sec rade samo instinkti, a oni nisu precizni.
Računar će sigurno bolje proračunati ko trpi najmanju štetu.

Ali onda dolazimo do problema: "računar je izračunao da je manja šteta da pogine jedan pešak nego dvoje na motoru", i realno, biće u pravu.
Ili, mene samog vozi moj AI šofer, a onda dve pijane budale izlete na motoru. I moj AI reši da je skretanje u betonski zid bolje. Ja sam sam a njih je dvoje.

Dozvoliti AI-u da donosi takve odluke ima ozbiljnih moralnih problema koji se kose čak i sa nekim ustavima.


Tako da kontam da kad bi AI to radio bukvalno random, ne bi bilo razlike u %
Regulaciona tela ne dozvoljavaju random. Mora do zadnjeg momenta da se računa i bira manja šteta (što računaru nije toliko teško). Ali tada ima moralnih dilema....
 
Moje mišljenje je da je pitanje kada će, ne da li će ;)
Samo povrsno ucenje o tome sta je svest i svesnost, barem prema onome sto je sada mainstream science, namece odgovor - nikada.
Pri tome ne uzimamo fringe science u proteklih 20 god na temu svesti i svesnosti sto ce u buducnosti, prema mom misljenju, imati revolucionarniji uticaj na civilizaciju od "pronalaznjenja" vatre, a i ne uzimamo u obzir uticaj beskrajnog broja lejera podsvesti i uticaj na svest i svesnost.
Jednostavno AI svest na nivou coveka - nikada. Podrazavanje/mimikrija nekih, "niskih", elemenata svesti svesnosti - mozda.
 
AI nema moralnu dilemu samo "zdrav razum".
A eto ti prvi mislis da je tvoj zivot vazniji od dvoje na motoru, da li je to zdrav razum ?
 
Sta mislis, koliki je % takvih situacija gde covek donese ispravnu odluku?
U takvim situacijama covek donosi odluke intuitivno i neracionalno, jer obicno imas 1-2s za reakciju, i to pod adrenalinom na max.
Tako da kontam da kad bi AI to radio bukvalno random, ne bi bilo razlike u %
mislim da bi bio sistem eliminacije..spasavaj decu, pa zene pa muskarce ako je moguce...jos ako ubacimo politicki rasizam... logikom dolazimo da beli muskarac ima najmanje sanse da prezivi kod AI :ROFLMAO:
 
Vala baš lupeta. Samo još da pita: "Gde vidite sebe za 5 godina", pa ga čovek izlupa :d
Može i "kompletna usluga", videh na TikToku... 😉
  1. Iskopira mu se tekst nekog oglasa za posao
  2. Zatraži se prilagođavanje sopstvenog CV-a tom oglasu
  3. Zatim, da napravi "cover letter" koji će ići uz taj CV za taj oglas
  4. Onda, zatraži mu se lista najverovatnijih pitanja na intervjuu i najbolji odgovori na ta pitanja
  5. I na kraju, traži mu se pismo zahvalnosti HR menadžeru za pozivanje na intervju
... sve na ekspertskom nivou i zasnovano na najboljoj praksi. Tip je navodno dobio posao... 🤭
 
... ili drugi primer:
  1. Generiše se transkripcija snimka (dugog) poslovnog sastanka
  2. Ubaci mu se da pregleda i napravi kratak rezime cele diskusije i donetih odluka
  3. Zatim, da kreira uređenu listu potrebnih aktivnosti (akcija) za sprovođenje tih odluka
 
... Ćerka mu tražila da napiše nekoliko eseja na razne teme iz antičke filozofije, na srpskom i engleskom.
Iz tih tekstova sada lakše i brže shvata suštinu njihovih učenja, nego iz obimnog (i dosadnog) udžbenika "A History of Greek Philosophy" (W.K.C. Guthrie).

... Supruga ga pitala da kreira marketinšku kampanju na društvenim mrežama za njenu firmu. Dobila detaljan plan sa tabelarnim prikazom aktivnosti i vremenskim okvirima. S obzirom da je stručna za tu oblast, kaže da je napravljeno... pa, stručno. 😉

... Ja mu tražio predlog biznis plana za agenciju koja se bavi menadžmentom projekata. Šta sam tražio, to sam i dobio. 🤭

Rezime: Ovo je samo još jedan alat, sledeći nivo od Google Search (ili Stack Overflow Search/Copy/Paste 😛 ) koji sada "razume" kontekst i povezuje stvari.
A na nama je da dobijamo nove ideje za šta sve može da se iskoristi i gde može da pomogne. A mašta može svašta...
 
^
... Ćerka mu tražila da napiše nekoliko eseja na razne teme iz antičke filozofije, na srpskom i engleskom.
Iz tih tekstova sada lakše i brže shvata suštinu njihovih učenja, nego iz obimnog (i dosadnog) udžbenika "A History of Greek Philosophy" (W.K.C. Guthrie).

... Supruga ga pitala da kreira marketinšku kampanju na društvenim mrežama za njenu firmu. Dobila detaljan plan sa tabelarnim prikazom aktivnosti i vremenskim okvirima. S obzirom da je stručna za tu oblast, kaže da je napravljeno... pa, stručno. 😉

... Ja mu tražio predlog biznis plana za agenciju koja se bavi menadžmentom projekata. Šta sam tražio, to sam i dobio. 🤭

Rezime: Ovo je samo još jedan alat, sledeći nivo od Google Search (ili Stack Overflow Search/Copy/Paste 😛 ) koji sada "razume" kontekst i povezuje stvari.
A na nama je da dobijamo nove ideje za šta sve može da se iskoristi i gde može da pomogne. A mašta može svašta...
AI dajdzestovano "znanje i mudrost" za generacije sa approx 6 minuta paznje i koncentracije, idealno.
Kako se lozite *** strasno, kao da imate tri celije u lobanji...

BTW "A History of Greek Philosophy" od W.K.C. Guthrie-a je kapitalno delo od par soma strana a ne "dosadni udzbenik"!
Morace malo bolje da lazu ti nerdovi...
 
Za današnju omladinu je i Instagram preobiman, pa su prešli na TikTok. ;)
Ne verujem da je većina pročitala "par soma strana" za života.
Mnogi sada tvrde da je ovo kraj domaćih zadataka.

Pojavili su se i servisi koji analiziraju zadati tekst i ocenjuju da li je dobijen mašinski.
Međutim, ima i servisa koji zadati tekst parafraziraju a da zadrži isti smisao.
Kad se kroz to propusti, i ovi prvi sajtovi procene da je tekst "originalan". Igranka...
 
Poslednja izmena:
Ispada da se više nećemo razlikovati po znanju i umeću, već po tome ko bolje koristi servise za "lažiranje" tog znanja, a niko neće znati ništa. Odlično. Jedva čekam. ;)
 
Tja... evolucija. 🤔 Legenda o Marku Kraljeviću: "... Jedni govore da je Marko u pećinu pobjegao kad je prvi put vidio pušku i, pošavši da je ogleda (da li je istina da je onaka kao što se pripovijeda), probio iz nje sam sebi dlan, pa onda rekao: „Sad ne pomaže junaštvo, jer najgora rđa može ubiti najboljega junaka“.
 
Ispada da se više nećemo razlikovati po znanju i umeću, već po tome ko bolje koristi servise za "lažiranje" tog znanja, a niko neće znati ništa. Odlično. Jedva čekam. ;)
Programeri to odavno rade sa StackOverflow-om :D
 
... Ćerka mu tražila da napiše nekoliko eseja na razne teme iz antičke filozofije, na srpskom i engleskom.
Iz tih tekstova sada lakše i brže shvata suštinu njihovih učenja, nego iz obimnog (i dosadnog) udžbenika "A History of Greek Philosophy" (W.K.C. Guthrie).

Nemoj me pogrešno shvatiti, ali zaista mislim da ovo ne treba dopustiti, na ovaj način, tokom školovanja.

Poenta školovanja i obrazovanja nije da usvojimo te reprodukujemo informaciju i znanje.
Poenta je da razvijemo intelektualne sposobnosti dolaska do složenih spoznaja.
Poenta korišćenja "A History of Greek Philosophy" nije da se zna suština grčke filozofije (suština piše već u prvih par redova google pretrage), već da razvijemo naš intelekt, kongnitivne sposobnosti, da analizira takve složene inpute i da izvede suštinu. Ko na vreme razvije tu sposobnost, lako će je kasnije primeniti na bilo koju oblast.

Zašto deca u školama uče pesmice napamet? Da bi ih znali? Ne! Uče ih da razviju intelektualnu sposobnost mozga za takav posao.

Mozak jeste neka vrsta deep learning neuronske mreže. Psihologija je već decenijama sigurna, što je mozak opterećeniji, to sam sebe više razvija. Ako ga naučimo na samo servirane informacije, izgubićemo jedan ogroman potencijal koji smo razvijali milenijumima. A obzirom se stečene sposobnnosti ne prenose genetski, izgubićemo taj potencijal u jednoj generaciji. :(
Već sada ga ozbiljno gubimo. :( :(


... Supruga ga pitala da kreira marketinšku kampanju na društvenim mrežama za njenu firmu. Dobila detaljan plan sa tabelarnim prikazom aktivnosti i vremenskim okvirima. S obzirom da je stručna za tu oblast, kaže da je napravljeno... pa, stručno. 😉

... Ja mu tražio predlog biznis plana za agenciju koja se bavi menadžmentom projekata. Šta sam tražio, to sam i dobio. 🤭

Rezime: Ovo je samo još jedan alat, sledeći nivo od Google Search (ili Stack Overflow Search/Copy/Paste 😛 ) koji sada "razume" kontekst i povezuje stvari.
A na nama je da dobijamo nove ideje za šta sve može da se iskoristi i gde može da pomogne. A mašta može svašta...

Ovo si u pravu, koristiti, da. Ali samo iz ugla da nam pomogne, nama koji znamo. Ne da bude jedini spoznajni alat onima koji ne znaju.
 
Reagovaće sistem, svakako je današnje školstvo prevaziđeno decenijama unazad.

Analogno tome, danas firme moraju da reaguju na mogućnost da ljudi rade van kancelarije, čak neke i odakle god žele, jer tehnologija to omogućava. Samim tim treba da nađu druge načine da kvantifikuju produktivnost, od gledanja preko ramena. Moraće i školstvo da se prilagodi, tj. škole koje uspeju u tome će vredeti, druge neće ili će prestati da postoje.

Generacija X trlja ruke šta sve doživljava i kakvu transformaciju čovečanstva gledamo. Praktično od bušenog papira do AI.
 
Reagovaće sistem, svakako je današnje školstvo prevaziđeno decenijama unazad.
Moraće i školstvo da se prilagodi, tj. škole koje uspeju u tome će vredeti, druge neće ili će prestati da postoje.

Samo da ne bude da popularne škole napreduju, a kvailtetne ostanu u zapećku...
K'o sa vestima. Junk/celebrity/hoax toliko vladaju, da ćemo ili ukinuti slobodu govora, ili živeti na ravnoj ploči. :(
 
AI naziv je po meni... overrated. Posto sam u tom domenu, najbolje bi bilo reci da su u pitanju geometrija, linearna algebra i statistika 😁 Nazalost ne stizem da se bavim literaturom oko GPT da vidim sta su koristili, sigurno je jako zanimljivo... i "horse" power je verovatno ogroman, s obzirom na to sa kojom kolicinom podataka raspolaze jer je to language model, plus generise na osnovu postojecih iteracija.
O svesti takozvane AI po meni najbolje govori Yann LeCun, ima sa njim bezbroj intervjua o tome (inace je on jos osamdesetih pisao o neural networks, tako da one postoje dosta dugo). Ono sto je mozak u stanju da uradi sa naizgled jednostavnim zadatkom, za dostupnu tehnologiju danas je to nepostizivo. Rec je o brzini naseg procesora i nase memorije. Po meni moze da se stvori, ali onda kada budemo imali tehnologiju za to. Eto meni je za iteraciju 200 hiljada narudzbina (trazila sam da mi da preciznost koliko ce customer da stavi banane u korpu u sledecoj kupovini) sa 16GB rama lokalnih trebalo 6 sati koristeci algoritam koji je poprilicno brz i optimizovan o_O
 
Smisao, pa, dok ne dobiju svest (daleko bilo), neće biti ni razumevanja smisla.
Nama je profesor matematicke logike dokazao 1987. da algoritam za pravljenje algoritma ne postoji, tj da ne postoji
algoritam za dokazivanje valjanih formula matematicke logike. Sto ce reci da je strong AI na turingovoj masini
nemoguc. Posle je 1989. Penrouz izdao knjizu "Carev novi Um", koji tvrdi isto to...
Polaz za dokaz je Gedelova teorema nekompletnosti...
 
Penrouz je misljenja da svesnost ne ukljucuje racunanje, iliti computation na engleskom, s' obzirom da je njegova teorija kvantno-mehanicke prirode. Jos jedna veoma zanimljiva teorija svesnosti, pogotovo zbog toga sto, u ovom slucaju, imamo veoma malo znanja o tome kako funkcionise kvantni svet. Naravno, kao i sve ostale teorije svesnosti, i ova se ne moze trenutno eksperimentalno proveriti i dokazati.

Zato mi je i nelogicno zasto je Penrouzova teorija toliko skrajnuta kada je rec o diskusijama o tome sta je svesnost. Kao da je nemoguce da bioloska inteligencija moze funkcionisati na bazi kvantne mehanike. Niko to nije dokazao tako da, dok neko ne pobije njegovu teoriju, treba se gledati jednako kao i ostale teorije, koliko god nemoguce zvucala. Mislim, ako iskljucivo pratimo princip Okamove britve i njegova teorija kao i, recimo, teorija Dona Hoffmana koji svoju teoriju bazira na principima evolucije i govori o tome da je svesnost sve i svja (ako hocete nesto totalno drugacije i totalno ludo, poslusajte coveka ili procitajte njegovu knjigu The Case Against Reality), su elegantnije od vecine naturalistickih teorija koje se baziraju na tome da je svesnost rezultat iskljucivo fizickih procesa u mozgu.

Nego, da dam primer o tome koliko malo znamo o kvantnom svetu. Nima Arkani Hamed i njegovo otkrice amplituhedrona je dovelo u pitanje tvrdnju da je prostor-vreme kontinuum fundamentalan i da kvantna mehanika postuje principe lokalnosti i unitarnosti. Covek je uspeo, pomocu amplituhedrona, da optimizuje izracunavanje interakcija izmedju kvantnih cestica (kao, npr, dva elektrona). Pre su se za to racunanje koristile hiljade formula (tkz. Feynmanovih diagrama, neophodnih da bi se postovao princip unitarnosti) koje se, u vreme kada ih je Richard Feynman (jedan od najvecih imena u kvantnoj fizici) predlozio, nisu uopste mogle izracunati rucno. Trebali su nam kompjuteri da to odrade jer se za svaku interakciju moralo racunati hiljade dijagrama. Pomocu amplituhedrona se takva interakcija moze izracunati rucno, na parcetu papira, cak i kada su u pitanju vise od dve cestice. To je bukvalno sci-fi level optimizacije tog procesa.

Procitajte ovaj clanak, veoma je dobar i prikazuje sve ovo gore napisano na mnooogo bolji nacin: https://www.quantamagazine.org/physicists-discover-geometry-underlying-particle-physics-20130917/

Kada na tome dodamo to da je ovogodisnji Nobel za fiziku otisao naucnicima koji su eksperimentalno dokazali da je Belova teorema tacna, i da kvatna mehanika najverovatnije ne ukljucuje princip lokalnosti (mada, many worlds teorija kvantne mehanike kao i superdeterminizam i dalje drze lokalnost kao realnu mogucnost) dolazimo do zakljucka da je nase znanje o kvantnom svetu i o tome sta je "ispod" prostor-vremena ekstremno, ekstremno ograniceno. Na kraju, mi nemamo pojma sta cini 96 posto univerzuma ("stvari" koje se trenutno zovu mracna materija i energija), a takodje smo i veoma daleko od teorije koja ce spojiti gravitaciju sa ostalim fundamentalnim silama to jest Ajnstajnovu relativnost sa kvantnom mehanikom tkz. Grand Unification Theory.

Tako da, ako je Penrouz u pravu, svesnost je van domasaja trenutne nauke i da bi saznali sta je, u stvari svesnost, nase znanje o svetu i kvantnoj mehanici ce morati dobrano da napreduje, sto sam zakljucio i u proslom postu.

Sto se tice trenutnih AI modela, deep learning metod je, po meni, previse neoptimizovan, previse brute-force da bi rezultovao necim sto se cak i priblizno moze smatrati AGI (artificial general intelligence, sveti gral AI istrazivanja). Trebace nam nesto mnoooogo elegantnije da bi dosli do AI-ja koji nije samo optimizovan algoritam specijalizovan za ekstremno specificne zadatke. Ako uopste ikada dodjemo do toga. Ponavljam se, ali it is what it is.
 
Sa kvantnom sam se polako upoznavala citajuci Brian Greene-a, i fasciniralo me je koliko ustvari znamo, tj da su uspeli da izmere poziciju elektrona na osnovu drugog elektrona, ali opet oni samo postoje samo zato sto smo ih uocili i tehnicki postoje svuda u svakom momentu na tom nekom kvantnom tepihu, kao butterfly effect. Lol svasta sam ja razumela iz te knjige :LOL: . Da, spominjao je nasiroko Ajnstajnovu opsesiju da integrise relativnost sa kvantnom. Dozivecemo mozda da se to desi, mozda necemo. Iskreno nisam nikada cula da se ista kvantno spominje u domenu neuroscience, niti sam citala, hvala ti na preporuci.

Neural nets iliti Deep learning dostavljaju fascinantne rezultate na svim poljima. Njihova brzina i preciznost je neprikosnovena za danasnje pojmove. Ono sto meni moze da uradi jedan Perceptron zna nekada da bude daleko preciznije od na primer algoritma kao sto je sveta linerna regresija - najobicnija. Ono sto predstavlja manu kod neural nets je cinjenica da ne mozes da vidis ispod haube - ne mozes da vidis kako je doslo do tog rezultata tj ne mozes da vidis korake, eventualno da vizualizujes kako bi uneo neku ispravku, ona ti ga samo dostavi. A kod linearne, sve apsolutno znas, kao i kod svih ostalih supervised modela.

No, gledajuci malo ChatGPT, on pociva na supervised i reinforcement learning. Supervised znaci da neka vrednost mora da ima pratecu label, a reinforcement pociva na tome da algoritam sam "donosi odluke" na osnovu sistema nagrada i kazne (to zvuci previse ljudski, ali to su zapravo hiper parametri). Te labels su ljudi pravili. Znaci sedeli su jedni naspram drugih, jedan glumi chatGPT drugi odgovara, ovi sve beleze i tako vecno (mislim da je ovo verzija 5 koja je izasla, sto znac da imaju zigabajte podataka i iteracija). Onda oni pretvaraju te reci u vektore, pa na osnovu njih predvidjaju modele odgovora u vektorima, pa ih opet vracaju u reci i voila eto nama nas AI. Ako je dobro algoritam dobija nagradu, ako nije onda kaznu i onda on modifikuje na snovu tih brojki.

Po meni optimizacija nije toliki problem koliko je problem zavisnost od labels. Njih moraju ljudi obelezavati i to rade za neverovatno mizerne novce. Eto, ceo self-driving sistem pociva na hiljadama ljudi koji su sedeli i kliktali na slikama sta je znak, zebra, linija, zgrada, bankina, tocak. Radila sam iz radoznalosti takve stvari jer me je zanimalo odakle moji podaci dolaze. I to je i dalje preskupo i potrebno je mnogo vremena, necu ni da spominjem validnost podataka sto je tek problem u svakom statistickom smislu. Ono za sta se na primer ML I DL zajednica zalaze jeste rad na unapredjivanju unsupervised learning - to je vid ML gde ne trebaju labels vec algoritam sam pravi "skupove". To se danas na primer koristi kad imas posetioce na vebsajtu, ali nista posebno ne znas o njima osim te osnovne google analitike, i onda uzmes jedan unsupervised model, nahranis ga podacima svih tih ljudi sto imas, i on nadje pattern kod njih, i ti posle pravis smisao od toga. Trenutno je na tom nivou, koliko ja znam jer unsupervised koristim dosta retko. U ovom domenu svaki dan nesto novo o_O
 
Jedno pojašnjenje kako radi GPT, koga zanima...
 
Daleko je on od opstih stvari
 

Prilozi

  • Screenshot_2022-12-24-19-30-01-311_com.android.chrome.jpg
    Screenshot_2022-12-24-19-30-01-311_com.android.chrome.jpg
    54.2 KB · Pregleda: 215
Poslednja izmena:
Haha... dvostruki agent kao ovaj Nemac iz BND što je radio za Ruse... ;)
 
Nazad
Vrh Dno