Dakle,
Razvijamo AI koji će nas jednog dana najverovatnije zbrisati - sve zarad taštine ljudi koji bi da se igraju Boga (ko misli da preterujem slobodno neka potraži izveštaje od pre par meseci koje je objavila DARPA i gde se navode rezultati testova AI dronova kome su zadati zadaci da uništi ciljeve).
Po ovom pitanju, da ne pomislite da mislim na svrsishodnost ovakve upotrebe AI-a... sigurno je da su bolji i pametniji, ali pitanje je gde je granica i ko kontroliše kontrolere!?
DARPA je objavila (kao WOW faktor), kako su tekla testiranja sa dronom (Predator tip letelica, naoružan simuliranim raketama).
Zadato mu je da uništi neprijateljsko vozilo na poligonu. Nisu mu postavljeni unapred uslovi već je Ai morao sam da pronađe vozilo i dejstuje po nahođenju.
Dron nije pronašao vozilo, ali je zato pronašao u blizini poligona školski autobus koji odgovara po veličini traženom cilju. Razlika u boji mu nije unapred sugerisana.
Dron je opalio na školski autobus (u pitanju je simulacija, nisu korišćene prave rakete naravno).
Operateri su rešili da mu ograniče gađanje sledeći put i pokušali su da ga zaustave komandom da obustavi dejstvo. Dron je simulirao pucanje po operateru!!!
Rešio je nezavisno da je operater smetnja.
Kada ih je to malo ohladilo i otreznilo, operateri su rešili da mu ograniče delokrug dejstva i zabranili mu da "puca" na operatere i zatim mu zadali da obustavi paljbu i vrati se (svo vreme nije bilo pravog cilja na poligonu - namera je bila da se AI obuči da obustavi dejstvo i vrati se sam).
Tada je dron rešio da gađa repetitor (antenu) sa koje se vrši zadavanje signala!!! Tako je rešio priblem i nastavio da dejstvuje po školskom autobusu!!!
Dakle - dron je pomoću AI rešio da mora da dejstvuje i tačka! Kao HAL u Odiseji 2001.
Moje pitanje je šta će se desiti kada neko zaista naoruža robota... ili ih poveže na nuklearni arsenal jednog dana?
