blog.hu: "Mi lesz a szingularitás után? ...avagy kell-e nekünk az MI?"

Mi lesz a szingularitás után? ...avagy kell-e nekünk az MI?

A „Robotok elveszik a munkánkat?” és a szingularitás (az MI emberi intelligenciájának elérése) következményeiről, jóslatairól szóló tudományos cikkek egyre szaporodnak, a szakértők véleményei egyre közelebbi dátumot jövendölnek. Vajon átveszik a hatalmat az emberiség felett a gépek, vagy segíteni fogják a dinamikus fejlődést és a jólétet?

Érdekes témafelvetés és nyomán érdekes kommentek. Én sem álltam meg, hogy kommenteljek sajnos sok hibával, kutyafuttában, mert indult a buszom. Ezért itt most egy picit pontosítok, a lényeget megtartva.

Wikipédia: "Az emberi agyban becslés szerint 50–100 milliárd (109 milliárd) idegsejt, vagyis neuron van. Ezek között kb. 10 milliárd piramis alakú sejt, amelyek között élénk kapcsolat van kb. 100 billió szinaptikus érintkezési ponton keresztül."

Hardverben+szoftverben nem reprodukált még senki ekkora "agyi" teljesítményt. Sőt tulajdonképpen csak az agyműködés megértésétől is nagyon-nagyon messze van az emberiség, amire ugye minimálisan szükség lenne a reprodukáláshoz.

Az egyetlen "menekülő" út az lehetne, hogy találni kéne az emberi agyműködésnél lényegesen egyszerűbb (matematikai alapú) modellt, ami ugyanezt a teljesítményt tudja közvetíteni (hardveresen és szoftveresen). Amivel "mindössze" csak az a probléma, hogy az evolúció bár produkál feleslegesnek látszó dolgokat, de ekkora túlméretezést csak nem csinál, nem?

Azaz én inkább nem hinnék (nem valószínűsítenék), mint igen, hogy jelentős szimplifikálhatósági potenciál lenne a kérdéses matematikai alapú modellben (értsd: agynál lényegesen egyszerűbb akármilyen struktúra ki tudja váltani az agyat hasonló nívójú agyműködés érdekében): azaz csak szükség lehet közel ennyi neuronra, szinapszisra, közel hasonló komplexitásban.

Nekem a problémakör analógiában kicsit olyan, mint a tömörítés: hiába jönnek ki a jobb tömörítő algoritmusok/programok, bizonyos elméleti korlát alá sosem fognak menni a tömörítési-hatékonyságok, egy könyvet sosem zip-pelnek 1 byte-ba, A Csillagok háborúját HD-ben sosem írjuk ki egy CD-re. (Shannon információ-elmélet).

Az MI nagy állapottérben már most is rengeteg számolást tud elvégezni. Tud nagyon finoman hangolt - persze csak egyszerű reprezentációjú - outputot produkálni. De agyműködéshez hasonló komplex és egyúttal optimális "bitkergetést" távolról sem tud, és a hozzávezető út sem nagyon látszik a tudományterület robbanásszerű fejlődése ellenére sem.

Ami ijesztő inkább, hogy az a kevés, amit már most is tud az MI, már az is nagyon sok mindenre elég (lásd ugye legfrissebben Go-t, vagy korábban sakkot, vagy Watsont a Jeopardy-val).

Azonban az MI emberhez felérésének (és ezzel sérülékenységének kihasználásához), messze ez a legnehezebb út. Egy természeti- (klímaváltozás vagy meteor) vagy ember-generálta katasztrófa (háború) szvsz előbb kinyír minket. Főleg, ha azt is vesszük, hogy az emberiségnek nemcsak fejlettsége-szervezettsége ért el elképesző magas szintet, hanem a sérülékenysége. Míg egy ősember kacagva negligálhatott durvább klímaváltozást is, addig a ma nyugati társadalma 2 fokos globális átlaghőmérséklet-növekedésbe is nagyon besérülhet.

Arról már nem is beszélve, hogy az MI-problémát (ami ijesztő és amitől félünk) katonai szemmel lehet érdemes nézni. Atombombánál sem az a nagy gáz, hogy valaki faltól-falig megcsinálja (Észak-Koreának is rengeteg idő és pénz kellett hozzá, amíg eljutottak ki tudja meddig). Az a probléma, hogy pár "kézműves" terrorista lop plutóniumot és piszkos bombát csinál. Ahogy Amerikát sem tengeralattjárókkal támadták a legfejlettebb technológiával (2001.09.11-n), hanem pár fanatikus öngyilkos merénylővel. Sosem a legerősebb láncszemnél várható támadás, hanem olyan gyenge láncszemnél, amire akár oda sem figyel az ember.

Azaz a probléma veleje az, hogy a jelenlegi hatalmas tudású MI-t egyre laikusabb fanatisták/terroristák tudhatják egyre nagyobb pusztításra felhasználni.

Nem holnaptól vagy mától, hanem már símán mondhatjuk, hogy "tegnaptól".