Moram priznati da sam potpuno krivo shvaćao Chinese Room argument; a vidim, krivo ga shvaćaju i neki drugi:
[Standford Encyclopedia of Philosophy] http://plato.stanford.edu/entries/chinese-room/ "The Chinese Room argument, devised by John Searle, is an argument against the possibility of true artificial intelligence. "
Ne radi se o argumentu protiv mogućnosti postojanja umjetne inteligencije. Kineska soba je argument protiv teorije da je um [digitalno] računalo.
Ma daj...pa tko misli da je um digitalno računalo ?! Ako je točno to što si rekao, kineska soba je zaista glup argument jer demantira ono što nitko nikad nije ni mislio
"
Quote:
Strong AI" hipoteza kaže da je um prema mozgu ono što je softver prema hardveru; da je hardver implementacija turingovog stroja, a softver pravila (program) za turingov stroj.
Searle ilustrira da je kompjutacija (ono što se događa u računalu ili u Kineskoj sobi) stvar interpretacije, ne inherentno svojstvo sustava.
Kompjutacijom možemo prozvati praktički bilo što - recimo sustav špine i čaše u koju kapa voda je uređaj koji računa volumni integral.
Sve što Searle kaže je da ono što se događa u mozgu nije kompjutacija (osim konkretnih slučajeva kada zbrajamo dva broja ili slično).
Nego što je ako nije kompjutacija? Kako mozak razluči kada zbraja, a kada ne zbraja.
Quote:
Kasnije se spominje simulacija. Tu me malo izgubio. Kaže da, naravno, rad mozga se može simulirati, ali simulacija nije isto što i prava stvar; kao što simulacija leta nije let. Ne mislim da je baš najbolje razradio taj dio, a čini mi se bitan. Recimo, ako je moguće simulirati cijeli mozak, moguće je "upload" uma na računalo.
Ako se simulacija ni po čemu ne može razlikovati od originala, o čemu onda pričamo?
Ako entitet prolazi Turingov test on je svjesno biće jednako kao i mi.
Inače mislim da Searle-ov "kineski argument" ne tvrdi nužno da ono što se događa u mozgu nie (i) komputacija (jer jezik jest komputacijski sustav) već time nastoi ukazati na činjenicu da su um i inteligencija daleko više od komputacijskog programa 'instaliranog' na naš 'wetware'.
Mislim da Searle uopće ne razumije da to nitko ne tvrdi. Svi znaju da su um i inteligencija više od kompjuterskog programa.
Searle očito misli isključivo na digitalne kompjutere pod von Neumannovom arhitekturom, što je 'AI' stara 50 godina.
Danas je to bitno drukčije.
Quote:
Zapravo ono što on tvrdi (i što je očito točno) jest da programi funkcioniraju tako što manipuliraju simbolima (sintaksa) pri čemu isti za njih nemaju nikakvo značenje (semantiku), niti program razumije što radi, već naprosto manipulira simbolima onako kako je to programer predvidio. Nema razumijevanja, nema značenja i nema intencionalnosti.
To je jako smiješno, zapravo.
Machine learning je proces u kojem računalo iz uzorka i temeljem 'iskustva' uči pridavati određeno značenje ulaznom inputu...
On će znati da su a A aaa sve ista stvar i prepoznati ih kao slovo a.
Po čemu je to različito od kognitivnih procesa kojima uče i simbolički misle biološki organizmi?
Quote:
Pa recimo "kineska soba" simulira razumijevanje kineskog .. zar ne .. no očito je da time simulira samo krajnji ishod, te da osoba u sobi apsolutno ne razumije ni pitanja ni odgovore koje na njih daje
To vjerojatno zvuči logično samo onima koji u životu nisu riješili ni jednu jedinu jednadžbu
Kognitivna znanost i teorija svijesti nije nešto na što će deskriptivna i naivna filozofija dati odgovor.
Mislim da Searle uopće ne razumije da to nitko ne tvrdi. Svi znaju da su um i inteligencija više od kompjuterskog programa.
Vidim ti si informiran o filozofiji otprilike koliko i partizani četrdestreće
Quote:
Searle očito misli isključivo na digitalne kompjutere pod von Neumannovom arhitekturom, što je 'AI' stara 50 godina.
Danas je to bitno drukčije.
Reci ti nama .. kako je to danas
Quote:
To je jako smiješno, zapravo.
Machine learning je proces u kojem računalo iz uzorka i temeljem 'iskustva' uči pridavati određeno značenje ulaznom inputu...
On će znati da su a A aaa sve ista stvar i prepoznati ih kao slovo a.
Da .. raspoznat će varijacije istog formalnog simbola, pri čemu niti jedna od varijacija za njega neće imati nikakvo značenje, već će svaku varijaciju procesirati prema unaprijed zadanom kodu
Quote:
Po čemu je to različito od kognitivnih procesa kojima uče i simbolički misle biološki organizmi?
Pa otprilike u svakom pogledu .. za mene slovo 'a' može imati daleko više mogućih značenja. Ja za razliku od računala nisam limitiran linijama programa
Quote:
To vjerojatno zvuči logično samo onima koji u životu nisu riješili ni jednu jedinu jednadžbu
To nie argument
Quote:
Kognitivna znanost i teorija svijesti nije nešto na što će deskriptivna i naivna filozofija dati odgovor.
Baš si kognitivac .. tvrdnji k'o salate a argumenata ni od korova
Ako su tebi današnje neuronske mreže i evolucijski algoritmi isto kao i PC, nisam siguran da se isplati uopće raspravljati o AI....
Quote:
Da .. raspoznat će varijacije istog formalnog simbola, pri čemu niti jedna od varijacija za njega neće imati nikakvo značenje, već će svaku varijaciju procesirati prema unaprijed zadanom kodu
Ljudi tako isto percipiraju informacije, stvaraju simbole i pridaju im značenje prema unaprijed zadanom (genetskom) kodu. Ukoliko u tom kodu nešto ne valja, kognitivne sposobnosti čovjeka mogu biti slabe (retardacija npr).
Današnji AI radi na isti način. Uči. Uneseš mu samo simbol i kažeš da temeljem tog uzorka kad primi podražaj (informaciju) o nečemu što je dovoljno slično,pobudi taj simbol i prida mu isto značenje, odnosno prepozna ga kao takvog.
To je potpuno isto kao kod čovjeka ili životinje, samo razina kompleksnosti nije ista.
Quote:
Pa otprilike u svakom pogledu .. za mene slovo 'a' može imati daleko više mogućih značenja. Ja za razliku od računala nisam limitiran linijama programa
Pa nije baš ni pošteno natjecanje. Milijarde godina evolucije naspram manje od 50 godina.
Ok, odavno znamo da nas kompjuter pobjeđuje u šahu. Recimo da je to 'brute force' igra iako bi se i o tome dalo raspravljati. Konkretno, zanimljivo je kako šahovski softver ODLUČUJE koji potez povući. To NIJE UNAPRIJED ODREĐENO.
Mislim da to nisi baš najbolje razumio. Upravo sam odslušao njegova vlastita predavanja o "kineskoj sobi", i ništa slično tome on nie rekao.
Da sad ne prepričavam to vlastitim riječima, ustanovio sam da je sažetak na Wikipediji zapravo odličan .. pa evo što kaže:
The Chinese room is a thought experiment presented by John Searle.[1] Suppose that there is a program that gives a computer the ability to carry on an intelligent conversation in written Chinese. If we give the program to someone who speaks only English to execute the instructions of the program by hand, then, in theory, the English speaker would also be able to carry on a conversation in written Chinese. However, the English speaker would not be able to understand the conversation. Similarly, Searle concludes, a computer executing the program would not understand the conversation either.
Evo, to je bitan dio. Gledajte koja je moja kritika.
Da je on rekao, dat ćemo program nekom stroju, tko zna koliko kompliciranom, koji će mu dati mogućnost da komunicira na kineskom, i onda da pita: dobro, razumije li stroj (kad ima program) kineski, odgovor ne bi bio jednostavan. Ljudi bi rekli "ovisi kako je stroj konstruiran", "ovisi kako je program konstruiran", "ovisi što uopće znači riječ 'razumije'".
No njegov trik je da umjesto nekog stroja uzme čovjeka, i onda pita "razumije li čovjek kineski". E sad je svakom intuitivno jasno da "razumiješ" kineski samo ako shvatiš vezu između stvari u programu i onog što već znaš, dakle shvatiš da neka kineski simbol znači "stolica", i onda shvatiš o čemu se radi. Dakle, ti razumiješ kineski samo ako razumiješ čemu program služi i razumiješ njegove simbole i postupke.
Iz toga proizlazi da "razumijevanje" može proizaći samo iz "razumijevanja" i to baš na način kako ljudi "razumiju" -- barem ako je čovjek dio mehanizma, ali on to poopćuje na sve mehanizme.
Eto, to je njegov trik, a ovo je moja kritika.
Moje mišljenje je posve suprotno, sve se može matematički i numerički -- dakle, algoritamski -- modelirati, s većom ili manjom preciznošću. Od kretanja zvijezda u galaksiji do klime. Nema nikakve principijelne zapreke da napravimo program koji modelira svaki neuron i svaku vezu i točno simulira mozak.
E onda je pitanje, u čemu je potpuna simulacija mozga različita od samog mozga, koja je razlika kreću li se signali po neuronima ili ekvivalentni brojevi po memoriji računala, dakle -- funkcionalizam mora biti istinit.
Moje mišljenje je posve suprotno, sve se može matematički i numerički -- dakle, algoritamski -- modelirati, s većom ili manjom preciznošću. Od kretanja zvijezda u galaksiji do klime. Nema nikakve principijelne zapreke da napravimo program koji modelira svaki neuron i svaku vezu i točno simulira mozak.
E onda je pitanje, u čemu je potpuna simulacija mozga različita od samog mozga, koja je razlika kreću li se signali po neuronima ili ekvivalentni brojevi po memoriji računala, dakle -- funkcionalizam mora biti istinit.
Ti želiš da ti netko objasni kako može postojati nešto što se pomoću simbola ne može u potpunosti opisati. Budući da se svako objašnjenje i opis svodi na manipulaciju simbolima, ako netko misli da postoji nešto što se ne može u potpunosti svesti na simbole, onda se to ne može niti u potpunosti objasniti pa je ovakva diskusija posve besmislena jer se svodi na pobijanje uvjerenja koje nije bazirano na argumentima koji se mogu objasniti pomoću simbola.
Logika je bazirana na manipulaciji simbolima pa je jasno da logika ne može objasniti ono što se manipulacijom simbolima ne može objasniti. Zato daljnja diskusija treba biti na nivou koji je beyond logic, tj. u nekim višim misaonim sferama.
Ti želiš da ti netko objasni kako može postojati nešto što se pomoću simbola ne može u potpunosti opisati. Budući da se svako objašnjenje i opis svodi na manipulaciju simbolima, ako netko misli da postoji nešto što se ne može u potpunosti svesti na simbole, onda se to ne može niti u potpunosti objasniti pa je ovakva diskusija posve besmislena jer se svodi na pobijanje uvjerenja koje nije bazirano na argumentima koji se mogu objasniti pomoću simbola.
Logika je bazirana na manipulaciji simbolima pa je jasno da logika ne može objasniti ono što se manipulacijom simbolima ne može objasniti. Zato daljnja diskusija treba biti na nivou koji je beyond logic, tj. u nekim višim misaonim sferama.
Nema potreba za višim sferama. AI je postavka koja se na dugi rok može PROVJERITI.
Ukoliko se neki AI entitet ni po čemu ne može kognitivno razlikovati od npr. čovjeka, postavka je dokazana.
Nema potreba za višim sferama. AI je postavka koja se na dugi rok može PROVJERITI.
Ukoliko se neki AI entitet ni po čemu ne može kognitivno razlikovati od npr. čovjeka, postavka je dokazana.
AI će se uvijek razlikovati od čovjeka jer AI je AI, a čovjek je čovjek. Onome tko je u višim misaonim sferama je to dovoljan argument da povjeruje u šta god hoće.
Ti želiš da ti netko objasni kako može postojati nešto što se pomoću simbola ne može u potpunosti opisati. Budući da se svako objašnjenje i opis svodi na manipulaciju simbolima, ako netko misli da postoji nešto što se ne može u potpunosti svesti na simbole, onda se to ne može niti u potpunosti objasniti pa je ovakva diskusija posve besmislena jer se svodi na pobijanje uvjerenja koje nije bazirano na argumentima koji se mogu objasniti pomoću simbola. .
Ne, ne želim. Ako je razumjevanje kineskog rezultat rada neurona, tada ili pojedini neuroni imaju magično svojstvo da "razumiju" ili razumijevanje dolazi kao rezultat načina na koji su povezani i njihovih pojedinih svojstava (kako obrađuju signale s tih veza).
Onda se to u principu može izvesti i (dovoljno jakim) računalom, a način na koji računalo simulira neurone i njihove veze je u principu Searleova knjiga s uputama -- tj. računalni program.
Argument da to nije isto -- prava stvar i simulacija -- je kao da kažeš da je Rat i mir samo knjiga a ako ga čitaš na iPadu ili običnom računalo to nije to, nego samo izgleda kao Rat i mir.
AI će se uvijek razlikovati od čovjeka jer AI je AI, a čovjek je čovjek. Onome tko je u višim misaonim sferama je to dovoljan argument da povjeruje u šta god hoće.
Nisi me dobro shvatio. Nisam rekao da će čovjek biti isto kao AI. Samo sam rekao da će biti u istoj kategoriji.
Isto kao što sutra majmuni mogu evoluirati da budu neusporedivo pametniji i svjesniji od čovjeka, oni time neće postati ljudi, nego će i dalje biti majmuni, samo puno napredniji od ljudi.
Isto vrijedi i za AI.
Ukoliko je zaista moguće napraviti pravi AI, a nema nikakvih poznatih prepreka u zakonima prirode za takvo nešto, pretpostavka je da će se ljudi ionako fuzirati sa AI.
Nema potreba za višim sferama. AI je postavka koja se na dugi rok može PROVJERITI.
Ukoliko se neki AI entitet ni po čemu ne može kognitivno razlikovati od npr. čovjeka, postavka je dokazana.
Tu imaš problem dokazivanja tog razlikovanja. Npr. Searlov argument kineske sobe pokazuje zašto Turingov test nije dovoljan.
Naravno da je AI neka vrsta inteligencije već danas, ali problem je može li postići ljudsku inteligenciju ili dovoljno sličnu. Može li postići npr. razumijevanje u punom smislu te riječi.
Ne, ne želim. Ako je razumjevanje kineskog rezultat rada neurona, tada ili pojedini neuroni imaju magično svojstvo da "razumiju" ili razumijevanje dolazi kao rezultat načina na koji su povezani i njihovih pojedinih svojstava (kako obrađuju signale s tih veza).
S tim se slažem. U globalu, jel.
Quote:
Daniel.N kaže:
Onda se to u principu može izvesti i (dovoljno jakim) računalom, a način na koji računalo simulira neurone i njihove veze je u principu Searleova knjiga s uputama -- tj. računalni program.
S ovim ne. Tj. ne nužno, ne kažem da ne može biti točno, ali ne mora. Searle kineskom sobom daje argument kako digitalno računalo ne može imati um i mentalna stanja, iako se može ponašati da ga ima (primjer čovjeka koji se ponaša kao da razumije kineski, kad ga u stvari ne razumije).
Searle argumentira misao da mentalna stanja i svijest zahtjevaju fizikalno-kemijske odlike ljudskog mozga te da se one ne mogu replicirati u punini na digitalnom binarnom kodu, nulama i jedinicama.
Odnosno mozak je kompliciraniji nego što mislimo te skriva mehanizme koji nam trenutno bježe i tek trebaju biti otkriveni. Još smo udaljeni od potpunog razumijevanja rada neurona i mozga da bi ih mogli vjerno replicirati.
Ne, ne želim. Ako je razumjevanje kineskog rezultat rada neurona, tada ili pojedini neuroni imaju magično svojstvo da "razumiju" ili razumijevanje dolazi kao rezultat načina na koji su povezani i njihovih pojedinih svojstava (kako obrađuju signale s tih veza).
Onda se to u principu može izvesti i (dovoljno jakim) računalom, a način na koji računalo simulira neurone i njihove veze je u principu Searleova knjiga s uputama -- tj. računalni program.
Joj trebao bih se suzdržati od komentara, ali jednostavno ne mogu.
Da, to je 'u principu' tako. Kad bi se mozak u cjelini doslovno 'simulirao' računalom, onda nema razloga zašto ta simulacija ne bi imala sva svojstva koja ima i mozak, uključujući i sposobnost 'razumijevanja'.
Drugo je pitanje odakle ideja da ćemo mi takvu simulaciju uspjeti sastaviti. Treće je pitanje, zašto bismo to uopće radili. Ovo što ti i wand_1 pričate nema veze s vezom; današnji napori konstrukcije AI-ja uopće ne idu ka simulaciji ljudskolike samosvjesne inteligencije, nego nečega posve različitog. Ni neuronske mreže ni genetski algoritmi nisu izmišljeni s tim ciljem (osim eventualno kod malobrojnih entuzijasta, recimo). No, 'praktični' razlozi istraživanja AI-ja su ti da se konstruiraju strojevi koji će moći samostalno izvoditi mnogo kompliciranije radnje od onih koje danas izvode, te da će biti otporniji na greške i iziskivati manje održavanja. A nije 'cilj' razvijanja AI-ja dobiti 'umjetnu osobu' po uzoru na lt. cmdr. Data, ili onog doktora-holograma iz Voyagera.
Inače, današnje neuronske mreže uglavnom nisu 'plastične', a mozak jest, i to izrazito. Dakako, postoje napori da se takve mreže naprave, recimo evo naletjeh na jedno istraživanje o tome - priznajem, pol toga ne kužim, osim na posve apstraktnoj razini. No, evo što oni sami kažu o tome:
While great progress has been made in characterizing these mechanisms individually, we only have a poor understanding of how they work together at the network level. In a non-linear system like the brain, any local change to, say, a synaptic efficacy potentially alters the pattern of activity at the level of the entire network and may induce further plastic changes to it. To investigate these processes, recent methods for observing the activities of large populations of neurons simultaneously need to be combined with careful measurements of the evolution of their synaptic and intrinsic properties – a formidable task for experimental neuroscience.
Ja evo smatram da to nije samo 'formidable task' - nego jednostavno taks koji nadilazi naše kognitivne kapacitete, jer upravo uz pomoć TIH naših kognitivnih kapaciteta, mi pokušavamo shvatiti kako oni zapravo funkcioniraju! Ne znam, meni to intuitivno zvuči nemoguće - kao npr. perpetuum mobile prve vrste. Kako može neki kognitivni kapacitet biti 'dovoljan' da u totalitetu 'razumije' funkcioniranje samog tog (svog) kognitivnog kapaciteta? To meni zvuči kao prilično čudan optimizam u nadilaženju svojih inherentnih ograničenja.
Searle argumentira misao da mentalna stanja i svijest zahtjevaju fizikalno-kemijske odlike ljudskog mozga te da se one ne mogu replicirati u punini na digitalnom binarnom kodu, nulama i jedinicama.
Odnosno mozak je kompliciraniji nego što mislimo te skriva mehanizme koji nam trenutno bježe i tek trebaju biti otkriveni. Još smo udaljeni od potpunog razumijevanja rada neurona i mozga da bi ih mogli vjerno replicirati.
Možda je preciznije reći da mi danas nemamo razloga da bilo jednu, bilo drugu pretpostavku smatramo bogzna kako dobro utemeljenom. Možda je 'moguće' plastičnost mozga potpuno 'simulirati' i izvan konkretne biokemije mozga, a možda i nije. A i ako jest, mi još nismo ni blizu toga da takvo nešto postignemo. Čudi me optimizam nekih ljudi koji se time bave. Čudi me i ponos zbog tog optimizma.
Dakle, tako nešto. Searle koliko sam točno gledao njegova video-predavanja () želi reći i da su neki kognitivisti zapravo podcijenili mozak kad su ga usporedili s digitalnim računalom, mozak je izgleda puno više od toga. Kao da se današnje digitalno računalo pokuša usporediti s najjednostanijim abakusom i preko tog abakusa želi simulirati sve mogućnosti današnjeg digitalnog računala, a i ta usporedba je možda preslaba kad se želi naglasiti koliko je mozak kompliciraniji od principa rada današnjeg digitalnog računala.
Uostalom izgleda da neuroni funkcioniraju po analognom, ne digitalnom principu, pogledajte ovo:
Tu imaš problem dokazivanja tog razlikovanja. Npr. Searlov argument kineske sobe pokazuje zašto Turingov test nije dovoljan.
Ali to uopće nije argument. Ako se A ni po čemu ne može razlikovati od B, onda je A=B.
Ukoliko stroj stvarno ne razumije neki pojam, to mora biti moguće otkriti nekim testom.
Inače je potpuno nebitno. Otkud znaš da student koji je ispit položio s 5 zaista razumije što je naučio, ili samo simulira i replicira?
Searlov argument kaže da je teoretski moguće izvršavati niz instrukcija i riješiti problem bez obzira na to što ga ne razumiješ. To je krajnja relativizacija i može vrijediti za svaki entitet uključujući čovjeka.
Kako onda Turingov test ne bi bio dovoljan? Sve se bazira na dokazu, na provjerljivosti.
Možeš i ti sada izmisliti argument po kojem je svako razumijevanje samo iluzija, ali ako ga ne možeš testirati, argument ti je slabašan.
Quote:
Naravno da je AI neka vrsta inteligencije već danas, ali problem je može li postići ljudsku inteligenciju ili dovoljno sličnu. Može li postići npr. razumijevanje u punom smislu te riječi
Ne znam ja može li, ali u zakonima prirode nema ništa što bi to priječilo.
Jasno vidimo da druge životinje isto tako posjeduju inteligenciju i svijest, svaka sukladno tome koliko joj je razvijen kognitivni sustav. To je nedvojbeno niži stupanj od nas, ali je evidentno da se sve bazira na istim prirodnim zakonitostima.
Samo naivan čovjek može misliti da je skup molekula ugljika kao što smo mi privilegiran u odnosu na neki drugi skup molekula ugljika.
Imaš li razloga misliti da bi vjerna replika tebe, sagrađena iz nule, atom po atom bila na neki način neinteligentna i nesvjesna?
Možda je preciznije reći da mi danas nemamo razloga da bilo jednu, bilo drugu pretpostavku smatramo bogzna kako dobro utemeljenom. Možda je 'moguće' plastičnost mozga potpuno 'simulirati' i izvan konkretne biokemije mozga, a možda i nije. A i ako jest, mi još nismo ni blizu toga da takvo nešto postignemo. Čudi me optimizam nekih ljudi koji se time bave. Čudi me i ponos zbog tog optimizma.
Jep, složio bi se. Za to bi trebali imati neka puno "luđa" računala, nego što ih imamo danas i to ne samo po pitanju procesorske snage, nego i fundementalnog načina funkcioniranja, što ne znači da takva nazovimo ih super-računala neće jednog dana i postojati.
Što bi značilo, funkcionalizam u ovom smislu je točan, ali alati kojima raspolaže nisu dovoljno dobri. Za to bi nam trebala računala s nanobotima koji grade novi hardware i mijenjaju internu strukturu računala kao da je od plastelina, što bi koliko-toliko smuliralo plastičnost mozga, itd., itd.
A možda funkcionalizam sam po sebi u ovom slučaju ima nepremostiva ograničenja.
Dakle, tako nešto. Searle koliko sam točno gledao njegova video-predavanja () želi reći i da su neki kognitivisti zapravo podcijenili mozak kad su ga usporedili s digitalnim računalom, mozak je izgleda puno više od toga. Kao da se današnje digitalno računalo pokuša usporediti s najjednostanijim abakusom i preko tog abakusa želi simulirati sve mogućnosti današnjeg digitalnog računala, a i ta usporedba je možda preslaba kad se želi naglasiti koliko je mozak kompliciraniji od principa rada današnjeg digitalnog računala.
Zapravo nije to klasično 'podcjenjivanje', nego meni poprilično apsurdan paradoks.
S jedne strane 'podcjenjuju' kompliciranost mozga, a kao da pri tome doslovno *zaborave* da točno uz pomoć tog istog mozga - oni upravo i operiraju! Znači, to je istovremeno podcjenjivanje mozga, a precjenjivanje kognitivnih kapaciteta tog istog mozga, kojeg podcjenjuju. Meni je to interesantno razmatrati na psihološkoj razini. Kakvu točno 'priču' sebi pričaju ti neuroznanstvenici?
Ali to uopće nije argument. Ako se A ni po čemu ne može razlikovati od B, onda je A=B.
Searle možda nije u pravu, ali nije budala.
Možemo reći ako se A ne razlikuje od B tada A=B. Ali ako netko, negdje ne može razlikovati A od B, tada A nije nužno jednako B, nego su strategije razlikovanja možda jednostavno slabe.
Quote:
wand_1 kaže:
Ukoliko stroj stvarno ne razumije neki pojam, to mora biti moguće otkriti nekim testom.
Konstruirati takav test danas, koji bi bio dovoljno osjetljiv, pouzdan i objektivan, je veliki problem.
Quote:
wand_1 kaže:
Inače je potpuno nebitno. Otkud znaš da student koji je ispit položio s 5 zaista razumije što je naučio, ili samo simulira i replicira?
Ovo je zanimljivo pitanje i možda neki kontra-argument Searlu: "Hej, možda smo prestrogi prema AI, tko zna jesmo li i sami svijesni i inteligentni, kad je možda naša vlastita svijest i inteligencija samo masivna iluzija." Na stranu to, istina taj student je možda sve nabiflao napamet ili koristio šalabahter, a možda su i svi ljudi neinteligentne binarne mašine pa nas neki Descartesov demon zavarava da smo nešto više, ali ovdje nisu ljudi na sudu, za koje se iz nekih drugih argumenata pretpostavlja da imaju svijest i inteligenciju, nego mašine.
Quote:
wand_1 kaže:
Searlov argument kaže da je teoretski moguće izvršavati niz instrukcija i riješiti problem bez obzira na to što ga ne razumiješ. To je krajnja relativizacija i može vrijediti za svaki entitet uključujući čovjeka.
Kako onda Turingov test ne bi bio dovoljan? Sve se bazira na dokazu, na provjerljivosti.
Kineska soba dobro pokazuje zašto Turingov test nije dovoljan. Pa i sam Turing nije smatrao da je taj njegov test zadnja riječ.
Quote:
wand_1 kaže:
Ne znam ja može li, ali u zakonima prirode nema ništa što bi to priječilo.
Istina, nema, ali niti smo zakone prirode razjasnili u totalitetu, niti ljudski mozak i njegove načine funckioniranja da bi imali doista uvjerljivu simulaciju.
Quote:
wand_1 kaže:
Jasno vidimo da druge životinje isto tako posjeduju inteligenciju i svijest, svaka sukladno tome koliko joj je razvijen kognitivni sustav. To je nedvojbeno niži stupanj od nas, ali je evidentno da se sve bazira na istim prirodnim zakonitostima.
Da i kognitivni sustavi svih tih vrsta se baziraju na sličnom bio-kemijskom sustavu koji se podosta razlikuje od današnjeg digitalnog računala. Istina, nekima će ova riječ podosta stvarati problem.
Quote:
wand_1 kaže:
Samo naivan čovjek može misliti da je skup molekula ugljika kao što smo mi privilegiran u odnosu na neki drugi skup molekula ugljika.
Ne znam što bi na ovo odgovorio.
Quote:
wand_1 kaže:
Imaš li razloga misliti da bi vjerna replika tebe, sagrađena iz nule, atom po atom bila na neki način neinteligentna i nesvjesna?
Ne, ali moja misao uopće ne ide u tom smjeru, a i Searl želi poentirati nešto sasvim drukčije o čemu je Shamantrixx već pisao par stranica prije.
Ali to uopće nije argument. Ako se A ni po čemu ne može razlikovati od B, onda je A=B.
Ukoliko stroj stvarno ne razumije neki pojam, to mora biti moguće otkriti nekim testom.
Kako točno dolaziš do ove gore tvrdnje? Zašto bi to 'moralo' biti moguće otkriti nekakvim 'testom'? Tko će taj test formulirati? Odakle znaš da će taj test vjerno identificirati postoji zbilja nekakva razlika između A i B? Čemu takvo krajnje pojednostavljivanje nečega što je užasno kompleksno I komplicirano?
Quote:
wand_1 kaže:
Inače je potpuno nebitno. Otkud znaš da student koji je ispit položio s 5 zaista razumije što je naučio, ili samo simulira i replicira?
Ne znaš. Ocjene nisu pouzdana indikacija nečijeg razumijevanja gradiva, niti postoje takvi 'testovi' koji nepogrešivo ustanovljavaju nečije razumijevanje ičega. Dakle, to vrijedi čak i u slučaju nekog razmjerno jednostavnog gradiva kao što je npr. elektronika. A kamoli u slučaju funkcioniranja ljudskog 'razumijevanja' - ergo, nečega što nitko danas ne razumije kako funkcionira, niti imamo razloga pretpostavljati da ćemo to ikada 'shvatiti'.
Rekoh, čudi me tvoj optimizam glede toga.
Quote:
wand_1 kaže:
Searlov argument kaže da je teoretski moguće izvršavati niz instrukcija i riješiti problem bez obzira na to što ga ne razumiješ. To je krajnja relativizacija i može vrijediti za svaki entitet uključujući čovjeka.
Nije to nikakva relativizacija, nego argument protiv algoritamskog shvaćanja pojma 'razumjeti' nešto.
Quote:
wand_1 kaže:
Kako onda Turingov test ne bi bio dovoljan? Sve se bazira na dokazu, na provjerljivosti.
Ne, ne bazira se. Dokazi i provjerljivost su nešto što samo po sebi ne znače ništa, bez inteligencije koja će dotične interpretirati, tj. 'razumjeti'. Prema tome, ne možeš 'dokaze i provjerljivost' smatrati nadređenima samoj sposobnosti 'razumijevanja' istih. Limit 'dokaza' je upravo ograničenost ljudskih kognitivnih kapaciteta.
Quote:
wand_1 kaže:
Možeš i ti sada izmisliti argument po kojem je svako razumijevanje samo iluzija, ali ako ga ne možeš testirati, argument ti je slabašan.
Nije, slabašna je tvoja argumentacija (tj. zapravo i nemaš argumentaciju) da je jedino 'test' ono što je bitno. Ničime nisi dokazao da je jedino 'test' nešto što dovodi do spoznaje nečega. Kao što zapravo lijepo ilustrira tvoj gornji primjer: netko tko dobije 5 iz nekog testa, možda ne razumije kurca, nego samo shematizira, heuristički 'nabode' ispravno rješenje. Ili ga 'zna' napamet, bez ikakvog razumijevanja. Isto vrijedi i za sve druge vrste 'testova' kojima podvrgneš umjetnu ili prirodnu inteligenciju.
Quote:
wand_1 kaže:
Ne znam ja može li, ali u zakonima prirode nema ništa što bi to priječilo.
S ovim se većina ovdje slaže. Nema u zakonima prirode ništa što bi to priječilo, no to je iznimno jadan argument u prilog toga da ćemo MI 'shvatiti' kako to funkcionira.
Quote:
wand_1 kaže:
Jasno vidimo da druge životinje isto tako posjeduju inteligenciju i svijest, svaka sukladno tome koliko joj je razvijen kognitivni sustav. To je nedvojbeno niži stupanj od nas, ali je evidentno da se sve bazira na istim prirodnim zakonitostima.
Tako je, samo što taj argument ne pokazuje mnogo.
Quote:
wand_1 kaže:
Samo naivan čovjek može misliti da je skup molekula ugljika kao što smo mi privilegiran u odnosu na neki drugi skup molekula ugljika.
Da ponovimo: nemam dojam da diskutanti na ovom topiku takvo nešto misle. Nego mi se prije čini da ti ne razumiješ kontra-argumentaciju, pa 'pobijaš' tvrdnje koje nitko zapravo ovdje ne zastupa.
Quote:
wand_1 kaže:
Imaš li razloga misliti da bi vjerna replika tebe, sagrađena iz nule, atom po atom bila na neki način neinteligentna i nesvjesna?
Po svemu sudeći bi bila ekvivalentna, da. No, čak i da postoji tehnologija koja bi takvo nešto omogućavala (kao teleporter u Star Treku) to ne znači da bismo mi automatski 'razumjeli' kako funkcionira um te vjerne replike. Jer ne razumijemo ni original.
No, evo što oni sami kažu o tome:
Znači, to je istovremeno podcjenjivanje mozga, a precjenjivanje kognitivnih kapaciteta tog istog mozga, kojeg podcjenjuju. Meni je to interesantno razmatrati na psihološkoj razini. Kakvu točno 'priču' sebi pričaju ti neuroznanstvenici?
Linearni mod
