Argument kineske sobe

[g4gfact0r]

http://en.wikipedia.org/wiki/Chinese_room_argument

je li moguce dokazati kod ljudi da netko razumije ili ne razumije ono o cemu prica. ili covjek uvijek radi po algoritmu bez razumijevanja? (u ovom slucaju dokazati da covjek razumije jezik kojime prica)

a ako nije moguce kod ljudi zasto inzistirati na tome kod mashine?

[Davor000]

Razumijevanje je pojam za koji je nužno razumijevanje. Drugim riječima, da bi shvatio koncept razumijevanja, moraš moći razumjeti. Dakle, čovjek razumije i postoje brojni načini kako dokazati da razumije nešto. Isto, jasna stvar, vrijedi i za stroj samo što strojevi nisu na toj razini razvoja premda ništa ne iskuljučuje da bi mogli jednog dana razumjeti.

Chinese room argument je uvijek bio primjer lošeg argumenta. Ljudski mozak je stroj pa razumije, a taj argument bi to trebao opovrgnuti. Po Searlu čovjek očito ima neki "magic goo" u glavi koji ga ne čini strojem. Moš' misliti.

Mislim, to je klasičan problem semantike i sintakse kakvim ga Searle shvaća. Možeš gledati mozak i nigdje nećeš naći značenje nečega, bol, ljubav i sl. Naravno, mislim da je to čista besmislica jer bol, ljubav itd. nisu intrinzična svojstva nečega, nego relacijska. Ako nešto čini tebe da voliš nešto, to nije zato što to ima intrinzično svojstvo koje tako djeluje, nego upravo zato što se tako ponašaš prema danom objektu.

Kada bi netko gledao u mozak i dešifrirao Fodorov Language of thought trebao bi nekako moći znati što subjekt čiji mozak promatra misli. Međutim, svaki dio koji interpretiraš kao recimo "modul za pamćenje telefonskih brojeva" u mozgu, interpretiraš ga ne po tome što je to tako zapisano u mozgu, nego po tome koju ulogu ima u životu subjekta. Dakle, nije u mozgu zapisana reprezentacija nečega, nego je to reprezentacija nečega po vrlini toga koju bihevioralnu ulogu ima u nečijem životu.

Usput, ovaj argument (Chinese room) je zapravo dao Leibniz o vjetrenjači nekoliko stotina godina prije.

[shamantrixx]

Davor000 kaže:

Razumijevanje je pojam za koji je nužno razumijevanje. Drugim riječima, da bi shvatio koncept razumijevanja, moraš moći razumjeti. Dakle, čovjek razumije i postoje brojni načini kako dokazati da razumije nešto. Isto, jasna stvar, vrijedi i za stroj samo što strojevi nisu na toj razini razvoja premda ništa ne iskuljučuje da bi mogli jednog dana razumjeti.

Chinese room argument je uvijek bio primjer lošeg argumenta. Ljudski mozak je stroj pa razumije, a taj argument bi to trebao opovrgnuti. Po Searlu čovjek očito ima neki "magic goo" u glavi koji ga ne čini strojem. Moš' misliti.

Mislim da trebaš još jednom pročitat izvorni argument. Ti si to malo naopako shvatio, jer Searle ne govori ništa o ljudima... on samo govori da stroj koi prevodi s engleskog na kineski očito NE ZNA kineski... on samo koristi algoritam za prevođenje bez da razumije što prevodi.

Ako odgovara na pitanja po unaprijed programiranom obrascu, on će ostaviti dojam da govori kineski, iako to očito nie slučaj.

Time zapravo govori da ne postoi realna opcija stvaranja umjetne inteligencije sa sposobnošću razmišljanja i razumijevanja...

Searle argues that without "understanding" (what philosophers call "intentionality"), we cannot describe what the machine is doing as "thinking". Because it does not think, it does not have a "mind" in anything like the normal sense of the word, according to Searle. Therefore, he concludes, "strong AI" is mistaken.

A ostatak tvog posta je očito tvoja osobna projekcija nečega što sa samim eksperimentom i konzekventnim argumentom nema nikakve veze!

[shamantrixx]

Davor000 kaže:

Usput, ovaj argument (Chinese room) je zapravo dao Leibniz o vjetrenjači nekoliko stotina godina prije.

Tek sad ovo vidim...

...molim te pročitaj ponovo izvorni argument. Nie moguće da je Leibniz rekao bilo što iz te perspektive.

[shamantrixx]

g4gfact0r kaže:

je li moguce dokazati kod ljudi da netko razumije ili ne razumije ono o cemu prica.

Jest. Moguće je!

Tj. ukoliko nešto razumiješ, to možeš demonstrirati na bezbroj načina, te time dokazati da razumiješ. Ukoliko tvrdiš da razumiješ, a odbiješ to demonstrirati, mi tada možemo zaključiti da ne razumiješ, i uzeti to kao praktičnu pretpostavku.

Dokaz o nerazumijevanju ipak nie moguće dati na znanstvenoj osnovi, ali na praktičnoj je to vrlo jednostavno, jer ljudi svakodnevno dokazuju svoje nerazumijevanje... većina čim zine.

[milelogara]

Davor000 kaže:

Razumijevanje je pojam za koji je nužno razumijevanje. Drugim riječima, da bi shvatio koncept razumijevanja, moraš moći razumjeti. Dakle, čovjek razumije i postoje brojni načini kako dokazati da razumije nešto. Isto, jasna stvar, vrijedi i za stroj samo što strojevi nisu na toj razini razvoja premda ništa ne iskuljučuje da bi mogli jednog dana razumjeti.

Chinese room argument je uvijek bio primjer lošeg argumenta. Ljudski mozak je stroj pa razumije, a taj argument bi to trebao opovrgnuti. Po Searlu čovjek očito ima neki "magic goo" u glavi koji ga ne čini strojem. Moš' misliti.

Mislim, to je klasičan problem semantike i sintakse kakvim ga Searle shvaća. Možeš gledati mozak i nigdje nećeš naći značenje nečega, bol, ljubav i sl. Naravno, mislim da je to čista besmislica jer bol, ljubav itd. nisu intrinzična svojstva nečega, nego relacijska. Ako nešto čini tebe da voliš nešto, to nije zato što to ima intrinzično svojstvo koje tako djeluje, nego upravo zato što se tako ponašaš prema danom objektu.

Kada bi netko gledao u mozak i dešifrirao Fodorov Language of thought trebao bi nekako moći znati što subjekt čiji mozak promatra misli. Međutim, svaki dio koji interpretiraš kao recimo "modul za pamćenje telefonskih brojeva" u mozgu, interpretiraš ga ne po tome što je to tako zapisano u mozgu, nego po tome koju ulogu ima u životu subjekta. Dakle, nije u mozgu zapisana reprezentacija nečega, nego je to reprezentacija nečega po vrlini toga koju bihevioralnu ulogu ima u nečijem životu.

Usput, ovaj argument (Chinese room) je zapravo dao Leibniz o vjetrenjači nekoliko stotina godina prije.

Neloš post, ovdje sam nov, pa ako je citiranje nakaradno, unaprijed me ispričajte. Svejedno, par stvari si mogao i bolje reći, recimo prva rečenice izgleda kao školski primjer tautologije (koju si kasnije razjasnio, bar onima kojima je po defaultu jasno razlikovanje nužnog i dostatnog, al svejedno)
Druga stvar, čini mi se da ovo nije predaleko od Kuhna (zanemarimo paradigme ), pojam nesumjerljivosti izgleda upotrebljiv u ovoj 'diskusiji', čini mi se kao bolji kod razjašnjavanja razumijevanja, bez tautoloških implikacija (iako ima neke druge, koje su off topic ). Toliko za sada, da ne pišem kilometarski post, ako je tema bez zainteresiranih.

[g4gfact0r]

shamantrixx kaže:

Dokaz o nerazumijevanju ipak nie moguće dati na znanstvenoj osnovi, ali na praktičnoj je to vrlo jednostavno, jer ljudi svakodnevno dokazuju svoje nerazumijevanje... većina čim zine.

kako bi ja dokazao npr da ti razumiješ hrvatski jezik . mozda samo prevodis sa Zanzibarskog na hrvatski po unaprijed danom algoritmu. uz pomoc hrvatskog rijecnika i gramatike. bez da ista [hrvatskog] razumiješ.

[red_shrike]

Problem kod AI je u toem da se ovaj argument sa Kineskom sobom koristi za one jake AI koje zapravo rade isključivo na metodi koji je zagovarao Turing, a to je da AI mora biti sposobna razgovarati na jednak način čovjeku. AI opisana u Kineskoj sobi zapravo nije AI niti približno već najobičniji algoritam. AI je tehnički govoreći zapravo "računalno razmišljanje", te time sama AI mora imati neke određene sposobnosti kao što su učenje (pa i učiti kako učiti) te iznosti zaključke na temelju nedovoljno informacija.
Naravno, problem kod jake AI je u tome što zapravo nitk nezna što bi to "inteligencija" trebala uopće biti i kako ona funkcionira. Dok se problem oko te inteligencije i njene točne definicije i kako se ona očituje ne riješi, do tada je besmisleno davati ikakve izjave o tome da li je stroj inteligentan ili ne (jer ultimativno nemožeš niti za sebe reći da si inteligentan, možda se uistinu vrtiš u beskonačnoj petlji sa zanzibarskog na hrvatski).
Nadalje, zašto bi uopće AI trebala biti identična ljudima i misliti na isti način? Avion i ptica oboje lete, ali to rade na potpuno drugačiji način. Da li je krivo onda reći da avion leti jer ne radi to kao ptica (koja je živa i bila tu puno prije)?

[Cocaine Nights]

shamantrixx kaže:

Dokaz o nerazumijevanju ipak nie moguće dati na znanstvenoj osnovi, ali na praktičnoj je to vrlo jednostavno, jer ljudi svakodnevno dokazuju svoje nerazumijevanje... većina čim zine.

Ako je vrlo jednostavno dati dokaz na praktičnoj, tada bi trebalo biti jednostavno i na znanstvenoj osnovi.

[Cocaine Nights]

red_shrike kaže:

Nadalje, zašto bi uopće AI trebala biti identična ljudima i misliti na isti način? Avion i ptica oboje lete, ali to rade na potpuno drugačiji način. Da li je krivo onda reći da avion ne leti jer ne radi to kao ptica (koja je živa i bila tu puno prije)?

Istina, AI ne bi trebala biti nužno identična ljudskoj inteligenciji, izvrsno opažanje.

[shamantrixx]

g4gfact0r kaže:

kako bi ja dokazao npr da ti razumiješ hrvatski jezik . mozda samo prevodis sa Zanzibarskog na hrvatski po unaprijed danom algoritmu. uz pomoc hrvatskog rijecnika i gramatike. bez da ista [hrvatskog] razumiješ.

Nikako... samo ja mogu "dokazati" da razumijem... ako sam voljan to demonstrirati, dakako!

[shamantrixx]

Cocaine Nights kaže:

Ako je vrlo jednostavno dati dokaz na praktičnoj, tada bi trebalo biti jednostavno i na znanstvenoj osnovi.

Ma daj?

[shamantrixx]

Cocaine Nights kaže:

Istina, AI ne bi trebala biti nužno identična ljudskoj inteligenciji, izvrsno opažanje.

Nitko nie ni rekao da treba, ali velebni "stručnjaci" iz relevantnih polja su tvrdili da smo "nadomak" stvaranja takve inteligencije, pa ih je John Searle samo iskulirao tim eksperimentom.

[Davor000]

shamantrixx kaže:

Mislim da trebaš još jednom pročitat izvorni argument. Ti si to malo naopako shvatio, jer Searle ne govori ništa o ljudima... on samo govori da stroj koi prevodi s engleskog na kineski očito NE ZNA kineski... on samo koristi algoritam za prevođenje bez da razumije što prevodi.

Naravno da on ne govori ništa o ljudima jer bi shvatio da je njegov argument zapravo special pleading argument. Ja sam spominjao ljude kao protuprimjer njegovom argumentu. Dakle, čovjek koji prevodi kineski s engleskoga to ne radi nekim magičnim (već spomenuti magic goo) svojstvima nego mozgom. Mozgom koji je stroj i radi algoritamski. Sada primjeni Searleov argument i imaš jasan zaključak da ne postoji čovjek koji razumije strani jezik. Reductio ad absurdum, jasna stvar. Dakle, argument ne valja.

Ako odgovara na pitanja po unaprijed programiranom obrascu, on će ostaviti dojam da govori kineski, iako to očito nie slučaj.

Time zapravo govori da ne postoi realna opcija stvaranja umjetne inteligencije sa sposobnošću razmišljanja i razumijevanja...

Naravno, Searle uzme primjer nekog banalnog algoritma i kaže da nema šanse da je moguće takvim nečim napraviti nešto što razumije kineski. Mda. Mislim, da je bar dao primjer algoritma koji prevodi uspješno kao čovjek koji pozna kineski pa da vidimo po čemu bi se on razlikovao od čovjeka. Ovako ništa, izgleda.

A ostatak tvog posta je očito tvoja osobna projekcija nečega što sa samim eksperimentom i konzekventnim argumentom nema nikakve veze!

Mda.

shamantrixx kaže:

Tek sad ovo vidim...

...molim te pročitaj ponovo izvorni argument. Nie moguće da je Leibniz rekao bilo što iz te perspektive.

Mda, Leibniz:

One is obliged to admit that perception and what depends upon it is inexplicable on mechanical principles, that is, by figures and motions. In imagining that there is a machine whose construction would enable it to think, to sense, and to have perception, one could conceive it enlarged while retaining the same proportions, so that one could enter into it, just like into a windmill. Supposing this, one should, when visiting within it, find only parts pushing one another, and never anything by which to explain a perception. Thus it is in the simple substance, and not in the composite or in the machine, that one must look for perception.

Identičan argument, što god ti mislio o tome.

milelogara kaže:

Neloš post, ovdje sam nov, pa ako je citiranje nakaradno, unaprijed me ispričajte. Svejedno, par stvari si mogao i bolje reći, recimo prva rečenice izgleda kao školski primjer tautologije (koju si kasnije razjasnio, bar onima kojima je po defaultu jasno razlikovanje nužnog i dostatnog, al svejedno)
Druga stvar, čini mi se da ovo nije predaleko od Kuhna (zanemarimo paradigme ), pojam nesumjerljivosti izgleda upotrebljiv u ovoj 'diskusiji', čini mi se kao bolji kod razjašnjavanja razumijevanja, bez tautoloških implikacija (iako ima neke druge, koje su off topic ). Toliko za sada, da ne pišem kilometarski post, ako je tema bez zainteresiranih.

Willkommen!
Da, prvu sam rečenicu napisao i shvatio da može ispasti trivijalna pa i nešto naknadno dodao tj. obrazložio.

[shamantrixx]

Ah taj divni materjalizam i njegovi sluge pokorni koi se spotiču sami preko sebe u žarkoj želji da sve reduciraju na mehaničke procese. Leibniz bi bio ponosan na svoje vjetrenjače koje i danas melju na istom mlinu

[Davor000]

Ma da, zamisli ti te materijaliste. Kakav argument.

[shamantrixx]

Nie argument... nemam ni najmanju namjeru upuštat se u raspravu sa redukcionistima i materjalistima. Searle u "Beyond dualism" vrlo jasno objašnjava zašto takav pristup nema smisla i zašto u slučaju svijesti nie u stanju dati suvisle rezultate. Ako na to imaš prigovor - možemo diskutirati. Tvoje arbitrarne tvrdnje me pak ne zanimaju ni najmanje.

Naravno... ti imaš pravo na svoje mišljenje, i slobodan si o njemu diskutirati s nekim tko je zainteresiran.

[Davor000]

shamantrixx kaže:

Nie argument... nemam ni najmanju namjeru upuštat se u raspravu sa redukcionistima i materjalistima. Searle u "Beyond dualism" vrlo jasno objašnjava zašto takav pristup nema smisla i zašto u slučaju svijesti nie u stanju dati suvisle rezultate. Ako na to imaš prigovor - možemo diskutirati. Tvoje arbitrarne tvrdnje me pak ne zanimaju ni najmanje.

Naravno... ti imaš pravo na svoje mišljenje, i slobodan si o njemu diskutirati s nekim tko je zainteresiran.

Da, mislim zanimljiva je ta bahatost. Ako nemaš argumenata, nemoj ni započinjati raspravu. Ako ti je pak jedini argument reći nekome da je materijalist ili redukcionist, onda se učlani u neki navijački klub i kao klošar žicaj na ulici kunu za "tekmu", kako to znaju raditi. Searleova intrinzična svojstva neovisna o promatraču možeš okačit mačku o rep. Ja sam već argumentirao zašto na primjeru Fodorova language of thought-a je nemoguće tražiti intrinzična svojstva neovisna o promatraču. Drugi razlog je i Quineov indetreminacy of translation. Za svaki skup činjenica uvijek je moguća drukčija interpretacija koja im se pokorava. Drugim riječima, ne postoji intrinzčnost i jednoznačnost nekog stanja (bol, dio vizualne percepcije itd). Postoje stanja subjekta takva da nitko, pa ni on, ne može odrediti je li ih imao jer uvijek postoje različite moguće interpretacije. Sada bi po Searleu trebao biti neki intrinzični "fact of the matter" koji će presuditi u jednu ili drugu stranu, ali činjenica je da su stvari neodredive te da jedino postoje različite interpretacije koje su svima dostupne, a ne samo subjektu.

[Apemant]

Davor000 kaže:

Za svaki skup činjenica uvijek je moguća drukčija interpretacija koja im se pokorava. Drugim riječima, ne postoji intrinzčnost i jednoznačnost nekog stanja (bol, dio vizualne percepcije itd).

Je li ovo što gore tvrdiš činjenica, nešto 'intrinzično' materijalnoj stvarnosti, ili samo tvoja interpretacija određenih fenomena u toj stvarnosti?

[Davor000]

Apemant kaže:

Je li ovo što gore tvrdiš činjenica, nešto 'intrinzično' materijalnoj stvarnosti, ili samo tvoja interpretacija određenih fenomena u toj stvarnosti?

Činjenice su interpretacije stvarnosti. Ili za one kojima je teže misliti, to što su činjenice interpretacije ne znači da su sve interpretacije činjenice kao što bi ti sada htio meni staviti u usta (ali neće ići). To znam da bi sljedeće postavio jer si jebeno pametan.