Argument kineske sobe

[Apemant]

g4gfact0r kaže:

ne. proces se nemoze zapisati na papiru. na papiru se moze zapisati algoritam.
papir nemoze posjedovati razumjevanje kao ni kompjuter. jer oboje nisu procesi

Može i proces. Samo zapisuješ vrijednosti svih varijabli na papir. Uostalom, to isto radi i računalo, samo što koristi bistabile, a ne papir. Koja je funkcionalna razlika?

Upravo o tome i govori Searleov argument.

[g4gfact0r]

ok ja kazem da na papir nemozes zapisati proces. i sta sad?
ono sto je proces ima vremensku komponentu. a zapis na papiru je nema.

mozes napisati rijec "proces" ali proces per se nemozes zapisati na papir.

[Apemant]

g4gfact0r kaže:

proces se nemoze zapisati na papir. tocka.
vrijednosti varijabli zapisane na papir nisu nista drugo nego zapis na papiru a ne proces.

Taj 'proces' o kojem govoriš su *poznate* vrijednosti bistabila. Objasni mi točno po čemu se taj 'proces' koji se vrti u bistabilima i logičkim vratima, razlikuje od sekvencijalnog izvršavanja tih isti naredbi na papiru, uz bilježenje svih vrijednosti?

Podsjećam te da se tu radi o *poznatim* vrijednostima i *poznatim* nizovima naredbi.

edit: zapisivanje na papiru također ima vremensku komponentu. Mislim upravo na 'proces ručnog izvođenja' programa na papiru. A ne mislim na sam programski kod, napisan na papiru.

[g4gfact0r]

zar nevidis razliku u "zapisivanje na papir" i "zapis na papiru"

[Apemant]

g4gfact0r kaže:

zar nevidis razliku u "zapisivanje na papir" i "zapis na papiru"

Vidim, o tome i govorim.

Znači, govorim o 'procesu zapisivanja' na papiru. Po tvojoj logici, taj proces zapisivanja ima nekakvo 'razumijevanje kineskog'.

Dakle, dok šaram vrijednosti varijabli na papiru, premda ne razumijem zašto to radim, samo to šaranje je na neki način inteligentno i 'razumije' kineski.

Ok, može to netko i tako definirati samo ne kužim svrhu takve terminologije.

[g4gfact0r]

da otprilike.

[Apemant]

g4gfact0r kaže:

da otprilike.

Nisi baš to rekao s puno entuzijazma, LOL. Otprilike kao i pećina kad sam mu pokazao na što se de facto svodi 'teleportiranje' u Star Treku, hihihihi.

[g4gfact0r]

dakle komentar #67 ipak nisam fualo, zar ne?

[shamantrixx]

Davor000 kaže:

Holy fuck, pa ovo kao da je loš vic. Mehaničko gibanje komponenti vjetrenjače - mehaničko izvršavanje manipulacija simbolima

Bit će da je do mene onda... ja naime ne manipuliram mehanički simbolima. Ja samo zinem i riječi same idu. Bit će da nismo svi isti

[Davor000]

shamantrixx kaže:

Bit će da je do mene onda... ja naime ne manipuliram mehanički simbolima. Ja samo zinem i riječi same idu. Bit će da nismo svi isti

Kvragu, je li tebi jasno u čemu je ekvivalentnost Leibnizovog i Searleovog argumenta? O tome je riječ ovdje, ne o tome manipuliraš li ti osobno mehanički simbolima. Da te podsjetim, ti si rekao da Leibniz nije rekao argument ni približno sličan Searleovom. Ja sam copy-pasteao ulomak Leibnizovog teksta i pokazao u čemu je sličnost koju je uočilo toliko filozofa i ljudi koji su vidjeli oba teksta da jedino potpuni idiot to ne može primjetiti.

Budući da žurim, odgovorit ću sutra Apemantu.

[shamantrixx]

Davor000 kaže:

Da te podsjetim, ti si rekao da Leibniz nije rekao argument ni približno sličan Searleovom. Ja sam copy-pasteao ulomak Leibnizovog teksta i pokazao u čemu je sličnost koju je uočilo toliko filozofa i ljudi koji su vidjeli oba teksta da jedino potpuni idiot to ne može primjetiti.

Mehaničko razumijevanje teksta (govora) nie u stanju razumijeti rečenicu poput:
"da sam ja ti, ja bih se mrzio zbog toga što sam učinio".

Možda je moj potpuni idiotizam u pitanju, ali sintaktička komplikacija poput gore navedene ne može se rješiti "mehanički", već zahtjeva ogroman kognitivni kapacitet opremljen "jezičnim alatima" i sposobnošću apstrakcije.

Upravo to je ono na što računalni primjer iz "kineske sobe" ukazuje, a što u primjeru vjetrenjače nie prisutno. Ta dva primjera slična su otprilike koliko su slični vlakovi i avioni. Jedno ide samo po tračnicama uz pomoč kotača, a drugo kotače koristi samo prilikom poljetanja i sljetanja. Oba opisa sadrže pojmove "kotač" i "samo", no tu svaka sličnost prestaje.

Da... postoi sličnost, a ta sličnost je koincidentalna, marginalna, nefunkcionalna i stoga nedostatna za ovako bahatu i prenapuhanu tvrdnju:

...ovaj argument (Chinese room) je zapravo dao Leibniz o vjetrenjači nekoliko stotina godina prije.

Nakon što sam te pitao da mi rastumačiš analognost mehaničke vjetrenjače i jezika ti lagano mjenjaš težište tvrdeći:

Ja sam copy-pasteao ulomak Leibnizovog teksta i pokazao u čemu je sličnost.

Da si to iznio kao prvobitnu tvrdnju (sličnost) vjerojatno bih te poštedio frustracije zbog koje si bio prisiljen doticati se mog potpunog idiotizma u nemogućnosti da objasniš navodnu analognost tih argumenata po kojoj je Searle-ov argument zapravo Leibniz-ov (što si izvorno tvrdio).

Patetično je kad poput papagaja ponavljaš...

sličnost koju je uočilo toliko filozofa i ljudi koji su vidjeli oba teksta

obzirom da si u diskusiju krenuo izjednačavajući argumente, te obzirom da nisi u stanju artikulirati navodnu sličnost.

Stoga... radije ću biti potpuni idiot nego se smatrati pametnim na temelju sličnosti koje su drugi uočili, a koje ja nisam u stanju objasniti

[g4gfact0r]

Davor000 kaže:

Znači kažeš stroju ove rečenice: "Odbor je odbio paradu jer su oni zagovarali nasilje." I ovu: "Odbor je odbio paradu jer su se oni bojali nasilja." Svaki čovjek bi shvatio u prvoj rečenici da se "oni" odnosi grupu koja traži paradu, a u drugoj da se "oni" odnosi na odbor. Dakle, razlika je samo u riječima "zagovarali" i "bojali". Računalo iz gramatike ne može ništa zaključiti na što se "oni" odnosi. Naravno, ako je inteligentno, ono će točno otkriti na što se odnosi. A to mora zaključiti iz inteligentnog poznavanja svijeta. To se ne može simuliarati i nužno je autentično. Dakle, Turingovim testom se može zaključiti je li stroj inteligentan.

da bi proces mogao odgovoriti mora imati u memoriji dodatan zapis o tim pojmovima. kao npr za recenicu:

dijete je zakopalo govno jer ono smrdi.

opet nisi dokazao da covjek razumije jer je covjek mogao imati u memoriji odgovor na specificno to pitanje.

[The_Kid]

shamantrixx kaže:

pa kako da to otkrijemo dok ne znamo kako naša inteligencija funkcionira?

Hm, moram smisliti kako da definiram svoj sud o tome pa onda odgovorim.

red_shrike kaže:

OK, al iza sada nikome nije jasno da li ČOVJEK može riješiti problem zaustavljanja. Nama treba usporedba u onome za što zamo da čovjek može raditi, a ne u toem za što ni sami neznamo.
Primjerice, dokaza da turingov stroj nemože riješiti problem zaustavljanja je isti kao i Goedelov teorem o nekompletnosti. Nisu li i ljudi subjekti tog teorema?

Moram se podsjetiti svega potrebnoga da odgovorim na ovo pitanje. Onda ću se nadovezati, slabo se sjećam pojedinih detalja.

[red_shrike]

Želim samo reći da ja interpretiram AI kao samosvjesnu zbog toga što može uzeti u obzir svoje manipulacije unutar sustava. Tj, specifično govoreći, slabo-samosvjesnu jer za sada imamo samo slabu-AI. Evo primjera da bude jasnije:

Ako imamo, recimo, AI koja kupuje i prodaje dionice na burzi te time meni zarađuje za kurveraj, onda samosvjesna AI mora uzeti u obzir što će biti ako pokuša kupiti 30% dionica neke firme i kako će sam taj čin kupnje te količine dionica utjecati na cijenu te iste dionice, ali i znat da kupnja jedne od milijardu neće utjecati nikako na samu cijenu.
Naravno, ovdje AI može samo kupovati i prodavati dionice, pa je i samosvjensot ograničena, ali je ipak prisutna. Naime, zna da postoji i zna da njene akcije koje izvrši na dionici A mogu utjecati i na dionicu B, te napraviti proračune što bi bilo najbolje.
Tj, bar ja tako koncipiram "samosvjestan", ako netko ne misli da je ovo "samosvjest" molio bih onda da malo i to prodiskutiramo.

[red_shrike]

LIQ kaže:

Um...lol. Dobro!
Evo pitanjce!
Kad bih u kinesku sobu ubacio upo
P.S.rabljeni toaletpapir na kojem bi pisalo:
"Na što miriši ova poručica", ja bih po odgovoru znao jel unutra čovjek ili stroj
A ti?

Naravno da bih na taj papirić najprije napisao ono, a tek onda ga
uporabio za ono.

Uf, gle, Apemant je to već rekao zilijon puta. Čitava soba je "crna kutija" i NEMOŽEŠ otvarati cru kutiju i sa njome manipulirati. NEMA stavljanja papirića, slanaj profesionalnih prostitutki i puštanja cijanida. Nema paiprića, nema dopisa, zapisa, napisa, upisa ili opisa. Crna kutija ima svoj input i svoj output i to je sve što ti ovdje smiješ gledat.

[gocat]

bas to mi je najzanimljivija tema oko AI. kako da postane svijestan?

za svijest, po mom misljenju cak i nije potrebno mnogo. vec sam uzrok reakcija se na nekom nivou moze protumaciti kao svijest pa prema tome robot koji prevada kineski, zaista moze biti svijestan (ovisi o definiciji svijesti). njegovo je razmisljanje i shvacanje slicno covjekovom, samo je covjekovo opseznije i zadire u druge oblasti.

tehnologija bi cak mogla nauciti prihvacati i spiritualnost gdje bi najcesce klasificirala razne smetnje i greske, jer kako ih drugacije protumaciti a tumacenje je AI stroju potrebno.

niti covjek, niti racunalo ne poznaju kineski, no to uopce nije niti potrebno, niti ja ne znam kako se stvaraju slova kad ih tipkam ali ih koristim sa namjerom. AI svakako moze imati namjeru, sto mu je dovoljno da sa razvojem tehnologije u potpunosti nadmasi i nadjaca fizicki spektar ljudskih mogucnosti.

no tu je prica gotova za stroj. stroj nikad nece moci spoznati drugaciji oblik stvarnosti od fizickog (digitalnog). covjek ipak ima tu mogucnost. strojevi nikada nece sanjati kao ljudi.

[heheh]

red_shrike kaže:

Želim samo reći da ja interpretiram AI kao samosvjesnu zbog toga što može uzeti u obzir svoje manipulacije unutar sustava. Tj, specifično govoreći, slabo-samosvjesnu jer za sada imamo samo slabu-AI. Evo primjera da bude jasnije:

Ako imamo, recimo, AI koja kupuje i prodaje dionice na burzi te time meni zarađuje za kurveraj, onda samosvjesna AI mora uzeti u obzir što će biti ako pokuša kupiti 30% dionica neke firme i kako će sam taj čin kupnje te količine dionica utjecati na cijenu te iste dionice, ali i znat da kupnja jedne od milijardu neće utjecati nikako na samu cijenu.
Naravno, ovdje AI može samo kupovati i prodavati dionice, pa je i samosvjensot ograničena, ali je ipak prisutna. Naime, zna da postoji i zna da njene akcije koje izvrši na dionici A mogu utjecati i na dionicu B, te napraviti proračune što bi bilo najbolje.
Tj, bar ja tako koncipiram "samosvjestan", ako netko ne misli da je ovo "samosvjest" molio bih onda da malo i to prodiskutiramo.

Kako ti defniras to "zna da postoji"?
Ako ta tvoje AI pristojno glumi tvog brokera, onda bi je i mogli nazvat AI. Al posto takvo nesto ne postoji, to uopce nije AI vec neki algoritam koji ima neki input s burze i na osnovu toga kupuje dioice. Ne razumijem uopce kako neko par if...then...else... uvjeta i petlji moze nazvat AI-om?

Samosvjest bi po meni bila nesto tipa da ugradis svom AI stroju ruke i noge, ostavis ga u drugoj drzavi i onda mu kazes da se sam vrati doma...

[red_shrike]

heheh kaže:

Kako ti defniras to "zna da postoji"?
Ako ta tvoje AI pristojno glumi tvog brokera, onda bi je i mogli nazvat AI. Al posto takvo nesto ne postoji, to uopce nije AI vec neki algoritam koji ima neki input s burze i na osnovu toga kupuje dioice.

Zapravo, već postoje AI koje glume brokere i to dosta dobro.

heheh kaže:

Ne razumijem uopce kako neko par if...then...else... uvjeta i petlji moze nazvat AI-om?

Samosvjest bi po meni bila nesto tipa da ugradis svom AI stroju ruke i noge, ostavis ga u drugoj drzavi i onda mu kazes da se sam vrati doma...

Zapravo, AI ni ne funkcionira preko if-then-else, niti itko takvu strukturu ne smatra za AI. Upravo iz razloga što if-then nje AI se uvelo korištenje neuronskih mreža.

[red_shrike]

gocat kaže:

no tu je prica gotova za stroj. stroj nikad nece moci spoznati drugaciji oblik stvarnosti od fizickog (digitalnog). covjek ipak ima tu mogucnost. strojevi nikada nece sanjati kao ljudi.

Ovo je pusta nada. Čovjek nemože percipirati išta izvan ove stvarnosti. Jednako kao što AI pada na testu iz konverzacije jer joj nije jasno jer nemože percipirati ovaj svijet, isto tak oniti ti nisi u stanju percipirati svijet ukojem živi jedna AI. Ti čak nemožeš niti zasmiliti kako izgleda ultraljubišasta boja, ili ako je to imati 6 čulo. Kako onda kaniš tvrditi da možeš spoznat ikakvu drugu stvarnost? Pa nemožeš spoznat niti ovu stvarnost. Da ti dam moć da vidiš infrarveno i ultraljubičasto, tvoj mozak bi se spržio od viška informacija.

[heheh]

gocat kaže:

za svijest, po mom misljenju cak i nije potrebno mnogo. vec sam uzrok reakcija se na nekom nivou moze protumaciti kao svijest pa prema tome robot koji prevada kineski, zaista moze biti svijestan (ovisi o definiciji svijesti). njegovo je razmisljanje i shvacanje slicno covjekovom, samo je covjekovo opseznije i zadire u druge oblasti.

Robot koji prevodi kineski zaista moze biti svjestan, ali to sigurno nije posljedica prevodjenja. Stroj moze nauciti sintaksu jezika, i tako je prevodit s jednog na drugi jezik, ali to nema veze sa svjescu.

gocat kaže:

niti covjek, niti racunalo ne poznaju kineski, no to uopce nije niti potrebno, niti ja ne znam kako se stvaraju slova kad ih tipkam ali ih koristim sa namjerom. AI svakako moze imati namjeru, sto mu je dovoljno da sa razvojem tehnologije u potpunosti nadmasi i nadjaca fizicki spektar ljudskih mogucnosti.

A koja bi bila definicija namejre? Zasto bi racunalo pocelo prevoditi kineski?
Zamisli ti uletis ispred racunala noseci majicu s nekim kineskim natpisom, a racunalo nicim izazvano pocne ti prevodit...to bi moglo proc za neko inteligentno stvorenje. Al ako ti trebas unijet tekst u racunalo kliknut dugme prevodi koje ce pokrenut unaprijed uneseni algoritam za prevodjenje to se ne moze nazvat AI-om. AI bi trebao biti u stanju sam nauciti kineski, slicno kao i ljudi... Na kraju krajeva kad turist seta s rijecnikom po gradu i trazi u njemu kako se kaze "Dobar dan" sigurno necemo rec da turist zna jezik...

gocat kaže:

no tu je prica gotova za stroj. stroj nikad nece moci spoznati drugaciji oblik stvarnosti od fizickog (digitalnog). covjek ipak ima tu mogucnost. strojevi nikada nece sanjati kao ljudi.

ah kakav pesimizam...tu prica za stroj tek pocinje...
JA iskreno vjerujem da ce jednog dana strojevi uspjeti preci u svjesno stanje, iako je to jako daleko gledajuci danasnje pokusaje stvaranja AI, otprilike daleko ko Abacus i moderni procesori, ako ne i dalje