Evolucija na malo drugačiji način

[wand_1]

medonaodmoru kaže:

Ne. Kod vrlo velikih populacija, kakva je ljudska danas, događa se samo povećanje varijabilnosti unutar populacije. Mutaciji koje se dogode u tako velikoj populaciji nisu statistički signifikantne jer se ne mogu značajnije proširiti. Obrnuto, u malim populacijama skoro svaka neutralna mutacija može se znatno proširiti a neka eventualno korisna može u svega par generacija biti prisutna u skoro cijeloj populaciji.

Da. Uvjet za nesmetano odvijanje evolucije je pritisak prirodne selekcije i izolacija manjih grupa, a nijedno od toga nemamo danas.

[toxde]

imamo slucaj Ashkenazi zidova koji su dobili vecu inteligenciju, i jos neke druge genetske bolesti. postoje i ostale izolirane skupine dan danas.

[MrBlc]

mravac8 kaže:

Glavni argument ateista da bog ne postoji je pitanje *tko je onda stvorio boga?*, smatrajući da uvijek stvaratelj mora biti inteligentniji od onoga što stvara.

Dobijamo dokaz da ne mora biti tako.

Upravo suprotno - većina ateista smatra da je čovjek stvorio Boga.

[toxde]

nastavak...
a prirodnu selekciju je zamjenila tzv. artificijalna selekcija, eugenika . tako da odgovor na pitanje odvija li se evolucija brze je da to najvise ovisi o ljudskim postupcima

[Grupa Queen]

Umjetna inteligencija se precjenjuje. Jednostavna radnja vađenja kabela iz utikača ju svodi na hrpu elektroničkog otpada. Postavlja se i pitanje odgovornosti. Čovjek koji sam vozi auto sam i drži život u vlastitim rukama. Onaj koga vozi neki algoritam koji pokreće stroj prepun senzora stavlja život u ruke kojekakvim programerima u nekakvoj firmi koja također i hardware nabavlja iz kojekakvih izvora. Radim u takvoj struci pa znam da je pouzdavanje samo u strojeve jedna teška budalaština. Tko želi završiti sa 80km/h u zidu radi NullPointerExceptiona ili pregorenog senzora neka izvoli. Sve je to super samo ako je moguće i sam preuzeti kontrolu. Ove priče o tome da će samo roboti raditi, a da će ljudi lagodno živjeti bez rada su jedna lijepa priča za laku noć. I ne treba ići u dubinu, samo treba postaviti pitanje - a tko će napraviti i održavati te robote?

[toxde]

zanimljiva tema iako nismo o tome pricali... ja mislim da je to da ce AI preuzeti sve poslove daleka buducnost, prije toga ce doci vrijeme di ce AI preuzeti kljucne poslove a ljudi ce raditi za tu AI.
u principu netreba ti AI za to dovoljni su autonomni agenti
neces je moci iskljuciti jer ce biti osiguranja. AI/AA moze unajmiti zastitare npr.

[wand_1]

Grupa Queen kaže:

Umjetna inteligencija se precjenjuje. Jednostavna radnja vađenja kabela iz utikača ju svodi na hrpu elektroničkog otpada.

Isto kao kad čovjeka opališ čekićem po glavi. S tim da jaka AI sasvim sigurno ne ovisi o kabelu. To je daleko otporniji i napredniji i adaptivniji tip inteligencije.

Postavlja se i pitanje odgovornosti. Čovjek koji sam vozi auto sam i drži život u vlastitim rukama.

Da, i upravo zato što čovjek sam drži život u vlastitim rukama u prometnim nesrećama gine godišnje u svijetu milijun i pol ljudi. Više nego u svim aktualnim oružanim sukobima zajedno na godišnjoj razini.

Samo u SAD godišnje gine 30 000 ljudi. Za usporedbu, u onoj katastrofi 9/11 poginulo je manje od 10% tog broja.

Više od 95% svih nesreća sa smrtnim posljedicama rezultat su ljudske pogreške.

Onoga dana kad ljudima bude zabranjeno voziti, počet će bolja vremena.

Onaj koga vozi neki algoritam koji pokreće stroj prepun senzora stavlja život u ruke kojekakvim programerima u nekakvoj firmi koja također i hardware nabavlja iz kojekakvih izvora.

To nije točno. Programeri nemaju nikakav direktan utjecaj na reakcije samovozećeg automobila, a hardware je uvijek redundantan.

Radim u takvoj struci pa znam da je pouzdavanje samo u strojeve jedna teška budalaština.

U kakvoj točno struci radiš?

Tko želi završiti sa 80km/h u zidu radi NullPointerExceptiona ili pregorenog senzora neka izvoli.

Aha, ti msiliš da se automobil treba eksplicitno i ručno programirati u Javi, te da će auto udariti ako pregori jedan senzor?

Sve je to super samo ako je moguće i sam preuzeti kontrolu. Ove priče o tome da će samo roboti raditi, a da će ljudi lagodno živjeti bez rada su jedna lijepa priča za laku noć.

Bit će dobro ako ljudi ikako budu živjeli

I ne treba ići u dubinu, samo treba postaviti pitanje - a tko će napraviti i održavati te robote

Drugi roboti, naravno. Jaka AI praktički preko noći može konstruirati von Neumannove samoreplicirajuće nanorobote koji materijom mogu manipulirati na molekularnoj i submolekularnoj razini, što znači da praktički mogu napraviti bilo što iz bilo kakvih resursa i da to mogu raditi repetitivno.

toxde kaže:

zanimljiva tema iako nismo o tome pricali... ja mislim da je to da ce AI preuzeti sve poslove daleka buducnost, prije toga ce doci vrijeme di ce AI preuzeti kljucne poslove a ljudi ce raditi za tu AI.
u principu netreba ti AI za to dovoljni su autonomni agenti
neces je moci iskljuciti jer ce biti osiguranja. AI/AA moze unajmiti zastitare npr.

Nejasno mi je o kakvoj AI govoriš, jakoj ili slaboj? Teze su ti pomiješane.

[cestar]

wand_1 kaže:

Isto kao kad čovjeka opališ čekićem po glavi. S tim da jaka AI sasvim sigurno ne ovisi o kabelu. To je daleko otporniji i napredniji i adaptivniji tip inteligencije.

Oni ljudi koji će imati najviše koristi od nje, potrudit će se zaštititi kabel.

Iako, biti će im korisno širiti maglu kako AI sama neutralno i pravedno odlučuje što je dobro za društvo.

Da, i upravo zato što čovjek sam drži život u vlastitim rukama u prometnim nesrećama gine godišnje u svijetu milijun i pol ljudi. Više nego u svim aktualnim oružanim sukobima zajedno na godišnjoj razini.

Velika je psihološka razlika u osjećaju da ipak možemo utjecati svojim ponašanjem i postupcima na šansu da preživimo.
Dobar dio razloga za strah od leta avionom upravo je u svijesti kako ne možemo puno učiniti za sebe dođe li do najgoreg.

Samo u SAD godišnje gine 30 000 ljudi. Za usporedbu, u onoj katastrofi 9/11 poginulo je manje od 10% tog broja.

Više od 95% svih nesreća sa smrtnim posljedicama rezultat su ljudske pogreške.

Onoga dana kad ljudima bude zabranjeno voziti, počet će bolja vremena.

Dakle, ljudi su usko grlo u tehno-sferi. Ok, ali postoje i druge mogućnosti (one se rjeđe razmatraju zbog drugih razloga), npr. odabir načina života u kojem tehnologija služi potrebama čovjeka, a ne obratno.

To nije točno. Programeri nemaju nikakav direktan utjecaj na reakcije samovozećeg automobila, a hardware je uvijek redundantan.

Tko ili što onda ima direktan utjecaj na reakcije samovozećeg automobila ?

Bit će dobro ako ljudi ikako budu živjeli

Zašto bi to bilo dobro ? Prepustimo AI da odluči o tome...

Drugi roboti, naravno. Jaka AI praktički preko noći može konstruirati von Neumannove samoreplicirajuće nanorobote koji materijom mogu manipulirati na molekularnoj i submolekularnoj razini, što znači da praktički mogu napraviti bilo što iz bilo kakvih resursa i da to mogu raditi repetitivno.

Odlično, ali zašto onda ne ići na razvijanje čovjekovih sposobnosti ?

Npr. da imamo barem djelić Gandalfovih moći...

Kome u konačnici treba takva AI ?

[Frogger]

Bez namjere da nekog razočaram, ali čovjekove sposobnosti su već razvijene do maksimuma i slijedi im opadanje. Od današnjih (i sutrašnjih, ako ih uopće bude) generacija ne možemo očekivat npr da će govorit sto jezika, trčat sto metara u pet sekundi, rješavat tenzorski račun u vrtiću, crtat i kiparit ko mikelanđelo i izumljivat ko tesla, pritom bit fizički i psihički zdravi pojedinci, odlično uklopljeni u šire društvo te da će se uspješno reproducirat i odgojit djecu da budu jednako tako super.

Za utjehu, ima ko će sve to moći, ali nije od ljudskog roda

[MrBlc]

cestar kaže:

Velika je psihološka razlika u osjećaju da ipak možemo utjecati svojim ponašanjem i postupcima na šansu da preživimo.
Dobar dio razloga za strah od leta avionom upravo je u svijesti kako ne možemo puno učiniti za sebe dođe li do najgoreg.

Stari mi je mehaničar, pa sam se nagledao hrpu životno-ugrožavajućih kvarova koje su ljudi ignorirali, a današnja elektronika za dobar dio njih prebacuje u safe mode kojem su svi parametri rada ograničeni (snaga, okretaji, brzina).

S druge strane, kvar električnog serva u krivom trenutku može biti dovoljan za tešku nesreću, dok istovremeno autonomno vozilo mora imati redundantni sustav koji se aktivira brzinom koju vozač ne može postići.

[cestar]

MrBlc kaže:

Stari mi je mehaničar, pa sam se nagledao hrpu životno-ugrožavajućih kvarova koje su ljudi ignorirali, a današnja elektronika za dobar dio njih prebacuje u safe mode kojem su svi parametri rada ograničeni (snaga, okretaji, brzina).

To je primjer u kojem se tehničko rješenje prilagođava ljudskim sposobnostima reagiranja, što je svakako bolje nego "isključivanje" vozača.

Frogger kaže:

Bez namjere da nekog razočaram, ali čovjekove sposobnosti su već razvijene do maksimuma i slijedi im opadanje. Od današnjih (i sutrašnjih, ako ih uopće bude) generacija ne možemo očekivat npr da će govorit sto jezika, trčat sto metara u pet sekundi, rješavat tenzorski račun u vrtiću, crtat i kiparit ko mikelanđelo i izumljivat ko tesla, pritom bit fizički i psihički zdravi pojedinci, odlično uklopljeni u šire društvo te da će se uspješno reproducirat i odgojit djecu da budu jednako tako super.

Dobro, nećemo rezati žile jer nećemo moći ovo boldano... a opadanje možda možemo i zaustaviti promjenom načina života.

Za utjehu, ima ko će sve to moći, ali nije od ljudskog roda

Možda je tebi utjeha, meni nije... sve uža baza vrhunskih informatičkih stručnjaka koja stvara zamašnjak samorazvijajuće AI čiji dometi iščezavaju iz vidokruga slabašnog majmunolikog stvorenja.

Kraj čovjeka, ali kakav veličanstven kraj... also sprach Zarathustra.


A ako bi kraj bio u obliku "grey goo" scenarija, jer bi se izgubila kontrola nad von Neumannovim samoreplicirajućim nanorobotima... ha, što se može, jer, kako je rekao Dennis Hopper u filmu "Brzina"...

A bomb is made to explode. That's its meaning. Its purpose. Your life is empty because you spend it trying to stop the bomb from becoming. And for who? For what? You know what a bomb is, Jack, that doesn't explode? It's a cheap gold watch, buddy.

[Serengeti]

Na neki način silicij će zamjeniti organski život zasnovan na ugljiku. Jedan element, kao osnova života, možda će zamjeniti drugi element - ugljik.
Sasvim je moguće da će umjetna inteligencija prevladati npr. integracijom u ljudsko život i kroz proširenu stvarnost. danas još to nije moguće naravno, ni sutra. Ali za određeno vrijeme sigurno hoće. Neće biti ratova u stilu terminatora, iako i to ne isključujem.

Upravo neki evolucijski biolozi su smatrali da život može biti zasnovan na sumporu i siliciju, zbog njegove stabilnosti kod tvorbe složeih spojeva. Na neki način silicij dobiva tu drugu šansu. A mi ljudi, koji počivamo na ugljiku, aminokiselinama, DNA, tu šansu pružamo.

[medonaodmoru]

Grupa Queen kaže:

Umjetna inteligencija se precjenjuje. Jednostavna radnja vađenja kabela iz utikača ju svodi na hrpu elektroničkog otpada.

Ovo zbilja ne razumijem. To je kao da kažeš da jednostavno ispaljen metak u čelo čovjeka svodi na hrpu organskog otpada (komposta). Ovdje se ne radi o tome.

Neki su još prije par desetljeća ispravno primjetili da se pojavom intenzivne i svrhovite obrade informacija (uz prateću razmjenu), javlja jedan odvojen evolucijski proces. Tkz. biološka evolucija je u principu isto to samo što je informacijski sadržaj vezan uz poredak nukleotida, kopira se (uz obavezne greške) i međusobno natječe kroz probiranje. Ova biološka evolucija je već davno rezultirala pojavom osnove za posve drugačiji evolutivni proces. Ta osnova je, naravno, usloženo neuralno tkivo koje je sposobno da informacije prima, prerađuje u svrhovit oblik, pohranjuje u nekoj vrsti paketa i što je najvažnije da ih ramjenjuje sa drugim neuralnim organima. Ova razmjena (kroz govor npr.) predstavlja osnovu za prosijavanje informacijskih sadržaja (ideja?) odnosno, omogućuje da se neki (uspješni) umnožavaju a drugi (neuspješni) nestaju. Ta kompeticija je na kraju izrodila civilizaciju i sve što uz nju ide. AI je samo nastavak tog procesa koji nam lijepo pokazuje da organska osnova nije nužan okvir u kojem se ovaj evolucijski proces odvija. U kojem smjeru će se to dalje odvijati, ne znam ali da bi taj postupak posve prešao na AI, neophodno bi bilo da se formiranje informacijskih sadržaja unutar nje posve autonomno odvijaju i da postoji mogućnost razmjene (kompeticije) tih sadržaja između raznih nositelja. Živi bili pa vidjeli (u tom slučaju, mi ne bi bili drugo do li promatrači).

[Grupa Queen]

Slijepo vjerovanje u tehnologiju je slijepo vjerovanje u nekakvu apsolutnu pravdu i razum. Nešto za što postoji riječ - utopija. Tehnologiju proizvode kompanije koje žele zaraditi novce optimiziranjem proizvodnih procesa i prodajne cijene. Smiješno je misliti da će AI automobili recimo imati savršenu redundanciju ako se to poveže s principom optimizacije proizvodnih procesa. Svaka tehnologija funkcionira po principu best efforta. Netko će na nekom sastanku odlučiti da je dovoljna samo 1+2 redundancija senzora i to je taj best effort. Iako bih se prije kladio na 1+1. Isto tako te senzore se može kupiti od 3PP proizvođača iz Kine, Tajvana ili Poljske. Uglavnom se uzima najjeftiniji ponuđač. Da ta redundancija tako dobro radi ja bih bio bez posla. Ili to da će se AI koja radi na struju sama štititi od izvlačenja utikača ili baterije, sigurno da hoće. Možda će pričati i viceve...

[cestar]

Grupa Queen kaže:

Slijepo vjerovanje u tehnologiju je slijepo vjerovanje u nekakvu apsolutnu pravdu i razum. Nešto za što postoji riječ - utopija.

Točno...

S tim da imam više razumijevanja za utopije, zapravo, radije bih to nazvao društvenim eksperimentima, koje poduzimaju oni koji su za njih izravno zainteresirani i sami snose posljedice uspjeha ili neuspjeha.

Kad su navodna želja za društvenom dobrobiti (i to čovječanstva !) i profit zainteresiranih kompanija u nekakvom miksu u kojem se ne zna tko što zbog čega hoće... rezultat nije dobar.

Tehnologiju proizvode kompanije koje žele zaraditi novce optimiziranjem proizvodnih procesa i prodajne cijene. Smiješno je misliti da će AI automobili recimo imati savršenu redundanciju ako se to poveže s principom optimizacije proizvodnih procesa. Svaka tehnologija funkcionira po principu best efforta. Netko će na nekom sastanku odlučiti da je dovoljna samo 1+2 redundancija senzora i to je taj best effort. Iako bih se prije kladio na 1+1. Isto tako te senzore se može kupiti od 3PP proizvođača iz Kine, Tajvana ili Poljske. Uglavnom se uzima najjeftiniji ponuđač. Da ta redundancija tako dobro radi ja bih bio bez posla. Ili to da će se AI koja radi na struju sama štititi od izvlačenja utikača ili baterije, sigurno da hoće. Možda će pričati i viceve...

[toxde]

wand_1 kaže:

Nejasno mi je o kakvoj AI govoriš, jakoj ili slaboj? Teze su ti pomiješane.

nije bitno kakva AI. poanta je u tome da ce trebati jos dugo da AI preuzme SVE poslove. naglasak na "sve"

ali ubrzo bi mogla preuzeti strateske poslove. I za to nije potrebna AI. dovoljni su poprilicno bezumni autonomni agenti.

danas vec postoje ljudi koji rade za autonomne agente. (tipa bitcoin mineri, odrzavaju servere itd,.) takvih ce biti sve vise.

[toxde]

medonaodmoru kaže:

Ovo zbilja ne razumijem. To je kao da kažeš da jednostavno ispaljen metak u čelo čovjeka svodi na hrpu organskog otpada (komposta). Ovdje se ne radi o tome.

:-)) groblje == kompostana

[toxde]

cestar kaže:

Oni ljudi koji će imati najviše koristi od nje, potrudit će se zaštititi kabel.

cak stovise poubijat ce semedusobno za priliku da rade za nju.

Odlično, ali zašto onda ne ići na razvijanje čovjekovih sposobnosti ?

Npr. da imamo barem djelić Gandalfovih moći...

ma bit ce I toga. dosad su se ljudi bavili primitivnim oblikom eugenike, pametnija eugenika + genetski inzenjering mogli bi cuda napravit.

[wand_1]

Grupa Queen kaže:

Slijepo vjerovanje u tehnologiju je slijepo vjerovanje u nekakvu apsolutnu pravdu i razum.

Ne znam što znači 'slijepo vjerovanje'. Definicija čovjeka je da je to onaj primat koji proizvodi i koristi tehnologiju.

Prva vrsta čovjeka, Homo habilis je prvi od roda Homo. Samo ime mu to kaže.

Nešto za što postoji riječ - utopija.

Jesi li siguran da znaš što znači utopija? Mišljenja su podijeljena između utopije i distopije, ali ne baš i oko uloge AI u budućnosti.

Tehnologiju proizvode kompanije koje žele zaraditi novce optimiziranjem proizvodnih procesa i prodajne cijene. Smiješno je misliti da će AI automobili recimo imati savršenu redundanciju ako se to poveže s principom optimizacije proizvodnih procesa. Svaka tehnologija funkcionira po principu best efforta. Netko će na nekom sastanku odlučiti da je dovoljna samo 1+2 redundancija senzora i to je taj best effort.

I ako tako odluči, opet će biti 99% prometnih nesreća manje nego danas.

Da ta redundancija tako dobro radi ja bih bio bez posla.

Nećeš biti jedini.

Ili to da će se AI koja radi na struju sama štititi od izvlačenja utikača ili baterije, sigurno da hoće. Možda će pričati i viceve..

Mislim da ne razumiješ što znači skaliranje inteligencije. Nakon nekog kraćeg vremena jaka AI je inteligentnija od tebe koliko si ti inteligentniji od miševa.

To sa izvorima energije, izvlačenjem kabela i slično je otprilike kao da miševi misle da se ljudi mogu izgubiti u njihovim labirintima.

Što se viceva tiče, isto tako. To je samo određena vrsta obrade informacija i poprilično je glupo misliti da jaka AI ne može ostvariti i pojačati tu razinu semantike.

Upravo mislim da je socijalni inženjering najlakši zadatak za AI.

toxde kaže:

nije bitno kakva AI. poanta je u tome da ce trebati jos dugo da AI preuzme SVE poslove. naglasak na "sve"

Ne razumijem zašto to misliš? Možeš li malo pojasniti?

ali ubrzo bi mogla preuzeti strateske poslove.

Koji su to npr?

danas vec postoje ljudi koji rade za autonomne agente. (tipa bitcoin mineri, odrzavaju servere itd,.) takvih ce biti sve vise.

Koji su to autonomni agenti za koje rade bitcoin mineri i administratori?

[toxde]

govorim o ljudima koji odrzavaju,(itd) taj hardweraj za majnanje bitcoina. oni rade za AA