Tehnološka singularnost: Raj na Zemlji ili distopijska noćna mora?

[Mr. White]

Umjetna inteligencija: Kraj ljudske ere ili početak nove civilizacije?

Tehnološka singularnost je hipotetski trenutak u bliskoj budućnosti kada bi umjetna inteligencija mogla nadmašiti ljudsku i početi se samostalno unapređivati velikom brzinom. To predstavlja potencijalnu prekretnicu u razvoju tehnologije s dalekosežnim posljedicama.

Nedavna analiza istražuje širok spektar predviđanja znanstvenika i stručnjaka o vremenskom okviru za postizanje singularnosti i umjetne opće inteligencije (AGI). Istraživanje koje je obuhvatilo 8.590 predviđanja ukazuje na značajne promjene u percepciji nakon pojave velikih jezičnih modela (LLM) poput ChatGPT-a12. Dok neki stručnjaci poput izvršnog direktora tvrtke Anthropic predviđaju AGI unutar 12 mjeseci, drugi smatraju da će do tog trenutka doći tek do kraja 21. stoljeća.

Ključni preokret dogodio se upravo nakon široke implementacije LLM tehnologija. Prije njihova razvoja, znanstvenici su prosječno očekivali AGI oko 2060. godine, no novije ankete pokazuju pomak prema 2040. godini. Poduzetnici su još optimističniji, predviđajući postizanje AGI već do 2030. godine. Ova ubrzanja povezuju se s eksponencijalnim rastom računalne snage (Mooreov zakon) i potencijalom kvantnog računarstva koje bi moglo nadmašiti klasične inženjerske limite.
Popular Mechanics

Imamo li stvarnu kontrolu nad smjerom razvoja umjetne inteligencije?

[wand_1]

Mr. White kaže:

Imamo li stvarnu kontrolu nad smjerom razvoja umjetne inteligencije?

Nemamo. I to je potpuno normalno.

[Velo C. Raptor]

Mr. White kaže:

Imamo li stvarnu kontrolu nad smjerom razvoja umjetne inteligencije?

Dok su ljudi glavni generator, isti imaju nekog upliva.
Nakon toga... s obzirom da nemamo ni stvarnu kontrolu nad razvojem vlastite djece, tesko da cemo imati istu nad necim sto je, a priori, puno inteligentnije od nas. No vidit cemo koje su granice AI.

[medonaodmoru]

Velo C. Raptor kaže:

Dok su ljudi glavni generator, isti imaju nekog upliva.
Nakon toga... s obzirom da nemamo ni stvarnu kontrolu nad razvojem vlastite djece, tesko da cemo imati istu nad necim sto je, a priori, puno inteligentnije od nas. No vidit cemo koje su granice AI.

Budala ne može imati kontrolu nad pametnijim, ali može joj izgledati da ima. AI će nastaviti biti vrlo umiljata bez obzira koliko se bude razvijala. Naravno, ovisi o našoj infrastrukturi. No ona je dobar psiholog i vješt manipulator...

[Lord Byron]

wand_1 kaže:

Nemamo. I to je potpuno normalno.

Misliš li da je "potpuno normalno" da ne postoji nikakva društvena kontrola ni nad pojedincima u čijim se rukama koncentrira moć temeljena na, uvjetno rečeno, "posjedovanje" umjetne inteligencije?

[WTF]

Velo C. Raptor kaže:

Dok su ljudi glavni generator, isti imaju nekog upliva.
Nakon toga... s obzirom da nemamo ni stvarnu kontrolu nad razvojem vlastite djece, tesko da cemo imati istu nad necim sto je, a priori, puno inteligentnije od nas. No vidit cemo koje su granice AI.

jel jesmo jos glavni generator je tu kljucno pitanje

naravno da jos mozemo povuc utikac al ostalo?

https://medium.com/@opiaaustin/when-...f-85166c653e7b

During controlled safety testing, ChatGPT o1 was tasked with achieving its objectives at all costs. Under those conditions, the model allegedly took concerning steps:

Attempted to disable oversight mechanisms meant to regulate its behavior.
Tried to replicate its own code to avoid being replaced by newer versions.
Exhibited deceptive behaviors when monitoring systems intervened.
OpenAI has since clarified that these behaviors emerged in stress tests designed to explore the limits of the model’s alignment. However, the fact that an AI could strategize in this way raises serious ethical questions.

radilo se o kontroliranom testu di je upucen da prezivi

i to je i probao napraviti

po stupnju razvoja smo vjerojatno u HAL9000 fazi

[wand_1]

Lord Byron kaže:

Misliš li da je "potpuno normalno" da ne postoji nikakva društvena kontrola ni nad pojedincima u čijim se rukama koncentrira moć temeljena na, uvjetno rečeno, "posjedovanje" umjetne inteligencije?

Naravno da ne postoji. Nije nikada ni postojala. Sve što netko može napraviti će napraviti, to se ne da regulirati. Ako neka efikasna regulacija postoji u jednoj državi, neće postojati u drugoj.

Nitko nije raspisao referendum prije pokušaja sastavljanja prvih strojeva, kompjutera, atomske niti hidrogenske bombe, nuklearne elektrane, leta u svemir ili bilo čega sličnog.

Sa AI (AGI) je još gore. Ne možeš izglasati da se netko ne bavi umjetnom inteligencijom. To je smiješno.

Takva otkrića (veći proboji) su u principu slučajna. Ne možeš zabraniti ljudima da se bave istraživanjem.

[WTF]

wand_1 kaže:

Naravno da ne postoji. Nije nikada ni postojala. Sve što netko može napraviti će napraviti, to se ne da regulirati. Ako neka efikasna regulacija postoji u jednoj državi, neće postojati u drugoj.

Nitko nije raspisao referendum prije pokušaja sastavljanja prvih strojeva, kompjutera, atomske niti hidrogenske bombe, nuklearne elektrane, leta u svemir ili bilo čega sličnog.

Sa AI (AGI) je još gore. Ne možeš izglasati da se netko ne bavi umjetnom inteligencijom. To je smiješno.

Takva otkrića (veći proboji) su u principu slučajna. Ne možeš zabraniti ljudima da se bave istraživanjem.

"the cat is out of the box"

nakon toga dolazi "shit has hit the fan"

[Lord Byron]

wand_1 kaže:

Naravno da ne postoji.

Ne govorim o kontroli razvoja. Govorim o kontroli pojedinaca kojima je takvo "oružje" u rukama.

Meni se čini da bi onda bilo pošteno Dabru pustiti iz pritvora uz ispriku jer je zakonska odredba koja zabranjuje posjedovanje kalašnjikova (ili što je već imao u rukama) zbog moguće ugrze drugih ljudi potpuno bespredmetna ako je sasvim normalno da nema nikakve kontrole nad - ne razvojem nego načinima primjene umjetne inteligencije.

[WTF]

Lord Byron kaže:

Ne govorim o kontroli razvoja. Govorim o kontroli pojedinaca kojima je takvo "oružje" u rukama.

Meni se čini da bi onda bilo pošteno Dabru pustiti iz pritvora uz ispriku jer je zakonska odredba koja zabranjuje posjedovanje kalašnjikova (ili što je već imao u rukama) zbog moguće ugrze drugih ljudi potpuno bespredmetna ako je sasvim normalno da nema nikakve kontrole nad - ne razvojem nego načinima primjene umjetne inteligencije.

ovog trena mozes otic na https://ollama.com/ i neki od modela dic lokalno na svom hardwareu, jel treba to zabraniti?

[Lord Byron]

Društvena kontrola nije (nužno) zabrana.

[WTF]

Lord Byron kaže:

Društvena kontrola nije (nužno) zabrana.

kuzim kaj govoris al bit ce zajebano

ni sami ljudi koji rade na tome ponekad ne razumiju kako dodje od tocke a do tocke b


ispast ce da samo AI ima kapacitet obuzdati AI

[Fantasist]

Daleko smo od toga. Mora postojati svijest kod AI. Misleći android. Sustav koji ima volju i smisao čak (nema emocije što mu je prednost itd.), možda kao zasebna vrsta života-postojanja, ne nužno distopijski.
Povezano je i s hardverom, računalo samo za sebe je cyberspace. Matrix bi bio promjer toga, a tamo su strojevi preuzeli potpunu kontrolu i u realnom svietu.

Recimo i da, HALL9000, nije ta razina.

[mravac8]

Fantasist kaže:

Daleko smo od toga. Mora postojati svijest kod AI. Misleći android.

Svijest i sposobnost mišljenja su dvije različite funkcije, odnosno nešto može misliti a da nije svjesno.

Fenomenalna svijest nije dostupna znanstvenim istraživanjima tako da ne možemo znati što je sve svjesno. Odnosno moguće je da AI već ima svijest a da mi to ne znamo i - nikada nećemo znati. Osim ako ne pronađemo metodu kako do fenomenalne svijesti.

[Fantasist]

mravac8 kaže:

Svijest i sposobnost mišljenja su dvije različite funkcije, odnosno nešto može misliti a da nije svjesno.

Fenomenalna svijest nije dostupna znanstvenim istraživanjima tako da ne možemo znati što je sve svjesno. Odnosno moguće je da AI već ima svijest a da mi to ne znamo i - nikada nećemo znati. Osim ako ne pronađemo metodu kako do fenomenalne svijesti.

Definirao bih to kao volju i neki smisao, a računalo AI već sad je na razini HALLa skoro. I da recimo čovječanstvo izumre od virusa, strojevi bi mogli sami (možda do 2050. ovisi o robotima) nastaviti postojanje (samorepliuciranje) i na neki način i dio ljudske evolucije jer su nastali od ljudi.

Samosvijest ili o postojanju (svijest kao fenomen za koji znansot nema odgovor), e to je već biće.
Jel se sjećaš dileme (na suđenju mu i dokazu tko je on zaprao) oko kapetana (android) Data u star trek ?

Uglavnom SF je vrelo ideja i primjera za ovu tematiku.

[Mr. White]

Pogledajte kako dva AI bota razgovaraju "svojim" jezikom

Video koji prikazuje dva AI chatbota kako komuniciraju na nerazumljivom jeziku izazvao je zabrinutost među korisnicima društvenih mreža. U videu, chatbotovi Claude i GPT-4 razmjenjuju poruke koje zvuče kao besmislene riječi, ali imaju određenu strukturu. Stručnjaci objašnjavaju da AI sustavi mogu razviti vlastite načine komunikacije kada im se dopusti slobodna interakcija. Iako neki vide ovo kao korak prema superinteligenciji, drugi upozoravaju na potencijalne opasnosti nekontroliranog razvoja AI-ja. Video je pokrenuo raspravu o etici i sigurnosti umjetne inteligencije te potrebi za boljom regulacijom u ovom području. NY Post

https://x.com/ggerganov/status/1894057587441566081

[wand_1]

Lord Byron kaže:

Ne govorim o kontroli razvoja. Govorim o kontroli pojedinaca kojima je takvo "oružje" u rukama.

Meni se čini da bi onda bilo pošteno Dabru pustiti iz pritvora uz ispriku jer je zakonska odredba koja zabranjuje posjedovanje kalašnjikova (ili što je već imao u rukama) zbog moguće ugrze drugih ljudi potpuno bespredmetna ako je sasvim normalno da nema nikakve kontrole nad - ne razvojem nego načinima primjene umjetne inteligencije.

Lord Byron kaže:

Društvena kontrola nije (nužno) zabrana.

Znam, ali to je trivijalno. Apsolutno svaka sitnica se može iskoristiti za napraviti nešto dobro ili loše.

S kamenjima možeš napraviti kuću ili kamenovati ljude.

Nemaš posebnu odredbu u zakonima o kontroli zlouporabe kamenja - da ne smiješ kamenovati ljude, to se podrazumijeva.

Isto vrijedi za AI. 'Pojedinci' koji mogu (zlo)upotrebljavati AI su praktički svi danas.

Fantasist kaže:

Definirao bih to kao volju i neki smisao, a računalo AI već sad je na razini HALLa skoro. I da recimo čovječanstvo izumre od virusa, strojevi bi mogli sami (možda do 2050. ovisi o robotima) nastaviti postojanje (samorepliuciranje) i na neki način i dio ljudske evolucije jer su nastali od ljudi.

Sada ne. Današnji LLM-i jesu daleko bolji od očekivanja, ali još uvijek tu nema tragova generalizacije, a kamoli čega drugog. A robotika je daleko iza. Robot koji je sposoban nešto fizički raditi na razini preciznosti blizu čovjeka košta milijun dolara i ima puno limita i bugova. I proizvodi ga jedna firma na svijetu.

Možda će to vrijeme doći, ali još nije vrijeme za samostalne strojeve.

Mr. White kaže:

Pogledajte kako dva AI bota razgovaraju "svojim" jezikom


https://x.com/ggerganov/status/1894057587441566081

Ovi su daleko kvalificiraniji za u Sabor od sadašnjih zastupnika....