Povjerenje u dobu umjetne inteligencije

[pećina]

Iako je današnja umjetna inteligencija poprilično rudimentarna, polagano ulazi u našu svakodnevnicu. Primarna svrha je pomaganje ljudima u nekim odlukama ili analizama odnosno alat. No, za razliku od klasičnog alata, umjetna inteligencija djeluje autonomno i mi moramo na neki način vjerovati njenim odlukama.

No problematična je interakcija s civilizacijom te postepena integracija. Često se kaže da autonomna vozila ne moraju biti savršena nego samo moraju biti statistički bolja od ljudi. No onda dolazimo do škakljivih situacija poput http://moralmachine.mit.edu i trolley problema.

U slučaju medicine, što kad AlphaDoctorGo ili kako se već bude zvao donese dijagnozu i pošalje te na operaciju, hoćemo li slijepo vjerovati ili ćemo tražiti drugo mišljenje? Ljudi često traže na internetu svoje simptome i dolaze kod doktora s popisom od 5 najgorih bolesti koje zadovoljavaju njihove simptome. Kako ćemo riješiti taj problem? Tko zapravo odlučuje: doktor ili AI? Želite završiti kao Maškarin ili kao AI-Maškarin? Možda je vaš doktor onaj koji je prošao s 2.0 prosjekom, a možda ćete biti primjer kako AI može pogriješiti.

Zatim imamo problem kad se umiješa policija ili linču sklona publika pa dobijemo situacije poput krivo identificiranih slika pustinje kao porno uradaka, lažni porno uradci ili kreiranja lažnih vijesti/videa uz pomoć sve dostupnijih alata. A da i ne spomenem bizarnu ideju da se identificira tko je kriminalac na osnovu obične fotografije.

Kako će ovakvi alati utjecati na razvoj društva i povjerenja unutar njega? Hoćemo li za par godina biti nesposobni odlučiti ponijeti kišobran sa sobom ako prvo ne pitamo svoj mobitel pada li kiša?

Možda ni nećemo stići do AI apokalipse prije nego što se jednostavno zatupimo.

[toxde]

pećina kaže:

Iako je današnja umjetna inteligencija poprilično rudimentarna, polagano ulazi u našu svakodnevnicu. Primarna svrha je pomaganje ljudima u nekim odlukama ili analizama odnosno alat. No, za razliku od klasičnog alata, umjetna inteligencija djeluje autonomno i mi moramo na neki način vjerovati njenim odlukama.

...

zasto bi svrha AI bila pomaganje ljudima? to bi onda bio klasican alat.

[medonaodmoru]

pećina kaže:

U slučaju medicine, što kad AlphaDoctorGo ili kako se već bude zvao donese dijagnozu i pošalje te na operaciju, hoćemo li slijepo vjerovati ili ćemo tražiti drugo mišljenje? Ljudi često traže na internetu svoje simptome i dolaze kod doktora s popisom od 5 najgorih bolesti koje zadovoljavaju njihove simptome. Kako ćemo riješiti taj problem? Tko zapravo odlučuje: doktor ili AI?

Sa ovim imam nekakvih iskustava. AI programi koji postoje su definitivno bolji dijgnostičari od ljudi i dalje se usavršavaju sa svakom postavljenom dijagnozom. Pretežno se rade tako da ponude par dijagnoza sa iskazanom vjerojatnošću za svaku od njih a "ljudskom" dijagnostičaru ostaje da se konačno odluči. U principu, najbolje se odlučiti za onu koju je AI proglasio najvjerojatnijom. AI je tu savjetodavac a odlučuje čovjek.

[Illana]

pećina kaže:

...
Kako će ovakvi alati utjecati na razvoj društva i povjerenja unutar njega? Hoćemo li za par godina biti nesposobni odlučiti ponijeti kišobran sa sobom ako prvo ne pitamo svoj mobitel pada li kiša?

Prognoze su vjerojatno kao onaj vic gdje ima jedna dobra i jedna loša vijest, kad savršeni alati ne postoje.

Ne znam kako će biti, no možemo biti sigurni da će naši potomci u nekoj mjeri nezadovoljni i kritični misliti kako je nekad nešto naprosto bilo nemoguće jer, reći će, ljudi sigurno nisu bili ovako glupi kao danas.
Konstatirat će nostalgično da je sve prije bilo bolje.

Mi upravo proživljavamo tu idiličnu prošlost, svjesni toga kako nam je sad lijepo.

[pećina]

toxde kaže:

zasto bi svrha AI bila pomaganje ljudima? to bi onda bio klasican alat.

Zato što jest? Nije klasičan jer ti klasičan alat služi kao produžena ruka. AI ima određenu autonomnost.

[toxde]

vjerojatno i je s vecinom danasnjih AI sustava zamisljene su kao alat za covjeka. međutim s time smo joj limitirali autonomiju. i kako je takav AI alat, za covjeka se javljaju problemi koje si naveo kao i sa svakim drugim alatom.

[pećina]

Znači primjeri koje sam upotrijebio vrijede i da pričamo o upotrebi odvijača? Got it!

[toxde]

pa da. inace povjerenje se moze gledati i iz drugog kuta. kako ce mashina znati da ce covjek obaviti posao. ljudi su vrlo koruptivna bica. al i to je moguce rjesiti raznim incentivima.

[Leteća]

pećina kaže:

Možda ni nećemo stići do AI apokalipse prije nego što se jednostavno zatupimo.

Već jesmo zatupili. Još malo pa ćemo biti glupi ko kurac. A strojevi postaju sve pametniji. (Za neke nickove ponekad pomislim da su generatori besmislenog teksta.)

[mravac8]

Ljudi su svoje povjerenje pružali, a i danas pružaju, svemu i svačemu pa ne vidim zašto ne bi i umjetnoj inteligenciji.

Vjerovali su vračevima, danas vjeruju svečenicima i raznim vidovitim milanima, vjerovali su tračevima, susjedima ........

Danas oni koji ne vjeruju liječnicima kada je cjepivo u pitanju vjeruju onima koji tvrde da je cjepivo opasno.

Kome ćemo više vjerovati, liječniku od krvi i mesa ili umjetnoj inteligenciji?

Danas tražimo podatke na internetu, ne kod susjeda. Ljudski liječnici svoju dijagnozu daju na temelju nekakvih laboratorijskih nalaza, dakle oni su produžetci neke tehnologije.

Mislim da neće biti nikakav problem povjerenje pokloniti umjetnoj inteligenciji, jer mi to radimo već i sada. I kao što žaba ne iskoči iz lonca ako se voda polako grije, tako i mi, nećemo iskočiti iz tog vlaka. Uostalom, zašto i bi, za sada nas strojevi manje lažu od ljudi.

[- Sizif -]

Ovo pitanje u vezi autonomnih automobila postaje sve aktualnije, to nije neki daleki futur nego nešto što se već sad dešava i u fazi je testiranja u više gradova...

Vozač često reagira refleksno, no softver mora imati unapijed definirane odrednice koje proizlaze iz moralnih prosudbi.

Ako u situaciji neizbježne nesreće postoje dvije opcije zbog kojih bi očekivani događaj bio ili pogibija putnika ili pogibija dva pješaka, u čiju korist bi trebao biti programiran autonomni automobil? Bi li smio žrtvovati život putnika kojeg vozi za korist dva pješaka?

Bi li na jednak način bio programiran i u slučaju da vozi npr. predsjednika države ili bi se iz načina kako je programiran egzaktno vidjelo da život predsjednika 'vrijedi više' nego neki drugi život?

[mravac8]

- Sizif - kaže:

Ako u situaciji neizbježne nesreće postoje dvije opcije zbog kojih bi očekivani događaj bio ili pogibija putnika ili pogibija dva pješaka, u čiju korist bi trebao biti programiran autonomni automobil? Bi li smio žrtvovati život putnika kojeg vozi za korist dva pješaka?

Autonomni automobili će biti programirani tako da u takvu situaciju ne mogu ni doći. Samo čovjek može voziti toliko neoprezno da sebe ili druge dovede u rizičnu situaciju.

[- Sizif -]

mravac8 kaže:

Autonomni automobili će biti programirani tako da u takvu situaciju ne mogu ni doći. Samo čovjek može voziti toliko neoprezno da sebe ili druge dovede u rizičnu situaciju.

To je potpuna besmislica, jasno da do takve situacije može doći jer uvijek postoje nepredviđene i nepredvidljive situacije.

Softver može donositi odluke na temelju ulaznih parametara (brzina, inercija, stanje na cesti...) koji su svodivi na matematiku, ali moralni aspekt mora biti unaprijed uprogramiran od strane čovjeka.

[pećina]

- Sizif - kaže:

Ovo pitanje u vezi autonomnih automobila postaje sve aktualnije, to nije neki daleki futur nego nešto što se već sad dešava i u fazi je testiranja u više gradova...

Vozač često reagira refleksno, no softver mora imati unapijed definirane odrednice koje proizlaze iz moralnih prosudbi.

Ako u situaciji neizbježne nesreće postoje dvije opcije zbog kojih bi očekivani događaj bio ili pogibija putnika ili pogibija dva pješaka, u čiju korist bi trebao biti programiran autonomni automobil? Bi li smio žrtvovati život putnika kojeg vozi za korist dva pješaka?

Bi li na jednak način bio programiran i u slučaju da vozi npr. predsjednika države ili bi se iz načina kako je programiran egzaktno vidjelo da život predsjednika 'vrijedi više' nego neki drugi život?

Auto bi uvijek trebao odabirati po pravilima. Makar je 10 ljudi na crvenom, a ti si jedan putnik, oni krše pravila i ti ne smiješ poginuti jer netko drugi krši pravila, u suprotnom to otvara prostor za zloupotrebu (npr. netko istrči na cestu kad ne bi trebao kako bi naudio onome u autu).

Ako se radi o pješacima na zelenom, a auto ne može zakočiti, onda je fer da auto uništi samog sebe jer se tu i nalazi zbog onoga koji je u njemu. Nema smisla da netko drugi pogiba zbog greške u autu kojeg je odabrao njegov putnik. Na ovaj način bi i stvorio pritisak na proizvođače da proizvode bolje automobile koje nikad tebe neće dovesti u smrtnu situaciju.

[mravac8]

- Sizif - kaže:

To je potpuna besmislica, jasno da do takve situacije može doći jer uvijek postoje nepredviđene i nepredvidljive situacije.

U nepredviđene i nepredviljive situacije može se dovesti samo čovjek, ali ne i stroj.

Ali budući da je to za tebe potpuna besmislica, besmisleno je nastavljati ovaj razgovor.

[mravac8]

pećina kaže:

Auto bi uvijek trebao odabirati po pravilima. Makar je 10 ljudi na crvenom, a ti si jedan putnik, oni krše pravila i ti ne smiješ poginuti jer netko drugi krši pravila, u suprotnom to otvara prostor za zloupotrebu (npr. netko istrči na cestu kad ne bi trebao kako bi naudio onome u autu).

Ako se radi o pješacima na zelenom, a auto ne može zakočiti, onda je fer da auto uništi samog sebe jer se tu i nalazi zbog onoga koji je u njemu. Nema smisla da netko drugi pogiba zbog greške u autu kojeg je odabrao njegov putnik. Na ovaj način bi i stvorio pritisak na proizvođače da proizvode bolje automobile koje nikad tebe neće dovesti u smrtnu situaciju.

Ne mislim da će dolaziti do takvih situacija. Prvo, pješaci će morati biti puno discipliraniji, što i nije neki problem. U avionu nikome ne pada na pamet da otvara vrata aviona ili da radi neka druga sranja.

Osim toga, nije problem ugraditi u automobil većinu *nepredvidljivih* situacija, recimo, automobil će znati da postoji mogućnost da čovjek prokuša preći preko crvenog semafora, i voziti će dovljno sporo da se može zaustaviti ako se približava semaforu. Nije po pokretima čovjeka teško zaključiti koje su mu namjere i automobil samo treba dobro znati *čitati* te znakove.

Jako puno nesereća izbjeglo bi se da čovjek vozi po propisima, odnosno da poštuje ograničenje brzine u gradu. U tom slučaju stigne ispravno reagirati i u nepredviđenim situacijama, zaustaviti vozilo, skrenuti ...... Autonomni automobil samim poštivanjem ograničenja brzine spriječiti će barem 70 posto nesreća.

[- Sizif -]

pećina kaže:

Auto bi uvijek trebao odabirati po pravilima. Makar je 10 ljudi na crvenom, a ti si jedan putnik, oni krše pravila i ti ne smiješ poginuti jer netko drugi krši pravila, u suprotnom to otvara prostor za zloupotrebu (npr. netko istrči na cestu kad ne bi trebao kako bi naudio onome u autu).

Ako se radi o pješacima na zelenom, a auto ne može zakočiti, onda je fer da auto uništi samog sebe jer se tu i nalazi zbog onoga koji je u njemu. Nema smisla da netko drugi pogiba zbog greške u autu kojeg je odabrao njegov putnik. Na ovaj način bi i stvorio pritisak na proizvođače da proizvode bolje automobile koje nikad tebe neće dovesti u smrtnu situaciju.

Situacija ne mora biti takva.

Naprimjer: netko na kolnik gurne (ili do toga dođe zbog neke druge nesreće) dvoje pješaka (npr. ženu i dijete). Jedini način da se izbjegne nalet na njih je prijeći u suprotni trak gdje u susret dolazi šleper.

Izračun vjerojatnosti na temelju odnosa brzina, mase i svega ostalog (to je nešto što softver može odraditi) je npr. u opciji jedan 99% da će poginuti ta žena i dijete, a u drugoj opciji (sraz sa šleperom) 99% vjerojatnosti da će poginuti putnik.

Kako treba biti pisan softver? Treba li odvesti u smrt putnika kojeg vozi kako bi spasio dvoje na cesti?

Kako bi ti isprogramirao odgovor na to pitanje da si autor softvera za autonomno vozilo?

Zanima me i odgovor svih drugih koji misle da znaju dobro argumentirati odgovore na takva pitanja...

[pećina]

- Sizif - kaže:

Situacija ne mora biti takva.

Naprimjer: netko na kolnik gurne (ili do toga dođe zbog neke druge nesreće) dvoje pješaka (npr. ženu i dijete). Jedini način da se izbjegne nalet na njih je prijeći u suprotni trak gdje u susret dolazi šleper.

Izračun vjerojatnosti na temelju odnosa brzina, mase i svega ostalog (to je nešto što softver može odraditi) je npr. u opciji jedan 99% da će poginuti ta pješakinja i dijete, a drugoj opciji (sraz sa šleperom) 99% vjerojatnosti da će poginuti putnik.

Kako treba biti pisan softver?

Softver nikada ne bi trebao uzimati u obzir broj ljudi, dob, spol, ljepotu, imovinsku vrijednost ili bilo kakav drugo faktor osim pravila oko sigurnosti u prometu.

Što bi ti učinio da se to tebi dogodi?

[- Sizif -]

pećina kaže:

Softver nikada ne bi trebao uzimati u obzir broj ljudi, dob, spol, ljepotu, imovinsku vrijednost ili bilo kakav drugo faktor osim pravila oko sigurnosti u prometu.

Što bi ti učinio da se to tebi dogodi?

Što to znači, konkretno? Po tebi, trebao bi biti programiran tako da u toj ili-ili situaciji pregazi ženu i dijete?

pećina kaže:

Što bi ti učinio da se to tebi dogodi?

Čovjek u takvim okolnostima djeluje refleksno, a ne promišljeno pa je teško reći što bi netko učinio. Ovdje je riječ o onome što bi na promišljen način i prema moralu trebalo učiniti.

[pećina]

- Sizif - kaže:

Što to znači, konkretno? Po tebi, trebao bi biti programiran tako da u toj ili-ili situaciji pregazi dvoje ljudi (ženu i dijete)?

Apsolutno da. Ne vidim razlog za išta drugo? Koji je tvoj kriterij? To što je majka i dijete?

Što ako je dvoje penzionera s Alzheimerom koji su istovremeno neonacisti, ovisnici i piromani?