Povjerenje u dobu umjetne inteligencije

[Illana]

- Sizif - kaže:

Kome bi to pisao?

Sustav, podrazumijeva se, donosi brojčane procjene, odabire se opcija s očekivanim najmanjim brojem žrtava.

Koji sustav, kome je namijenjeno to vozilo?

Onaj tko kupuje auto pazi na sebe i svoju sigurnost, proizvođači automobila bave se sigurnošću vozača i putnika, ne okoliine.

Zamisli reklamu koja kupcu ili korisniku govori kako u slučaju nesreće ... zbog visokih moralnih standarda našeg sustava, jamčimo vam da ćete nastradati baš vi ...

[wand_1]

Ne znam kakvog tu prostora za raspravu uopće ima. Godišnje u svijetu oko 1.4 milijuna ljudi gine u prometnim nesrećama, kojima je uzrok u pravilu ljudski faktor.

Kada su prometne nesreće u pitanju ljudi koji u njima sudjeluju u pravilu se ne vode nikakvim moralnim načelima, jer se radi o prekratkim vremenskim razmacima da bi se uopće moglo svjesne misli, kamoli promišljene moralne odluke.

Cestovni promet tek treba dostići zračni promet u kojem, ako se voziš sa 40 najboljih svjetskih kompanija, šansa da pogineš je oko 1:20 milijuna.

Veliki dio te priče leži na u načinu na koji funkcionira avio industrija kada je u pitanju upravljanje rizicima, a sasvim sigurno tu spada i činjenica da se današnji avioni snažno oslanjaju na autopilot, automatizaciju, odnosno specijalizirani AI sustav.

Po meni, nije pitanje vremena kada će samovozeći automobili na cestu, nego kada će ljudima biti zabranjeno upravljanje vozilima u cestovnom prometu, ako se vodimo racionalnim odlukama.

[- Sizif -]

wand_1 kaže:

Ne znam kakvog tu prostora za raspravu uopće ima. Godišnje u svijetu oko 1.4 milijuna ljudi gine u prometnim nesrećama, kojima je uzrok u pravilu ljudski faktor.

Kada su prometne nesreće u pitanju ljudi koji u njima sudjeluju u pravilu se ne vode nikakvim moralnim načelima, jer se radi o prekratkim vremenskim razmacima da bi se uopće moglo svjesne misli, kamoli promišljene moralne odluke.

Točno, čovjek će reagirati refleksno i poslije možda žaliti zbog krive odluke.

AI sustav može uzeti u obzir moralne prosudbe koje mu a priori uprogramira čovjek. Ovdje se raspravlja o tom aspektu.

[pećina]

- Sizif - kaže:

Kome bi to pisao?

Sustav, podrazumijeva se, donosi brojčane procjene, odabire se opcija s očekivanim najmanjim brojem žrtava.

Što ako to nije u stanju izračunati? Jer nema dovoljno parametara i kad uzmeš grešku i toleranciju nije u stanju zaključiti išta o broju žrtava, koji je fallback mehanizam?

[- Sizif -]

Illana kaže:

Koji sustav, kome je namijenjeno to vozilo?

Onaj tko kupuje auto pazi na sebe i svoju sigurnost, proizvođači automobila bave se sigurnošću vozača i putnika, ne okoliine.

Ne samo o tome, život drugih sudionika u prometu je relevantan faktor. Osim ako ti moral nije bitan.

Illana kaže:

Zamisli reklamu koja kupcu ili korisniku govori kako u slučaju nesreće ... zbog visokih moralnih standarda našeg sustava, jamčimo vam da ćete nastradati baš vi ...

Odakle ti to? Sustav 'jamči' tj. teži tome da nađe rješenje s najmanjim mogućim brojem žrtava. Neki put će upravo to spasiti putnike na način na koji vozač ne bi stigao odreagirati.

[- Sizif -]

pećina kaže:

Što ako to nije u stanju izračunati? Jer nema dovoljno parametara i kad uzmeš grešku i toleranciju nije u stanju zaključiti išta o broju žrtava, koji je fallback mehanizam?

Onda ništa u tom smislu. Parametar kojeg nemaš ne možeš izmisliti. Govorimo u situaciji kad vozilo registrira druge sudionike u prometu (a ono bi to trebalo biti u stanju ukoliko je uopće pušteno u promet).

[wand_1]

- Sizif - kaže:

Točno, čovjek će reagirati refleksno i poslije možda žaliti zbog krive odluke.

Ne mislim da se to uopće može nazvati odlukom.

AI sustav može uzeti u obzir moralne prosudbe koje mu a priori uprogramira čovjek. Ovdje se raspravlja o tom aspektu.

Raspravlja se o izvan konteksta. Samovozeći automobili traže i drugačija prometna rješenja. Vi raspravljate kao da će sve ostati isto, samo će automobili sami voziti, a to tako baš i nije zamišljeno na srednji i dugi rok.

Isto tako nije zamišljeno jedan dan odjednom tresnuti te aute u promet, eto tako.

[Illana]

- Sizif - kaže:

Ne samo o tome, život drugih sudionika u prometu je relevantan faktor.

Autoindustriji je korisnik na prvom mjestu.

Odakle ti to? Sustav 'jamči' tj. teži tome da nađe rješenje s najmanjim mogućim brojem žrtava. Neki put će upravo to spasiti putnike na način na koji vozač ne bi stigao odreagirati.

Koji sustav, jel bi ti kupio vozilo s takvim sustavom? Ja ne bih. Kupila bih ono koje putniku jamči što je moguće veću sigurnost.

[wand_1]

- Sizif - kaže:

Ne samo o tome, život drugih sudionika u prometu je relevantan faktor. Osim ako ti moral nije bitan.

Odakle ti to? Sustav 'jamči' tj. teži tome da nađe rješenje s najmanjim mogućim brojem žrtava. Neki put će upravo to spasiti putnike na način na koji vozač ne bi stigao odreagirati.

Hipotetska situacija o kojoj pričate loše je koncipirana. Automobili budućnosti sličniji su vozilima koja se kreću po tračnicama, jer su u pametnoj interakciji sa cestom, ne mogu se frontalno sudariti, osim u slučaju nekog totalnog blackouta.

Nadalje, pješački prijelazi ne bi trebali uopće biti u tim zonama, baš kao što ih nema ni u metrou ni na autocesti, pa tu i danas slabo ginu pješaci. A opet, gdje ih ima, tu se vozila moraju kretati brzinom koja je za pješake sigurna.

Što se tih apsekata tiče, to će biti neusporedivo sigurnije nego danas, a eventualni izazovi leže u tehničkoj zaštiti, odnosno sigurnosti informacijskih sustava. Ali to ne vrijedi samo za aute, nego za sve..

[- Sizif -]

Illana kaže:

Autoindustriji je korisnik na prvom mjestu.

Što to znači, konkretno?

Naprimjer, pred vozilom se prepriječio kamion cisterna s benzinom. Stati se ne stigne (to pokazuje izračun masa i brzine). Sudar se može izbjeći na način da se skrene na pješačku stazu.

Na pješačkoj stazi nema nikoga - sustav treba tu opciju odabrati, zar ne?

No, što ako je na stazi čovjek? Što ako je na stazi pedeset ljudi?

Po tebi AI sustav treba izbjeći kamion i spastiti putnika u kabini (sve i ako je samo jedan) neovisno o broju žrtvava među pješacima?

[Illana]

wand_1 kaže:

Raspravlja se o izvan konteksta. Samovozeći automobili traže i drugačija prometna rješenja. Vi raspravljate kao da će sve ostati isto, samo će automobili sami voziti, a to tako baš i nije zamišljeno na srednji i dugi rok.

Isto tako nije zamišljeno jedan dan odjednom tresnuti te aute u promet, eto tako.

Svejedno, i da se mijenjaju i infrastruktura i prometna pravila i razvijaju neki novi oblici prijevoza, jedan od kriterija privlačenja korisnika s obzirom na tržište sigurno bi bila sigurnost putnika, kao i danas. Ove Sizifove moralne dubioze zgodan su način da svoje putnike prepustiš konkurenciji.

[- Sizif -]

wand_1 kaže:

Hipotetska situacija o kojoj pričate loše je koncipirana. Automobili budućnosti sličniji su vozilima koja se kreću po tračnicama, jer su u pametnoj interakciji sa cestom, ne mogu se frontalno sudariti, osim u slučaju nekog totalnog blackouta.

Ma to nema veze. Nesreće neće biti nepostojeće, kvarovi će uvijek postojati...

wand_1 kaže:

Nadalje, pješački prijelazi ne bi trebali uopće biti u tim zonama, baš kao što ih nema ni u metrou ni na autocesti, pa tu i danas slabo ginu pješaci. A opet, gdje ih ima, tu se vozila moraju kretati brzinom koja je za pješake sigurna.

Sigurno je 10 km/h. U primjerima se uopće nije radilo o pješačkim prijelazima, AI upravljana vozila neće voziti samo po autocestama, niti u tunelima kakve imaju metroi...

[- Sizif -]

Illana kaže:

Svejedno, i da se mijenjaju i infrastruktura i prometna pravila i razvijaju neki novi oblici prijevoza, jedan od kriterija privlačenja korisnika s obzirom na tržište sigurno bi bila sigurnost putnika, kao i danas. Ove Sizifove moralne dubioze zgodan su način da svoje putnike prepustiš konkurenciji.

Kako to misliš?

AI upravljano vozilo bi, ako je situacija takva da se ne stigne stati, trebalo zgaziti pedeset pješaka da spasi jednog putnika u kabini ukoliko skretanjem na pješačku stazu izbjegava udar?

Ako bi imao tako pisan softver, zašto bi mu se dopustio prolaz na tehničkom?

[Illana]

- Sizif - kaže:

Kako to misliš?

AI upravljano vozilo bi, ako je situacija takva da se ne stigne stati, trebalo zgaziti pedeset pješaka da spasi jednog putnika u kabini ukoliko skretanjem na pješačku stazu izbjegava udar?

Ako bi imao tako pisan softver, zašto bi mu se dopustio prolaz na tehničkom?

Piši softver kakav hoćeš, čovjek uzima ono što njemu treba.

I danas neka vozila imaju mogućnost velikih brzina za koja se pitaš gdje su ceste na kojima bi ih vozio. Hoću reći, zašto takva vozila prolaze, čemu to osim da se čovjek bolje ubije, sebe il drugog.

Nek programira tko što hoće, mogu ti samo reći da ako imam izbora, ja u vozilo koje bi pretpostavljalo neku kalkulaciju o kojoj govoriš ne bih sjela. Odabrala bih ono koje u prvom redu sigurnost nudi meni. Sve potancijalne štete nemoguće je povezati tako kako si ti to zamislio jer je kombinacija previše, zato one nisu moja briga, moj je zadatak negdje stići, nešto obaviti. U slučaju nesreće, i ja bih negdje i nekom nedostajala, to je moja odgovornost i meni je to važnije.

[- Sizif -]

Illana kaže:

Piši softver kakav hoćeš, čovjek uzima ono što njemu treba.

I danas neka vozila imaju mogućnost velikih brzina za koja se pitaš gdje su ceste na kojima bi ih vozio. Hoću reći, zašto takva vozila prolaze, čemu to osim da se čovjek bolje ubije, sebe il drugog.

Nek programira tko što hoće, mogu ti samo reći da ako imam izbora, ja u vozilo koje bi pretpostavljalo neku kalkulaciju o kojoj govoriš ne bih sjela. Odabrala bih ono koje u prvom redu sigurnost nudi meni. Sve potancijalne štete nemoguće je povezati tako kako si ti to zamislio jer je kombinacija previše, zato one nisu moja briga, moj je zadatak negdje stići, nešto obaviti. U slučaju nesreće, i ja bih negdje i nekom nedostajala, to je moja odgovornost i meni je to važnije.

Ali vozilo koje bi bilo programirano da u takvim olonosima odabere opciju gaženja pedesetak pješaka kako bi spasilo jednog putnika vjerojatno bi nakon prve nesreća bilo zabranjeno.

Softver sasvim sigurno druge sudionike u prometu ne bi mogao tretirati kao štakore. Ili ti misliš da bi? (Tako proizlazi iz ovih tvojih komentara.)

[pećina]

Je li ti svejedno ako AI bira između čovjeka koji prelazi na crveno i čovjeka koji hoda pješačkom stazom?

[- Sizif -]

pećina kaže:

Je li ti svejedno ako AI bira između čovjeka koji prelazi na crveno i čovjeka koji hoda pješačkom stazom?

Prioritet se ne može dati onome tko je svojim postupcima prouzročio nesreću. O tome ni nije bila riječ.

[Illana]

- Sizif - kaže:

Ali vozilo koje bi bilo programirano da u takvim olonosima odabere opciju gaženja pedesetak pješaka kako bi spasilo jednog putnika vjerojatno bi nakon prve nesreća bilo zabranjeno.

Softver sasvim sigurno druge sudionike u prometu ne bi mogao tretirati kao štakore. Ili ti misliš da bi? (Tako proizlazi iz ovih tvojih komentara.)

Softver bi bio takav da upravlja vozilom kao čovjek. U praksi bi to bio ogroman napredak jer bi se bolje držao pravila, ne bi bio pijan, dekoncentriran, bolestan, itd.
Vozač u škakljivim situacijama instinktivno spašava prvo sebe, nastojeći izbjeći dodatnu štetu ako je moguće. Ne vidim problem u tome da se tako ponaša i jedno ovakvo vozilo.

Uostalom, stvar se dorađuje praksom. Ako se pokaže da nešto treba korigirati, učinili bi tako.

[- Sizif -]

Illana kaže:

Softver bi bio takav da upravlja vozilom kao čovjek. U praksi bi to bio ogroman napredak jer bi se bolje držao pravila, ne bi bio pijan, dekoncentriran, bolestan, itd.
Vozač u škakljivim situacijama instinktivno spašava prvo sebe, nastojeći izbjeći dodatnu štetu ako je moguće. Ne vidim problem u tome da se tako ponaša i jedno ovakvo vozilo.

To je u kontradikciji s tvojom prvom rečenicom. "Softver bi bio takav da upravlja vozilom kao čovjek". Softver se ne može ponašati instinktivno, stihijski, panično... bilo bi izuzetno blesavo da softver takve reakcije pokušava imitirati... tako da to zaboravi.

Ostaje pitanje moralnih prosudbi, to čovjek unaprijed mora definirati (isprogramirati) jer stroj ne može raditi moralne prosudbe... ali može u djeliću sekunde primijeniti unaprijed zadane moralne aspekte koji se tiču sustava vrijednosti. O tome je riječ.

[Illana]

- Sizif - kaže:

To je u kontradikciji s tvojom prvom rečenicom. "Softver bi bio takav da upravlja vozilom kao čovjek". Softver se ne može ponašati instinktivno, stihijski, panično... bilo bi izuzetno blesavo da softver takve reakcije pokušava imitirati... tako da to zaboravi.

Ostaje pitanje moralnih prosudbi, to čovjek unaprijed mora definirati (isprogramirati) jer stroj ne može raditi moralne prosudbe... ali može u djeliću sekunde primijeniti unaprijed zadane moralne aspekte koji se tiču sustava vrijednosti. O tome je riječ.

Nisi me razumio. Ne kažem da se softver treba ponašati instinktivno nego činjenicu da čovjek prirodno prvo spašava sebe preuzme kao model, dakle putnika stavlja na prvo mjesto.

Ti svoj primjer uvijek možeš proširiti dodatnim - a što ako? Što ako je jednih više, drugih manje, što ako je muško ili žensko, što ako je dijete ili odrasli, ako je deblji ili mršaviji, musliman ili hindus, niškoristi ili liječnik, kiša, snijeg, meteori ... i sve moguće kombinacije atributa, to je nemoguće razmrsiti.

Možda ugraditi opciju letenja. U trenutku nedoumice, stroj se vine u zrak. Naravno, tu treba pripaziti na ptice, posebno na zaštićenu vrstu.