https://www.ilfattoquotidiano.it/2018/03/19/uber-incidente-mortale-in-arizona-sospesi-tutti-i-test-sulla-guida-autonoma/4237617/

Sospesi i test in tutto il mondo.

Saranno da valutare bene le responsabilità.
Non è detto che sia necessariamente colpa della macchina.

Condoglianze per la povera signora... 

L'articolo de Il Fatto Quotidiano dice: "L’auto ha investito una donna che si trovava in bici su un attraversamento pedonale mentre era inserita la modalità self driving".

Secondo la polizia di Tempe (Arizona), la dinamica é stata questa: “The vehicle was traveling northbound ... when a female walking outside of the crosswalk crossed the road from west to east when she was struck by the Uber vehicle,” police said in a statement. The crash occurred about 10 p.m. Sunday in the area of Curry Road and Mill Avenue, a busy intersection with multiple lanes in every direction.

Fonti: https://www.reuters.com/article/us-autos-selfdriving-uber/woman-dies-in-arizona-after-being-hit-by-uber-self-driving-suv-idUSKBN1GV296
           https://www.washingtonpost.com/news/dr-gridlock/wp/2018/03/19/uber-halts-autonomous-vehicle-testing-after-a-pedestrian-is-struck/?utm_term=.79818874dedb

Sostanzialmente, l'incidente é avvenuto su una strada particolarmente trafficata, all'altezza di un incrocio con molteplici corsie per ogni senso di marcia. La signora stava camminando lungo la strada, con la bicicletta a mano, fuori dal marciapiede, quando poi ha cominciato ad attraversare la strada, fuori dalle striscie.

Incuriosisce il perché sull'articolo de Il Fatto Quotidiano siano stati omessi tanti dettagli e venga detto che la vittima (R.I.P.  ) era sulle strisce.

Sicuramente piú in avanti apparira un video dell'incidente ed in ogni caso é giusto sospendere tutti i test fino a che non sará fatta chiarezza su questa fatalitá; vitale sará determinare con esattezza quanti istanti prima la signora ha invaso la carreggiata di circolazione e cosí poter determinare le rispettive responsabilitá.

Il problema serio della guida autonoma non è tanto questo, ma le situazioni in cui il computer deve prendere decisioni e stabilire quale debba essere il "male minore" tra due incidenti inevitabili. Stare dalla parte della ragione e uccidere un pedone che ha invaso la corsia o invadere la corsia opposta e provocare un incidente con un altro veicolo, per esempio. O mandare la macchina fuori strada contro un albero. Questioni etiche pesantissime che dovranno essere decise dai programmatori che scrivono il software.

Questioni etiche che non sono previste per i giornalisti (o presunti tali) di certe testate...

Certe testate esistono solo per poter essere linkate sui social ...

Quoto.

I programmatori tradurranno soltanto ciò che deciderà qualcun altro sopra di loro.

Non spetta a loro assumersi una responsabilità così immensa, ci mancherebbe altro.

Vedremo chi se la prenderà. Non è così facile.

In effetti... dovranno rispettare norme e regole, anche se penso che saranno chiamati in causa nella stesura degli stessi...

imho tali regole dovranno essere emesse da un organismo riconosciuto globalmente. Non posso essere lasciate a chi produce e progetta le autonome. Non e' che tesla decide di investire i pedoni a destra e mercedes di fare un frontale con un tir nella stessa "scena".

Più che programmarlo per questioni etiche, gli mancherà sempre la sensibilità (in senso ampio).
Personalmente, se vedo una persona che cammina fuori dal marciapiede istintivamente mi prendo più margine di sicurezza....rallento, mi sposto a sinistra anche se le ruote superano la linea di mezzeria (quindi in teoria violazione del CdS). La IA, per quanto potenti, calcolano sempre solo il prevedibile, non fanno scenari sull'imprevedibile (in teoria un pedone NON dovrebbe attraversare fuori dalle zebre)

La questione guida autonoma di livello superiore al 2, e specie quelle livello 4 e 5 mi stanno ricordando La parabola della IA nel mio settore.
Fino all'anno scorso si diceva che i robot ci avrebbero sostituito quasi subito....adesso si parla di "robot for advisor". Ovvero di robot a supporto, non in sostituzione

Perchè, se è fuori delle strisce, si può investire un pedone? Non cambia nulla, è un incidente gravissimo. C'è troppa fiducia nella guida autonoma e nella IA in generale.

Non è che i guidatori umani non investano mai pedoni o non facciano mai errori.

Concordo. Il problema e' "L'uomo si merita piu' fiducia ?" 

https://www.carscoops.com/2018/03/op-ed-releasing-totally-driverless-vehicles-public-streets-suicidal/

In ogni caso, la domanda che piu' mi rimbalza in testa e' se abbiamo davvero bisogno della guida autonoma. Io preferivo prima le auto volanti 

E questo cosa vuol dire? Un sistema automatico non è mai distratto, non è mai ubriaco, non è mai insonnolito, non è mai incazzato, non deve mai sbagliare, quindi a meno che la signora attraversasse a 50 km/h o più, è una debacle gravissima.