| Leviatan | Le dilemme des voitures autonomes |
2 #1 |
|---|---|---|
|
Je poste trop
 
Inscrit: 18/09/2008 21:28
Post(s): 13825
Karma: 5584 |
Lors d'un accident inévitable, quelle option doit choisir la voiture ? Sauver à tout prix la vie des personnes dans l'habitacle ou épargner les vies environnantes ?
Contribution le : 14/12/2015 21:51
|
|
 Signaler 
|
|
|
| Krogoth | 1 #2 |
|
|---|---|---|
|
Je masterise !
 
Inscrit: 30/09/2007 15:44
Post(s): 4669
Karma: 1861 |
Dès l'hypothese de base il y a un soucis. C'est quand même le vehicule qui s'est mit dans une situation dans laquelle il aurait pas du etre (distance de securité etc...). Peux on avoir réellement un accident inévitable qu'avec des vehicules autonomes?
Contribution le : 14/12/2015 23:52
|
|
|
Signaler
|
|
|
0 #3 |
||
|---|---|---|
|
Fantôme
|
Mmh.
C'est une expérience de pensée intéressante MAIS à 1min10 jamais quelqu'un ne fera un tel algo disant sciamment "rentre dans la moto"/"rentre dans l'autre voiture" Il me semble évident que la seule option qui s'offre est de piler et de se prendre, au pire, l'objet qui est tombé du camion. Dans la deuxième sitation présentée encore une fois la prémisse est que votre autopilote choisira de rentrer dans un des deux scooters. C'est faux. Si vous trouvez un codeur qui implémente ce comportement il faut le foutre en taule. Maintenant il faut bien voir que les autopilotes respectent les distances de sécurité et que donc cette situation n'arrivera pas ou alors vraiment moins souvent que ça n'arrive avec des pilotes humains. Et vu la situation présentée, ça ne doit pas être bien souvent. Mais il est quand même intéressant de se poser la question. J'ai pas vraiment la motiv de faire un pavé là, mais je voudrais juste vous recommander de lire "foundation" d'Asimov en prémisse à toute discussion à ce sujet. C'est de la SF mais ça traite beaucoup d'éthique de la robotique. Tout ça pour dire que des gens ont déjà réfléchi au sujet depuis une bonne cinquantaine d'année, et que je vois cette vidéo d'un mauvais oeil car elle semble faire abstraction de tous les travaux qui ont déjà été faits à ce sujet. Je ne dis pas qu'il ne faut pas en parler, c'est un sujet important, mais je n'aime pas la façon dont c'est présenté. C'est genre "ha vous aviez pas pensé à ça hein?". Ceci dit je le répète c'est un sujet intéressant. Ca me rappelle que les (le) constructeurs de voitures autonomes (ie google) a déclaré que la responsabilité en cas d'accident retombait de fait sur le constructeur de la voiture.
Contribution le : 15/12/2015 00:13
|
|
|
Signaler
|
|
|
| CrazyCow | 0 #4 |
|
|---|---|---|
|
Je poste trop
Inscrit: 29/07/2008 00:26
Post(s): 18966
Karma: 29793 |
Citation :
Dans tous les cas, pendant plusieurs décennies les deux devront coexister. Et dans ce cas, un véhicule roulant de façon irresponsable (grand excès de vitesse, slalom sur la route) peut provoquer une situation où le véhicule autonome n'a pas de solution pour éviter un accident. En plus de ça, il faut rajouter tous les éléments externes possibles (chute de pierre, arbre, etc.) où le véhicule est contraint de foncer dedans ou de braquer dans la voiture de quelqu'un d'autre qui est située juste à côté. La question est intéressante aussi pour savoir qui sera responsable en cas d'accident. Je pense qu'il faudrait une charte éthique établie au niveau mondial pour fixer des règles communes entre les constructeurs.
Contribution le : 15/12/2015 00:17
|
|
|
Signaler
|
|
|
| mahnmut | 0 #5 |
|
|---|---|---|
|
Je suis accro
 
Inscrit: 08/05/2014 11:48
Post(s): 1938
Karma: 586 |
@yakow Temps qu'a citer Asimov sur le sujet de la robotique et dde l’intelligence artificiel autant parler de toute les nouvelles qu'il as écris dessus plutôt que du cycle fondation qui, bien qu’excellent, aborde à peine le sujet.
Contribution le : 15/12/2015 00:26
|
|
|
Signaler
|
|
|
| jeanjakalapatat | 0 #6 |
|
|---|---|---|
|
Chaleur !
 
Inscrit: 29/11/2010 14:54
Post(s): 69
|
Citation :
Je ne suis pas d'accord avec toi et l'exemple de la vidéo l'illustre bien finalement: la voiture reste soumise aux lois de la physique malgré l'optimisation qu'apporte son comportement autonome par rapport à l'humain (temps de réaction, multiples facteurs de décision, etc...). Ce qui veut dire que la voiture ne peut pas s'arrêter instantanément. Et il y aura toujours des cas totalement imprévisible (comme là, le chargement qui se détache ou l'effondrement d'un pont par ex.) pouvant se produire et qui auraient nécessité que la voiture s'arrête instantanément... mais c'est impossible. Après, ce que je trouve perso très intéressant dans ces histoires de voiture autonome c'est ces notions de société (l'éthique, la responsabilité, etc...) qu'on tente à transposer. Mais ça rejoint totalement ce dont yakow parle et qui est beaucoup plus large que ça, avec les fameuses loi de la robotique (https://fr.wikipedia.org/wiki/Trois_lois_de_la_robotique) Si on considère la voiture comme un robot, alors on trouve plusieurs similitudes. Bref c'est un sujet qui revient à la mode. Il y a d'ailleurs certains constructeurs qui "testent" leurs véhicules autonome sur les routes francais, avec un conducteur quand même à bord qui peut switcher entre auto et manuel. Plus généralement, je suis d'avis que notre société n'est pas encore assez "ouverte" pour pouvoir tolérer cette avancée technologique. Ca tournerait très certainement au pugilat si demain on apprenait qu'une google car s'est crashé a tué un pieton (alors qu'un humain qui fait ça, on peut trouver ça "acceptable" suivant la situation)
Contribution le : 15/12/2015 00:31
|
|
|
Signaler
|
|
|
| -Flo- | 0 #7 |
|
|---|---|---|
|
Je poste trop
Inscrit: 08/01/2005 13:41
Post(s): 15182
Karma: 12550 |
Ce qui est également intéressant dans ce genre de situation, c'est que si les véhiculent latéraux sont aussi des véhicules autonomes, le véhicule en détresse a alors la capacité de communiquer instantanément sa prise de décision pour se synchroniser avec un des véhicules latéraux dans sa manœuvre d'évitement.
Contribution le : 15/12/2015 01:20
|
|
|
Signaler
|
|
|
| Krogoth | 0 #8 |
|
|---|---|---|
|
Je masterise !
Inscrit: 30/09/2007 15:44
Post(s): 4669
Karma: 1861 |
Citation :
Voiture autonome ou pas les distances de sécurité sont là pour permettre de s'arreter en toute sécurité en cas d'obstacle sur la route. Ici le chargement tombe du camion qui te precedes, tu as le temps de t’arrêter et avec un ordinateur tu gagnes le temps de réaction, tu n'a plus besoin que de la distance de freinage..
Contribution le : 15/12/2015 08:33
|
|
|
Signaler
|
|
|
| Cedub | 0 #9 |
|
|---|---|---|
|
Je suis accro
Inscrit: 25/02/2008 13:50
Post(s): 1452
Karma: 1485 |
Citation :
C'est vrai, leur cas est pourrit, mais: Votre voiture veut vous tuer.!! J'avais lu un article dans ce genre (je ne sais plus si c'est celui ci.) En gros, l'algo, c'est tu minimise le nombre de mort.. même si c'est le conducteur qui doit être tué..!! (Si 1 personne se jette sous les roues de ta voiture, elle va se cracher dans la camion en face, car tu aura plus de chance de survie..!!)
Contribution le : 15/12/2015 09:08
|
|
|
Signaler
|
|
|
0 #10 |
||
|---|---|---|
|
Fantôme
|
Ok, et sinon, il n'y a que moi que ça fait flipper l'écran bleu de la mort sur une voiture?
Parce que tout ça est bien beau, mais aujourd'hui, nous n'avons toujours aucuns chiffres sur les pannes de régulateur de vitesse et aucun des constructeurs concernés n'a reconnu sa responsabilité. Alors, vous voyez, faire confiance, non pas à un robot, mais à un constructeur de robot, non merci.
Contribution le : 15/12/2015 09:10
|
|
|
Signaler
|
|
|
| AlTi5 | 0 #11 |
|
|---|---|---|
|
Je poste trop
Inscrit: 16/05/2006 22:25
Post(s): 12167
Karma: 2722 |
@yakow
C'est le Dilemme du tramway https://fr.wikipedia.org/wiki/Dilemme_du_tramway Nous humain choisirons principalement la solution qui bénéficie au groupe. Par contre je ne pense pas que le suicide soit dans ces solutions ^^, donc ca sera la solution la moins dommageable pour tous oui l'humain est égoïste 
Contribution le : 15/12/2015 09:52
|
|
|
Signaler
|
|
|
| Cedub | 0 #12 |
|
|---|---|---|
|
Je suis accro
Inscrit: 25/02/2008 13:50
Post(s): 1452
Karma: 1485 |
Citation :
Merci, je la recherchais. J'avais le dilemme suivant en tête. Un train fou fonce sur un groupe de personne, si tu ne fait rien, il les tue tous. Tu peux actionner un levier qui dévie le train sur une autre voie et n'en tue qu'une personne. (Variante, l'autre personne, c'est Hitler.;) (La différence étant que dans mon dilemme, on est extérieur à l'événement, et on ne peut pas être impliqué en cas de non réaction, contrairement aux autres cas.. sauf de l'homme obèse, mais la, comme on rentre en contact avec la victime, je trouve que c'est encore différent.) Citation :
Non, on choisit la solution qui ne nous implique le moins..;) Oui, il faudrait la variante de l'homme obèse, où toi même, tu es obèse. PS: 
Contribution le : 15/12/2015 10:15
|
|
|
Signaler
|
|
|
| vbussiro | 0 #13 |
|
|---|---|---|
|
Je viens d'arriver
Inscrit: 15/12/2015 10:25
Post(s): 2
|
C'est peu le thème de I Robot avec will smith, où le robot voit deux humains en danger et sauve celui où il y le plus de chance de réussite, là où un humain aurait essayé de sauver la petite fille au lieu de l'adulte, même en ayant moins de chance d'y arriver.
On n'en est pas encore aux "sentiments" en intelligence artificielle...
Contribution le : 15/12/2015 10:32
|
|
|
Signaler
|
|
|
| jeanjakalapatat | 0 #14 |
|
|---|---|---|
|
Chaleur !
Inscrit: 29/11/2010 14:54
Post(s): 69
|
Citation :
Non non, tu te trompes dans ta notion de distance de sécurité. Ca n'a rien à voir regarde: si un pont à décider de s'écrouler ou que le chargement d'un camion à céder, ou qu'un lampadaire vient subitement de tomber, etc... comment un conducteur peut se prémunir de ça ? Il met des "distances" entre le fait qu'à cet endroit le pont peut possiblement s'écrouler ? Que le chargement du camion peut cèder ? Bref, tu vois bien que ça n'a aucun sens cette histoire de distance de sécurité ! C'est parce que tu vois dans la vidéo qu'il y a un camion que tu penses directement ça, mais ca pourrait très bien être un autre phenomene comme je viens de te donner l'exemple.
Contribution le : 15/12/2015 13:07
|
|
|
Signaler
|
|
|
| Krogoth | 0 #15 |
|
|---|---|---|
|
Je masterise !
Inscrit: 30/09/2007 15:44
Post(s): 4669
Karma: 1861 |
En dehors d'evenement exceptionnel un objet (poteau, pont) ne va pas tomber sur la route. S'il y a danger a cause du vent la voiture peut refuser tout simplement de passer en mode autonome.
Pour la perte d'un chargement si tu respectes tes distances de sécurité tu ne serras jamais à moins de 10 metres du chargement au moment ou celui-ci tombe ... SI tu gardes une distance de sécurité de 100metres avec le camion qui te precedes, à la perte du chargement tu as 100metres pour t'arreter...c'est quand meme pas difficile à comprendre ou alors arrête vite de conduire.
Contribution le : 15/12/2015 14:28
|
|
|
Signaler
|
|
|
0 #16 |
||
|---|---|---|
|
Fantôme
|
@mahnmut Effectivement my bad. J'avais juste en tête Foundation alors je l'ai cité mais un peu plus frais je me rappelle qu'effectivement foundation aborde surtout d'autres sujets, même s'il y a (spoil, ceux qui ne l'ont pas lu ne lisez pas le texte en blanc!) des robots dans les protagonistes.
Je crois me rappeler avoir lu quelque-part un texte intéressant (jme souviens plus de la forme, ptet un article sur le net?) qui racontait grosso modo qu'elles étaient un peu incomplètes et imprécises et l'auteur (de l'article) les avait élaborées un peu. Je trouve ça vraiment passionnant car comme ça a été dit plus haut, on commence à pouvoir faire des parallèles entre des idées très abstraites formulées il y a un paquet d'années et qui relevaient alors de la SF avec des technologies qui existent aujourd'hui. Je rejoins aussi l'avis de mon VDD qui dit que ça va vite tourner au pugilat si une voiture autonome renverse un piéton. Dans ce sens là notre société n'est pas prête, effectivement. En revanche il faut aussi considérer que les techno sont là, presque prêtes, et qu'il serait dommage de s'en priver, pour le confort que ça procurerait mais aussi et surtout pour les avantages en terme de sécurité par rapport aux conducteurs humains. Du coup, on a le choix: Ou bien on laisse dormir ça en attendant que "la société soit prête", et je vois mal ça se faire en moins d'un siècle, donc c'est très, très dommage, Ou bien on démontre que les voitures autonomes sont bien plus sûres pour tout le monde que les pilotes humains (Musk parle d'un facteur 100 comme objectif à atteindre pour faire accepter les autopilotes aux autorités de régulation), ce qui pose la base légale et permet d'introduire les autopilotes, A grand renfort de communication, comme Google en a les moyens, on explique au public que c'est effectivement plus sûr, puis quand les premiers accidents arriveront il faudra que le comportement des constructeurs de voitures autonomes soient exemplaire, dédommagement sans faire les rats, etc etc. En disant ça, ça me fait penser aux vidéos des abrutis qui se jettent devant les bagnoles pour faire des arnaques à l'assurance, et je me dis qu'il va y avoir des freins, mais il y aura des dashcam partout pour débusquer une immense majorité de ces arnaques. En deux mots: forcer la main du destin et accepter de se prendre quelques claques quand les accidents arriveront, plutôt que d'attendre quelque-chose qui n'arrivera jamais. Citation :
Ca c'est parce-que les constructeurs auto actuels ont une mentalité cheap et jouent avec le feu. Dans la réalité, quand on est pas un gland et qu'on fait des systèmes qui ne peuvent pas se permettre de tomber en panne, on utilise des systèmes redondants avec comparaison des résultats avant prise de décision, c'est utilisé massivement en aérospatiale avec comparaison des résultats de plusieurs systèmes similaires, et d'autres différents, avant prise de décision. Faut pas comparer volkswagen ou PSA avec Google ou Tesla, il y a 15 ans d'écart en terme de techno. Par ailleurs faut bien voir que les constructeurs de voitures autonomes n'ont aucun intérêt à ce qu'un 'blue screen' n'arrive (je dis ça pour te citer, ça tourne pas sous windows ces bêtes là hein...), et que le rapport bénéfice/risque justifie sans appel la mise en place de quelques puces électroniques et programmes supplémentaires.
Contribution le : 15/12/2015 16:21
|
|
|
Signaler
|
|
|
0 #17 |
||
|---|---|---|
|
Fantôme
|
Tout ça, ça pue du cul sévère. Comment un conducteur pourra prouver qu'il y a eu défaillance du système? Qui sera responsable? Le code sera-t-il transparent.
Franchement, je ne absolument pas la voiture autonome s'insérer dans nos infrastructures existantes. Se poser ce genre de questions, c'est brûler les étapes.
Contribution le : 15/12/2015 16:24
|
|
|
Signaler
|
|
|
0 #18 |
||
|---|---|---|
|
Fantôme
|
Citation :
Le conducteur n'a pas, a priori, à prouver quoi que ce soit. Ce que j'ai cru comprendre, c'est que la responsabilité, de façon inconditionnelle, incombe au constructeur en cas d'accident. Le code ne risque pas d'être transparent, du moins pour l'instant. Ca reste des entreprises privées et ils embauchent des armées de codeurs avec chacun un salaire annuel à six chiffres depuis plusieurs années pour développer ces autopilotes, alors ils ne vont pas rendre ça open source tout de suite. Citation :
Les technos sont prêtes ou le seront dans 1 an ou 2 max. C'est le moment où jamais de se poser ces questions. Citation :
C'est légèrement intéressant de réfléchir à ça. En revanche je trouve que c'est un peu malhonnête. La cause principale d'accidents, de très, très loin, est l'erreur humaine. En éliminant/réduisant grandement ce facteur via les pilotes automatiques, on va drastiquement réduire le nombre d'accidents, de morts, de paralysés, etc. Je trouve ça malsain de remettre en question tout le concept simplement parce-que dans une situation extrême, un algo particulier prendrait une décision jugée mauvaise par un professeur d'éthique d'une université californienne. j'ai envie de dire: très bien, alors on va prendre tous les Michael Cahill et les Patrick Lin et on leur demande de décrire le comportement qu'ils jugent optimalement éthique dans telle situation qui arrive une fois tous les 10 ans sur terre, et on implémente ça dans l'autopilote. J'ai l'impression qu'un point de vue existe disant que quand c'est 100 fois par jour michel qui tue un mioche parce qu'il conduit bourré, et 100 fois par jour micheline, 80 ans, éclate un piéton parce qu'elle n'y voit pas trop chose quand il pleut, on comprend, c'est "acceptable". Par contre si une fois tous les 36 du mois un algo prend une décision sub-optimale selon un professeur d'éthique, alors du coup STOP LES VOITURES AUTONOMES ELLES VEULENT TOUS NOUS TUER TERMINATOR!!!! Je trouve ça un peu réac et un peu malsain. Je ne dis pas que c'est acceptable de se faire jeter du haut d'une falaise par sa google car, mais le diable réside dans ce titre accrocheur de l'article cité plus haut: "votre voiture PEUT vous tuer" Ouais, Statistiquement, ce qui est proposé avec les voitures autonomes, c'est qu'avant de vous tuer une fois, votre autopilote vous aura sauvé la vie 100 fois.
Contribution le : 15/12/2015 16:34
|
|
|
Signaler
|
|
|
| jeanjakalapatat | 0 #19 |
|
|---|---|---|
|
Chaleur !
Inscrit: 29/11/2010 14:54
Post(s): 69
|
Citation :
C'est bien, faut vite que Google t'embauches toi, apparement tu as l'algo qui leur faut...  Dans 2 posts et pour ne pas lacher le morceau tu vas me faire le calcul (frottements de l'air inclus) de la vitesse à laquelle tombe le chargement du camion en prenant en compte la distance de freinage de la voiture (Mais je te rassure, je ne parlerai pas de l'hypothese ou la voiture allait doubler et qu'elle n'avait pas forcément les distances que tu préconises.... mais heureusement tu vas me dire que le chargement était du papier bulle et que donc tout va bien :-P)
Contribution le : 15/12/2015 21:15
|
|
|
Signaler
|
|
|
| Nwc-Vincent2 | 0 #20 |
|
|---|---|---|
|
J'aime glander ici
 
Inscrit: 22/05/2011 16:21
Post(s): 5370
Karma: 154 |
Freiner c'est mieux.
Et sinon, voiture automatique ou pas, garder les pieds sur les pédales va rester obligatoire. J'espère.
Contribution le : 15/12/2015 22:02
|
|
|
Signaler
|
|
|