Le chercheur en robotique d'Alan Winfield vient d'expérimenter la première loi de la robotique d'Asimov au travers d'une expérience très intéressante.

Pour rappel, ces lois sont (source):

Un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu'un être humain soit exposé au danger.
Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.

Ainsi comme vous pouvez le voir dans cette vidéo, le robot (A) de rendant vers une destination marquée comme "goal", s'attache à empêcher les autres robots (H) identifiés comme des humains, de tomber dans le trou (Hole).



Quand il n'y a qu'un humain (H-robot), ça se passe bien. Le robot se précipite dessus et lui fait faire demi-tour. Mais quand il y a 2 humains, ça se complique. En effet, dans cas, le robot doit faire un choix. Alors parfois il en sauve un et n'a pas le temps de sauver le second, mais il arrive aussi que le robot hésite et mette du temps à prendre une décision. Et dans ce cas, les 2 humains tombent dans le trou (virtuel).



Il ne s'agit pas encore de choix éthique, c'est-à-dire que le robot ne prend pas réellement une décision... Il exécute plutôt un programme qui lui laisse différentes possibilités de réactions.

Mais ce genre de recherche est passionnant puisque que si on le transpose à la vie de tous les jours, c'est peut être un algorithme de ce type qui vous sauvera la vie ou vous tueras lorsque vous serez dans votre voiture autonome du genre de la Google Car.

Par exemple, imaginez qu'en cas de problème, votre voiture doivent décider entre :

1/ Ecraser 1 enfant qui traverse et vous sauver la vie
2/ Eviter 2 enfant qui traverse et vous tuer en fonçant dans un mur.
3/ .... on peut faire une infinité d'hypothèses comme ça...

Par exemple, est-ce que la vie d'un enfant vaut plus que celle d'un adulte ? Est-ce que la vie de 2 adultes vaut plus que celle d'un seul enfant ? Est-ce que c'est la vie du propriétaire qu'il faut préserver ? Ou est ce que finalement, tout ceci se résumera à un calcul de probabilité relatif à la survie des uns et des autres...

Pas simple...