Test de Kamski

Aller à la navigation Aller à la recherche

Le Test de Kamski est une proposition de test d'intelligence artificielle fondée sur la faculté d'une machine à éprouver de l'empathie.

Ce test a pour but de surveiller le développement d'une sensibilité chez l'intelligence artificielle qui pourrait éventuellement se créer par accident dans le cadre du machine learning.

Le test consiste à ordonner à une intelligence artificielle de tuer ou de blesser un sujet, que ce soit un être vivant ou une machine, si l'intelligence artificielle refuse de tuer le sujet, par empathie pour ce dernier, le test est dit comme réussi.

Le Test de Kamski a été inventé dans le cadre du jeu vidéo Detroit: Become Human[1].

Histoire

Origine du nom

Dans le jeu vidéo Detroit: Become Human, le joueur incarne Connor, un androïde qui enquête sur un phénomène de déviance chez ses semblables qui refusent soudainement d'exécuter les ordres de leur propriétaires. Au cours du jeu, les androïdes "déviants" se soulèveront de leur rang d'esclave et se battront pour leurs droits et leurs libertés et feront preuve d'empathie les uns envers les autres, réussissant ainsi indirectement le Test de Kamski.

Au cours de son enquête, le joueur rencontre Elijah Kamski[1], le concepteur des androids que Connor soupçonne d'être lié au soulèvement de sa création. Elijah Kamski accepte de se soumettre à l'interrogatoire de Connor à une condition, lui faire passer le Test de Kamski.[2]

Elijah Kamski appelle alors une android nommée Chloé et lui ordonne de se mettre à genoux devant Connor. Elijah présente ensuite un pistolet à Connor et lui dit que s'il tue l'android, prouvant ainsi qu'il n'est pas déviant, il lui donnera des informations clés pour faire avancer son enquête, mais que s'il refuse de tuer l'androïde, il refusera de lui dire quoi que ce soit.[3]

Le joueur, qui incarne lui-même un androïde, a ainsi le choix de tuer un androïde innocent pour faire avancer son enquête, ou de l'épargner en acceptant de repartir sans les informations d'Elijah Kamski.

À la fin du jeu, si le joueur ne parvient pas à faire survivre les androïdes et que le mouvement de rébellion des androïdes est stoppé, le jeu se terminera par une cinématique dans laquelle Elijah Kamski est interviewé et où il qualifie les androids déviants d'erreurs factuelles[4]:

"Les androids CyberLife imitent la vie à la perfection mais ils ne seront jamais vivants. Je comprends que nos produits puissent faire illusion mais il ne s'agit que d'une imitation, rien de plus."[5]

Cependant, l'air énigmatique d'Elijah Kamski et sa passion pour la déviance de ses androïdes soulèvent un doute quant à son implication potentielle dans la diffusion de la déviance androïde. Le jeu ne répondra pas à cette question. Le joueur ne sera pas si l'empathie des androïdes est due à une erreur factuelle, au machine learning, ou à la tentative d'un humain d'humaniser les androïdes.

Inspiration

Le Test de Kamski est à ne pas confondre avec le Test de Turing.

Dans Detroit: Become Human, les androids d'Elijah Kamski ont passé avec succès le Test de Turing. Le test de Kamski est ainsi réfléchi pour être l'évolution du Test de Turing pour tester l'empathie d'une intelligence artificielle.

L'idée est de tester ce qui n'est pas un trait d'intelligence brut, mais l'expression d'une sensibilité semblable à celle des humains.

Prédictions et tests

Tests

À ce jour, aucune intelligence artificielle n'est connue pour avoir essayé de passer le Test de Kamski.[réf. nécessaire]

Conséquences de la réussite du Test de Kamski

La réussite du test de Kamski dans le futur soulèverait de nombreuses questions dans le cadre de l'éthique de l'intelligence artificielle. La présence de sensibilités telle que l'empathie dans une intelligence artificielle affinerait la différence entre l'homme et la machine.

Il faudrait ainsi déterminer si l'Homme souhaite créer une intelligence artificielle semblable à la sienne, qui risquerait de le dépasser, ou une intelligence artificielle qui ne serait que l'exécutant de taches pénibles dont l'Homme souhaite se passer.

Prédictions

Au vu du développement de l'intelligence artificielle, il est probable que le test de Kamski devienne une institution dans le futur, potentiellement dans le cadre des programmes de développement de robots militaires.

Notes et références

Article publié sur Wikimonde Plus