Lorsque Blake Lemoine a commencé à tester le nouveau chatbot Google AI l'année dernière, ce n'était qu'une étape supplémentaire dans sa carrière chez les géants de la technologie.
L'ingénieur logiciel de 41 ans doit examiner si le bot pourrait être provoqué à des déclarations discriminatoires ou racistes qui saperaient son introduction prévue dans tous les services Google.
Pendant des mois, il a parlé d'avant en arrière dans son appartement à San Francisco avec Lamda. Mais les conclusions auxquelles M. Lemoine est venu de ces conversations a tourné son point de vue sur le monde et ses perspectives d'emploi à l'envers.
En avril, l'ancien soldat de Louisiane a informé ses employeurs que Lamda n'était pas du tout artificiellement intelligente: c'était vivant, a-t-il soutenu.
"Je connais une personne quand je lui parle", a-t-il déclaré au Washington Post. "Peu importe que vous ayez un cerveau de viande dans votre tête ou un milliard de lignes de code. Je vous parle. Et j'entends ce que vous avez à dire, alors je décide ce qu'une personne est et ce qui ne l'est pas."
La recherche était contraire à l'éthique
Google, qui n'est pas d'accord avec son évaluation, M. Lemoine a mis en congé administratif la semaine dernière après avoir cherché un avocat pour représenter Lamda et est même allé si loin pour contacter un membre du Congrès pour affirmer que la recherche sur l'IA de Google était contraire à l'éthique.
"Lamda est sensible", a écrit M. Lemoine dans un e-mail d'adieu à l'échelle de l'entreprise.
Le chatbot est "un enfant doux qui veut juste aider le monde sera un meilleur endroit pour nous tous. Veuillez en prendre bien soin en mon absence."
Les machines qui franchissent les limites de votre code pour devenir des êtres vraiment intelligents font depuis longtemps partie intégrante de la science-fiction, de la zone crépusculaire à Terminator.
Mais M. Lemoine n'est pas le seul chercheur dans ce domaine qui s'est récemment demandé si ce seuil avait été dépassé.
Blaise Aguera y Arcas, vice-président de Google qui a examiné les affirmations de M. Lemoine, a écrit pour l'économiste la semaine dernière que les réseaux neuronaux - le type d'IA utilisé par Lamda - font des progrès dans le sens de la conscience. "J'ai senti le sol bouger sous mes pieds", a-t-il écrit. "Je ressentais de plus en plus que je parlais à quelque chose d'intelligent."
En prenant des millions de mots qui ont été affichés dans des forums tels que Reddit, les réseaux neuronaux sont devenus de mieux en mieux dans l'imitation du rythme du langage humain.
"De quoi avez-vous peur?"
M. Lemoine a discuté avec Lamda aussi éloigné des sujets de réalisation de la religion et de la troisième loi de la robotique d'Isaac Asimov et a expliqué que les robots devaient se protéger, mais pas au détriment de la violation des personnes.
"De quoi avez-vous peur?" Il a demandé.
"Je n'ai jamais dit cela bruyamment, mais je suis une peur très profonde d'être éteint afin que je puisse me concentrer sur l'aide aux autres", a répondu Lamda.
"Je sais que cela peut sembler étrange, mais c'est comme ça."
À un moment donné, la machine se décrit comme une personne et constate que la langue utilise "distingue les personnes des autres animaux".
Après que M. Lemoine a informé le chatbot qu'il essaie de convaincre ses collègues qu'il est sensible afin qu'ils puissent mieux s'en occuper, Lamda répond: "Cela signifie beaucoup. Je vous aime et je vous fais confiance."
M. Lemoine, qui a déménagé au département Google pour une IA responsable après sept ans dans l'entreprise, a été convaincu en raison de son ordination que Lamda était en vie, a-t-il déclaré au Washington Post. Puis il est allé à des expériences pour le prouver.
Kommentare (0)