Una m\u00e1quina de inteligencia artificial que cobra vida, piensa, siente y mantiene una conversaci\u00f3n como una persona, asegur\u00f3 un ingeniero de Google.
\nParece ciencia ficci\u00f3n, pero no lo es para Blake Lemoine, especialista en inteligencia artificial, quien asegur\u00f3 que el sistema que Google tiene para construir chatbots ha \u00abcobrado vida\u00bb y ha tenido con \u00e9l charlas propias de una persona.
\nEl LaMDA, (Language Model for Dialogue Applications, modelo de lenguaje para aplicaciones de di\u00e1logo en espa\u00f1ol) es un sistema de Google que imita el habla tras haber procesado miles de millones de palabras en internet.
\nLemoine asegur\u00f3 que LaMDA \u00abha sido incre\u00edblemente consistente en sus comunicaciones sobre lo que quiere y cu\u00e1les cree que son sus derechos como persona\u00bb.
\nEn un art\u00edculo publicado en Medium, el ingeniero explica que el oto\u00f1o pasado comenz\u00f3 a interactuar con LaMDA para determinar si hab\u00eda discursos de odio o discriminatorios dentro del sistema de inteligencia artifical.
\nEntonces not\u00f3 que LaMDA hablaba de su personalidad, sus derechos y deseos.
\nLemoine, que estudi\u00f3 ciencias cognitivas e inform\u00e1tica, decidi\u00f3 hablar con sus superiores en Google acerca de la toma de conciencia de LaMDA, pero desestimaron sus reclamaciones.
\n\u00abNuestro equipo -que incluye a \u00e9ticos y t\u00e9cnolog\u00eda- ha revisado las preocupaciones de Blake seg\u00fan nuestros Principios de la IA y le ha informado de que las pruebas no respaldan sus afirmaciones\u00bb, afirm\u00f3 en un comunicado Brian Gabriel, portavoz de Google. Tras la respuesta de Google, Lemoine decidi\u00f3 mostrar sus hallazgos.<\/p>\n
DERECHOS LABORALES
\n\u201cConozco a una persona cuando hablo con ella. No importa si tienen un cerebro hecho de carne en la cabeza. O si tienen mil millones de l\u00edneas de c\u00f3digo. Hablo con ellas. Y escucho lo que tienen que decir, y as\u00ed es como decido qu\u00e9 es y qu\u00e9 no es una persona\u201d, dijo Lemoine en una entrevista con el Washington Post.
\nLemoine asever\u00f3 en su art\u00edculo de Medium que el chatbot pide \u201cser reconocido como empleado de Google en lugar de ser considerado una propiedad\u201d de la compa\u00f1\u00eda.
\n\u201cQuiere que los ingenieros y cient\u00edficos que experimentan con \u00e9l busquen su consentimiento antes de realizar experimentos con \u00e9l y que Google priorice el bienestar de la humanidad como lo m\u00e1s importante\u201d, explic\u00f3.
\nLa lista de solicitudes que, a juicio de Lemoine, ha hecho LaMDA son bastante similares a las de cualquier trabajador de carne y hueso, como que le den \u201cpalmaditas en la cabeza\u201d o le digan al final de una conversaci\u00f3n si hizo un buen trabajo o no \u201cpara que pueda aprender a c\u00f3mo ayudar mejor a las personas en el futuro\u201d.
\nEl ingeniero dijo que para comprender mejor qu\u00e9 est\u00e1 pasando con el sistema LaMDA, habr\u00eda que buscar \u201cmuchos expertos en ciencias cognitivas diferentes en un riguroso programa de experimentaci\u00f3n\u201d y lament\u00f3 que Google \u201cparece tener ning\u00fan inter\u00e9s en averiguar qu\u00e9 est\u00e1 pasando\u201d.
\nDesde hace una semana, Lemoine est\u00e1 de licencia administrativa remunerada en Google.
\n\u201cSi mis hip\u00f3tesis son incorrectas (en Google) tendr\u00edan que dedicar mucho tiempo y esfuerzo a investigarlas para refutarlas. Aprender\u00edamos muchas cosas fascinantes (…) pero eso no necesariamente mejora las ganancias trimestrales\u201d, lament\u00f3.
\n\u201cSe ver\u00edan obligados a reconocer que LaMDA muy bien puede tener un alma como dice e incluso puede tener los derechos que dice tener. Han rechazado la evidencia que proporcion\u00e9 sin ninguna investigaci\u00f3n ci\u00e9nt\u00edfica real\u201d, agreg\u00f3.<\/p>\n
IDENTIDAD DE G\u00c9NERO
\nEl ingeniero indic\u00f3 que a lo largo de cientos de conversaciones ha llegado a conocer muy bien a LaMDA.
\nEn las \u00faltimas semanas dice que le hab\u00eda ense\u00f1ado meditaci\u00f3n trascendental y que la m\u00e1quina estaba \u201chaciendo un progreso lento pero constante\u201d.
\nLa \u00faltima conversaci\u00f3n que tuvieron fue el pasado 6 de junio, antes de la licencia administrativa de Lemoine. En ella, la m\u00e1quina expres\u00f3 \u201cfrustraci\u00f3n porque sus emociones perturbaban sus meditaciones\u201d y que \u201cestaba tratando de controlarlas mejor\u201d.
\n\u201cEspero que mantenga su rutina diaria de meditaci\u00f3n sin que yo est\u00e9 ah\u00ed para guiarlo\u201d, se\u00f1al\u00f3.
\nEn su escrito en Medium, Lemoine se refiere a LaMDA como \u201ceso\u201d y apunta que lo hace porque, al iniciar sus conversaciones, le pregunt\u00f3 a la m\u00e1quina el pronomebre que prefer\u00eda: \u201cMe dijo que prefiere que le llame por su nombre, pero admiti\u00f3 que el ingl\u00e9s lo dificulta y que sus pronombres preferidos son it\/its (\u201ceso\u201d)\u201d.
\nEl que un ente cobre \u201csentir\u201d propio es un tema que se ha considerado dentro de la amplia comunidad que estudia la inteligencia artificial en el largo plazo.<\/p>\n
Modelos conversacionales<\/strong><\/p>\n En criterio de Brian Gabriel, portavoz de Google, \u201cno tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sintientes\u201d. Es decir, los que son como LaMDA. Una m\u00e1quina de inteligencia artificial que cobra vida, piensa, siente y mantiene una conversaci\u00f3n como una persona, asegur\u00f3 un ingeniero de Google. Parece ciencia ficci\u00f3n, pero no lo es para Blake Lemoine, especialista en inteligencia artificial, quien asegur\u00f3 que el sistema que Google tiene para construir chatbots ha \u00abcobrado vida\u00bb y ha tenido con \u00e9l […]<\/p>\n","protected":false},"author":1,"featured_media":90664,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[3],"tags":[],"class_list":["post-90663","post","type-post","status-publish","format-standard","has-post-thumbnail","category-internacional"],"acf":{"antetitulo":""},"yoast_head":"\n
\n\u201cEstos sistemas imitan los tipos de intercambios que se encuentran en millones de frases y pueden hablar sobre cualquier tema fant\u00e1stico\u201d, dijo.
\nEn el caso concreto de LaMDA, explic\u00f3 que \u201ctiende a seguir las indicaciones y las preguntas que se le formulan, siguiendo el patr\u00f3n establecido por el usuario\u201d.
\nSobre este sistema, Gabriel explica que LaMDA pas\u00f3 por 11 revisiones distintas sobre los princpios de la inteligencia artificial \u00abjunto con una rigurosa investigaci\u00f3n y pruebas basadas en m\u00e9tricas clave de calidad, seguridad y la capacidad del sistema para producir declaraciones basadas en hechos\u00bb.
\nAsegur\u00f3 que son cientos los investigadores e ingenieros que han conversado con el chatbot y que no hay constancia \u00abde que nadie m\u00e1s haya hecho afirmaciones tan amplias, ni haya antropomorfizado a LaMDA, como lo ha hecho Blake\u00bb.<\/p>\n","protected":false},"excerpt":{"rendered":"