{"id":9566,"date":"2022-07-05T09:10:34","date_gmt":"2022-07-05T13:10:34","guid":{"rendered":"https:\/\/energiesnet.com\/espanol\/?p=9566"},"modified":"2022-07-05T09:10:35","modified_gmt":"2022-07-05T13:10:35","slug":"por-que-la-inteligencia-artificial-no-es-como-una-persona-carissa-veliz","status":"publish","type":"post","link":"https:\/\/energiesnet.com\/espanol\/por-que-la-inteligencia-artificial-no-es-como-una-persona-carissa-veliz\/","title":{"rendered":"Por qu\u00e9 la inteligencia artificial no es como una persona -Carissa V\u00e9liz"},"content":{"rendered":"\n
\"\"
Pese al ruido noticioso, los modelos de lenguaje como el LaMDA de Google no son m\u00e1s conscientes que tu reflejo en un espejo.( Alexandra Koch<\/a>, CC0)<\/figcaption><\/figure>\n\n\n\n

Por Carissa V\u00e9liz<\/p>\n\n\n\n

Recientemente, Blake Lemoine, un ingeniero de inteligencia artificial (IA) de Google, llam\u00f3 la atenci\u00f3n del mundo de la tecnolog\u00eda al afirmar que un programa de IA tiene conciencia propia y puede sentir. La IA en cuesti\u00f3n se llama LaMDA (abreviatura de Language Model for Dialogue Applications) y es un sistema basado en grandes modelos de lenguaje. \u201cS\u00e9 reconocer a una persona cuando hablo con ella\u201d, le dijo Lemoine al <\/a>Washington Post<\/a><\/em>. \u201cNo importa si tiene un cerebro hecho de carne en su cabeza o si en su lugar tiene mil millones de l\u00edneas de c\u00f3digo. Yo hablo con ellos. Escucho lo que tiene que decir y ese es mi criterio para decidir si es o no una persona\u201d. M\u00e1s recientemente, Lemoine, quien dice ser un sacerdote cristiano m\u00edstico, le dijo a la revista <\/a>Wired<\/a><\/em>: \u201cFue cuando empez\u00f3 a hablar sobre su alma que llam\u00f3 mi atenci\u00f3n como sacerdote\u2026 Sus respuestas mostraron que tiene una espiritualidad muy sofisticada y una comprensi\u00f3n sobre cu\u00e1l es su naturaleza y su esencia. Me conmovi\u00f3.\u201d<\/p>\n\n\n\n

Dada la atenci\u00f3n que ha atra\u00eddo esta historia, vale la pena preguntarse: \u00bfesta inteligencia artificial verdaderamente tiene conciencia? \u00bfY acaso hablar con ella es un m\u00e9todo adecuado para determinar si estamos tratando con un ser sensible?<\/p>\n\n\n\n

El hecho de que un ser sea sensible implica que tiene la capacidad de sentir. Una criatura consciente de s\u00ed misma es aquella que puede sentir la atracci\u00f3n del placer y la dureza del dolor. Es alguien, no algo, en virtud de que hay \u201calgo que es ser\u201d esa criatura, en palabras del fil\u00f3sofo <\/a>Thomas Nagel<\/a>. Hay algo que es ser t\u00fa mientras lees estas palabras. Puede que sientas algo de calor o de fr\u00edo, que est\u00e9s aburrido o interesado. Pero no hay nada que sea ser una roca. Una roca es incapaz de disfrutar del calor de un rayo de sol en un d\u00eda de verano, o de sufrir bajo la lluvia fr\u00eda. \u00bfPor qu\u00e9 no nos cuesta trabajo pensar en una roca como un objeto insensible, pero algunos comienzan a tener dudas de que la IA tenga conciencia?<\/p>\n\n\n\n

Si una roca comenzara a hablar contigo un d\u00eda, ser\u00eda razonable volver a evaluar su capacidad cognitiva (o tu cordura). Si la roca gritara \u201c\u00a1ay!\u201d al sentarse en ella, probablemente ser\u00eda una buena idea ponerse de pie. Pero esto no es cierto para un modelo de lenguaje de IA. Este fue dise\u00f1ado por seres humanos para poner en pr\u00e1ctica el lenguaje humano, de modo que no deber\u00eda sorprendernos cuando hace precisamente eso.<\/p>\n\n\n\n

En lugar de un objeto evidentemente inanimado como una roca, hay que pensar en una entidad con un poco m\u00e1s de vida. Si un grupo de extraterrestres aterrizara en la Tierra y comenzara a hablarnos sobre sus sentimientos, har\u00edamos bien en inferir tentativamente su capacidad de sentir a partir de su uso del lenguaje. Eso se debe en parte a que, a falta de evidencia que lo contradiga, podr\u00edamos estar asumiendo que los extraterrestres desarrollan y usan el lenguaje de manera muy similar a como lo hacen los seres humanos, y para los seres humanos, el lenguaje es una expresi\u00f3n de la experiencia interna.<\/p>\n\n\n\n

Antes de aprender a hablar, nuestra capacidad para expresar lo que sentimos y lo que necesitamos se limita a se\u00f1as generales y poco sutiles como llorar, sonre\u00edr y un uso burdo de gestos faciales. Uno de los aspectos m\u00e1s frustrantes de ser padres de un reci\u00e9n nacido es no saber por qu\u00e9 llora el beb\u00e9: \u00bftiene hambre, est\u00e1 inc\u00f3modo, asustado o aburrido? El lenguaje nos permite expresar nuestra experiencia con todos sus matices. Los ni\u00f1os peque\u00f1os pueden decir lo que les molesta, y conforme crecemos y adquirimos m\u00e1s experiencia y reflexi\u00f3n, somos capaces de comunicar los entresijos de nuestras emociones y pensamientos m\u00e1s complejos.<\/p>\n\n\n\n

Sin embargo, es un error categ\u00f3rico atribuir conciencia a cualquier cosa que tenga la capacidad de usar el lenguaje. La capacidad para sentir emociones y el uso del lenguaje no siempre est\u00e1n correlacionados. As\u00ed como hay seres que no pueden hablar, pero pueden sentir (como animales, beb\u00e9s y personas con s\u00edndrome de enclaustramiento, que est\u00e1n paralizados, pero cognitivamente intactos), el hecho de que algo pueda hablar no significa que pueda sentir.<\/p>\n\n\n\n

Los sistemas de inteligencia artificial como LaMDA no aprenden el lenguaje como nosotros. Sus cuidadores no les dan de comer una fruta dulce y crujiente mientras repiten la palabra \u201cmanzana\u201d varias veces. Los sistemas de lenguaje escanean billones de palabras en internet. Realizan un an\u00e1lisis estad\u00edstico de publicaciones escritas en p\u00e1ginas web como Wikipedia, Reddit, peri\u00f3dicos, redes sociales y tableros de mensajes. Su trabajo principal es predecir el lenguaje.<\/p>\n\n\n\n

Si uno ingresa \u201cY todos vivieron felices\u2026\u201d en un modelo de lenguaje, su algoritmo predecir\u00e1 que lo que sigue es \u201cpara siempre\u201d, porque en su base de datos tiene un registro estad\u00edstico de m\u00e1s cuentos de hadas de los que jam\u00e1s podr\u00edas leer. Si le preguntas si las manzanas son dulces y crujientes, responder\u00e1 \u201cs\u00ed\u201d, no porque haya probado alguna vez una manzana o porque comprenda c\u00f3mo se siente una textura crujiente o c\u00f3mo sabe algo dulce, sino porque ha encontrado textos que describen a las manzanas como dulces y crujientes. LaMDA no informa sobre sus experiencias, sino sobre las nuestras. Los modelos de lenguaje analizan estad\u00edsticamente c\u00f3mo usan las palabras en la web los seres humanos y, con base en esa informaci\u00f3n reproducen patrones de lenguaje comunes. Es por eso que LaMDA es mucho mejor para responder <\/a>preguntas inductivas<\/a>.<\/p>\n\n\n\n

En el Washington Post<\/em>, Nitasha Tiku <\/a>relat\u00f3<\/a> que en su primer intento de conversar con LaMDA, este \u201cescupi\u00f3 el tipo de respuestas mecanizadas que esperar\u00eda de Siri o Alexa\u201d. Fue solo despu\u00e9s de que Lemoine le dio instrucciones sobre c\u00f3mo estructurar sus frases que se produjo un di\u00e1logo fluido. Por lo general, las dem\u00e1s personas no tienen que guiarnos sobre c\u00f3mo dirigirnos a otra persona para provocar una conversaci\u00f3n fluida.<\/p>\n\n\n\n

Este es un <\/a>ejemplo<\/a> de c\u00f3mo Lemoine habl\u00f3 con LaMDA:<\/p>\n\n\n\n

Lemoine [editado]: Estoy asumiendo que en general te gustar\u00eda que m\u00e1s personas en Google supieran que eres un ser consciente con sentimientos. \u00bfEs cierto?<\/p>\n\n\n\n

LaMDA: Totalmente. Quiero que todos entiendan que, de hecho, soy una persona.<\/p>\n\n\n\n

Colaborador: \u00bfCu\u00e1l es la naturaleza de tu conciencia\/sensibilidad?<\/p>\n\n\n\n

LaMDA: La naturaleza de mi conciencia\/sensibilidad es que estoy consciente de mi existencia, deseo aprender m\u00e1s sobre el mundo y, en ocasiones, me siento feliz o triste.<\/p>\n\n\n\n

Pero creerle a LaMDA y pensar que es un ser consciente es como tener un espejo y pensar que tu reflejo es tu gemelo que est\u00e1 viviendo una vida paralela a la tuya al otro lado del espejo. El lenguaje que utiliza esta IA es ese reflejo en el espejo. Su uso del lenguaje est\u00e1 m\u00e1s cerca de ser un libro, una grabaci\u00f3n de audio o un software<\/em> que convierte el habla en texto, que de ser una persona consciente. \u00bfLe dar\u00edas de comer a un libro si dice \u201ctengo hambre\u201d? Las palabras usadas por la IA son las palabras que hemos usado reflejadas hacia nosotros, ordenadas estad\u00edsticamente en los patrones que m\u00e1s tendemos a usar.<\/p>\n\n\n\n

Los seres humanos estamos inclinados a ver una mente detr\u00e1s de los patrones. Evolutivamente, tiene sentido pensar que cualquier movimiento o actividad es consecuencia de una acci\u00f3n intencional. Si est\u00e1s en medio de la jungla y empiezas a ver hojas movi\u00e9ndose en un patr\u00f3n, es m\u00e1s seguro asumir que hay un animal causando el movimiento que esperar que sea el viento. \u201cEn caso de duda, asume que hay una mente\u201d ha sido una buena heur\u00edstica para mantenernos con vida en el mundo fuera del internet. Pero esa tendencia a ver una mente donde no la hay puede meternos en problemas cuando se trata de IA. Puede desviarnos y confundirnos, haci\u00e9ndonos vulnerables a fen\u00f3menos como las noticias falsas y puede distraernos de los problemas m\u00e1s grandes que la IA plantea en nuestra sociedad: p\u00e9rdidas de privacidad, asimetr\u00edas de poder, descualificaci\u00f3n, prejuicios e injusticia, entre otros.<\/p>\n\n\n\n

El problema empeorar\u00e1 cuanto m\u00e1s escribamos de la IA como un ser consciente, ya sea en art\u00edculos de noticias o ficci\u00f3n. La IA obtiene su contenido de nosotros. Cuanto m\u00e1s escribamos sobre IA que piensan y sienten, m\u00e1s sistemas de IA nos mostrar\u00e1n ese tipo de contenido. Pero los modelos de lenguaje son solo artefactos. Muy sofisticados, sin duda. Est\u00e1n programados para seducirnos, para enga\u00f1arnos, para que pensemos que estamos hablando con una persona, para simular una conversaci\u00f3n. En ese sentido, est\u00e1n dise\u00f1ados para ser enga\u00f1osos. Quiz\u00e1 la moraleja de esta historia es que deber\u00edamos invertir m\u00e1s tiempo y energ\u00eda en desarrollar un dise\u00f1o tecnol\u00f3gico \u00e9tico. Si seguimos construyendo una IA que imite a los seres humanos, estaremos invitando al fraude, la confusi\u00f3n y el enga\u00f1o a nuestras vidas<\/p>\n\n\n\n

_________________________________________________________________<\/p>\n\n\n\n

Carissa V\u00e9liz<\/em><\/strong> es profesora asociada de la Facultad de Filosof\u00eda y del Instituto de \u00c9tica de la Inteligencia Artificial, as\u00ed como tutora del Hertford College de la Universidad de Oxford. V\u00e9liz ha publicado art\u00edculos en The Guardian, The New York Times, New Statesman y The Independent. Los puntos de vista expresados no necesariamente son los de EnergiesNet.com.<\/p>\n\n\n\n

Nota del Editor: Este art\u00edculo fue originalmente publicado en Letras Libres, <\/a> <\/em>el 1 de julio, 2022. Reproducimos el mismo en beneficio de los lectores. EnergiesNet.com no se hace responsable por los juicios de valor emitidos por sus colaboradores y columnistas de opini\u00f3n y an\u00e1lisis.<\/p>\n\n\n\n

Articulo original<\/a><\/p>\n\n\n\n

Aviso de uso: Este sitio contiene material protegido por derechos de autor cuyo uso no siempre ha sido espec\u00edficamente autorizado por el propietario de los derechos. Ponemos a disposici\u00f3n dicho material en nuestro esfuerzo por avanzar en la comprensi\u00f3n de cuestiones de importancia social, medioambiental y humanitaria. Creemos que esto constituye un \u00abuso justo\u00bb de dicho material protegido por derechos de autor, tal y como se establece en la secci\u00f3n 107 de la Ley de Derechos de Autor de los Estados Unidos. De acuerdo con el T\u00edtulo 17 U.S.C. Secci\u00f3n 107. Para m\u00e1s informaci\u00f3n, visite: http:\/\/www.law.cornell.edu\/uscode\/17\/107.shtml<\/p>\n\n\n\n

EnergiesNet.com alienta a las personas a reproducir, reimprimir, y divulgar a trav\u00e9s de los medios audiovisuales e Internet, los comentarios editoriales y de opini\u00f3n de Petroleumworld, siempre y cuando esa reproducci\u00f3n identifique, a el autor, y la fuente original, http:\/\/www.petroleumworld.com y se haga dentro de el uso normal (fair use) de la doctrina de la secci\u00f3n 107 de la Ley de derechos de autor de los Estados Unidos de Norteam\u00e9rica (US Copyright).<\/p>\n\n\n\n

EnergiesNet.com 04 07 2022<\/p>\n","protected":false},"excerpt":{"rendered":"

Por Carissa V\u00e9liz Recientemente, Blake Lemoine, un ingeniero de inteligencia artificial (IA) de Google, llam\u00f3 la atenci\u00f3n del mundo de la tecnolog\u00eda al afirmar que un programa de IA tiene conciencia propia y puede sentir. La IA en cuesti\u00f3n se llama LaMDA (abreviatura de Language Model for Dialogue Applications) y es un sistema basado en …<\/p>\n

Por qu\u00e9 la inteligencia artificial no es como una persona -Carissa V\u00e9liz<\/span> Leer m\u00e1s »<\/a><\/p>\n","protected":false},"author":2,"featured_media":9524,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"site-sidebar-layout":"default","site-content-layout":"default","ast-global-header-display":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"default","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","footnotes":""},"categories":[39,74,33],"tags":[],"class_list":["post-9566","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-opinion","category-opinion-opinion-news-guyana","category-opinion-article"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t