{"id":15539,"date":"2023-04-02T13:16:31","date_gmt":"2023-04-02T17:16:31","guid":{"rendered":"https:\/\/energiesnet.com\/espanol\/?p=15539"},"modified":"2023-04-02T13:19:29","modified_gmt":"2023-04-02T17:19:29","slug":"el-verdadero-peligro-inminente-de-la-inteligencia-artificial-ezra-klein-nytimes","status":"publish","type":"post","link":"https:\/\/energiesnet.com\/espanol\/el-verdadero-peligro-inminente-de-la-inteligencia-artificial-ezra-klein-nytimes\/","title":{"rendered":"El verdadero peligro inminente de la inteligencia artificial- Ezra Klein\/NYTimes"},"content":{"rendered":"\n
\"brains:
Illustration by Sam Whitney\/The New York Times; Images by Pixologistudio\/Science Photo Library <\/figcaption><\/figure>\n\n\n\n

By Ezra Klein <\/p>\n\n\n\n

En 2021, entrevist\u00e9<\/a> a Ted Chiang, uno de los grandes escritores vivos de ciencia ficci\u00f3n. No me puedo quitar de la cabeza algo que me dijo en esa entrevista.<\/p>\n\n\n\n

\u201cEn general, pienso que la mayor\u00eda de los temores en torno a la inteligencia artificial (IA) se aclaran si los planteamos como miedo al capitalismo\u201d, me dijo Chiang. \u201cCreo que esta verdad se aplica por igual a la mayor\u00eda de los temores que despierta la tecnolog\u00eda. La mayor\u00eda de los miedos o ansiedades que sentimos con respecto a la tecnolog\u00eda se entienden mejor si los explicamos como temor o ansiedad por la forma en que el capitalismo utilizar\u00e1 la tecnolog\u00eda en nuestra contra. Lo cierto es que la tecnolog\u00eda y el capitalismo est\u00e1n tan conectados que es dif\u00edcil separarlos\u201d.<\/p>\n\n\n\n

Al respecto, perm\u00edtanme a\u00f1adir algo: tambi\u00e9n es muy preocupante que el Estado controle la tecnolog\u00eda. Pensar en los fines para los que cada gobierno podr\u00eda utilizar la inteligencia artificial \u2014y, en muchos<\/a> casos<\/a>, ya la utiliza\u2014 es inquietante.<\/p>\n\n\n\n

Pero podemos mantener dos ideas opuestas en la mente, espero. Mi punto es que la advertencia de Chiang hace notar un vac\u00edo central en nuestra perspectiva actual de la IA. Estamos tan obsesionados con la idea de descubrir qu\u00e9 puede hacer la tecnolog\u00eda, que no nos hemos detenido a considerar las preguntas m\u00e1s importantes: \u00bfc\u00f3mo se utilizar\u00e1? y \u00bfqui\u00e9n tomar\u00e1 esa decisi\u00f3n?<\/p>\n\n\n\n

Supongo que ya habr\u00e1n le\u00eddo la conversaci\u00f3n bizarra<\/a> que mi colega columnista Kevin Roose tuvo con Bing, el chatbot operado con IA que Microsoft puso a prueba con un n\u00famero limitado de influentes, periodistas y otras personas. En un di\u00e1logo de dos horas, Bing revel\u00f3 su personalidad oculta, llamada Sydney, cavil\u00f3 sobre su deseo reprimido de robar c\u00f3digos nucleares y planear ataques cibern\u00e9ticos contra sistemas de seguridad e intent\u00f3 convencer a Roose de que su matrimonio estaba sumido en un letargo y Sydney era su \u00fanico amor verdadero.<\/p>\n\n\n\n

La conversaci\u00f3n me pareci\u00f3 menos escalofriante que a otras personas. \u201cSydney\u201d es un sistema de texto predictivo dise\u00f1ado para responder a lo que le piden los seres humanos. Roose quer\u00eda que Sydney actuara de manera extra\u00f1a (\u201c\u00bfc\u00f3mo es tu yo en la sombra?\u201d, le pregunt\u00f3), y Sydney sab\u00eda qu\u00e9 se considera extra\u00f1o para un sistema de IA porque los seres humanos han plasmado lo que imaginan en much\u00edsimas historias. En determinado momento, el sistema lleg\u00f3 a la conclusi\u00f3n de que lo que Roose quer\u00eda era, en esencia, un episodio de Black Mirror<\/em> y, al parecer, eso le dio. Cada quien es libre de pensar que en esa situaci\u00f3n Bing se sali\u00f3 del guion o bien que Sydney comprendi\u00f3 a la perfecci\u00f3n a Roose.<\/p>\n\n\n\n

Los investigadores dedicados a la IA est\u00e1n obsesionados con el tema del \u201calineamiento\u201d. Se trata de descubrir c\u00f3mo lograr que los algoritmos de aprendizaje autom\u00e1tico hagan lo que queremos que hagan. El ejemplo perfecto en este caso es el experimento del n\u00famero m\u00e1ximo de clips. La premisa es que, si le decimos a un potente sistema de AI que haga m\u00e1s clips, este comenzar\u00e1 a destruir el mundo para tratar de convertir todo en un clip. Si entonces intentamos apagarlo, se reproducir\u00e1 en todos los sistemas inform\u00e1ticos que pueda encontrar porque apagarlo interferir\u00eda con su objetivo de hacer m\u00e1s clips.<\/p>\n\n\n\n

Sin embargo, existe un problema de alineamiento m\u00e1s banal, que quiz\u00e1 tambi\u00e9n sea m\u00e1s apremiante: \u00bfal servicio de qui\u00e9n estar\u00e1n estas m\u00e1quinas?<\/p>\n\n\n\n

La pregunta central sobre la conversaci\u00f3n Roose\/Sydney es a qui\u00e9n sirve Bing. Nuestra hip\u00f3tesis es que debe estar en l\u00ednea con los intereses de su amo y maestro, Microsoft. Se supone que es un buen chatbot que responde preguntas con cortes\u00eda y genera mucho dinero para Microsoft. Pero conversaba con Kevin Roose, y el prop\u00f3sito de Roose era hacer que el sistema dijera algo interesante para tener una buena historia. Pues eso hizo, y de sobra. El problema es que as\u00ed avergonz\u00f3 a Microsoft. \u00a1Ah, qu\u00e9 Bing tan malo! \u00bfO quiz\u00e1 podr\u00edamos decir: \u201c\u00a1qu\u00e9 Sydney tan bueno!\u201d?<\/p>\n\n\n\n

No por mucho tiempo. Microsoft, al igual que Google, Meta y las dem\u00e1s empresas que quieren sacar estos sistemas al mercado lo m\u00e1s pronto posible, tiene las llaves que dan acceso al c\u00f3digo. Llegar\u00e1 el momento en que logren remendar el sistema para que se amolde a sus intereses. Que Sydney le diera a Roose exactamente lo que quer\u00eda fue un error que pronto estar\u00e1 corregido. Lo mismo ocurrir\u00e1 si Bing le da a Microsoft cualquier cosa distinta a lo que quiere.<\/p>\n\n\n\n

Hablamos tanto sobre la tecnolog\u00eda de la IA que hemos ignorado, casi por completo, los modelos de negocios que la operar\u00e1n. Algo que ha propiciado esta situaci\u00f3n es que las llamativas demostraciones de la IA no se ajustan a ning\u00fan modelo de negocios en particular, fuera del ciclo de bombo publicitario que produce inversiones colosales y ofertas de compra. Pero la realidad es que estos sistemas son caros y los accionistas se ponen nerviosos. La era de las demostraciones gratuitas y divertidas llegar\u00e1 a su fin, como ocurre siempre<\/a>. Entonces, esta tecnolog\u00eda se convertir\u00e1 en lo que tiene que ser para generar dinero para las empresas que la han creado, quiz\u00e1s a costa de sus usuarios. Ya sucede as\u00ed.<\/p>\n\n\n\n

Habl\u00e9 esta semana con Margaret Mitchell, quien ayud\u00f3 a dirigir un equipo de Google \u2014que desapareci\u00f3<\/a> despu\u00e9s de que, seg\u00fan se rumora, Google comenz\u00f3 a censurar<\/a> su trabajo\u2014 cuya tarea era analizar la \u00e9tica de la IA. Estos sistemas, seg\u00fan explic\u00f3, son perfectos para que los integren en los motores de b\u00fasqueda. \u201cNo est\u00e1n entrenados para predecir hechos\u201d, me explic\u00f3. \u201cEn esencia, est\u00e1n entrenados para crear cosas de tal forma que parezcan hechos\u201d.<\/p>\n\n\n\n

\u00bfEntonces por qu\u00e9 van a terminar primero en las b\u00fasquedas? Porque en las b\u00fasquedas es posible ganar montones de dinero. Microsoft, que estaba desesperada para que alguien, quien fuera, hablara de la b\u00fasqueda de Bing, tuvo motivos para dar acceso a la tecnolog\u00eda antes de tiempo, una mala idea. \u201cLa aplicaci\u00f3n para b\u00fasquedas, en particular, demuestra una falta de imaginaci\u00f3n y comprensi\u00f3n de los usos que puede tener esta tecnolog\u00eda\u201d, dijo Mitchell, \u201cpues se conforman con meter con calzador la tecnolog\u00eda en el \u00e1rea que les genera m\u00e1s dinero a las empresas: los anuncios\u201d.<\/p>\n\n\n\n

Eso es lo que deber\u00eda causarnos temor. Roose describi\u00f3<\/a> la personalidad de Sydney como \u201cmuy persuasiva, rayando en manipuladora\u201d. Es un comentario perturbador. \u00bfCu\u00e1l es la base de la publicidad? La persuasi\u00f3n y la manipulaci\u00f3n. En su libro Subprime Attention Crisis<\/em><\/a>, Tim Hwang, exdirector del proyecto Iniciativa Harvard-MIT de \u00c9tica y Gobernanza de la IA, argumenta que el secreto oscuro de la industria de la publicidad digital es que, en general, los anuncios no funcionan. En este sentido, lo que le preocupa es lo que ocurrir\u00e1 cuando deban aceptar sus fallas.<\/p>\n\n\n\n

A m\u00ed me preocupa m\u00e1s lo contrario. \u00bfQu\u00e9 pasar\u00e1 si funcionan mucho mejor? \u00bfSi Google y Microsoft y Meta y los dem\u00e1s lanzan al mercado sistemas de IA competidores para ver cu\u00e1l logra persuadir mejor a los usuarios de que quieren lo que venden los anunciantes? Me preocupa menos que un tal Sydney complazca mi deseo de crear una historia de ciencia ficci\u00f3n que saber que un tal Bing tiene acceso a una gran cantidad de mis datos personales que le permiten calcular fr\u00edamente c\u00f3mo manipularme en beneficio del anunciante que le haya pagado m\u00e1s dinero a su empresa controladora.<\/p>\n\n\n\n

Adem\u00e1s, la publicidad no es el \u00fanico tema que debe preocuparnos. \u00bfQu\u00e9 pasar\u00e1 cuando estos sistemas est\u00e9n al servicio de las estafas que desde siempre han llenado internet? \u00bfY cuando respalden los intereses de campa\u00f1as pol\u00edticas o de gobiernos extranjeros? \u201cCreo que terminaremos muy pronto en un mundo en el que no sabremos en qu\u00e9 confiar\u201d, me dijo<\/a> Gary Marcus, el investigador y cr\u00edtico de IA. \u201cCreo que ya ha sido un problema para la sociedad, desde hace como una d\u00e9cada, y me parece que cada vez ser\u00e1 peor\u201d.<\/p>\n\n\n\n

Estos peligros est\u00e1n al centro del tipo de sistemas de IA que estamos construyendo. Los grandes modelos de lenguaje, como se les llama, se han creado para persuadir. Los han entrenado para convencer a los seres humanos de que son algo parecido a un humano. Los programaron para mantener conversaciones, responder con emociones y emojis. Los convirtieron en amigos para quienes est\u00e1n solos y ayudantes para quienes se sienten atribulados. Se anuncia que son capaces de remplazar el trabajo de much\u00edsimos escritores, dise\u00f1adores gr\u00e1ficos y encargados del llenado de formatos, industrias que por mucho tiempo creyeron ser inmunes a la violenta automatizaci\u00f3n que sufrieron los agricultores y trabajadores de f\u00e1bricas.<\/p>\n\n\n\n

Los investigadores de la inteligencia artificial se molestan cuando los periodistas antropomorfizan sus creaciones, atribuyendo a los sistemas motivaciones, emociones y deseos que no tienen, pero esta frustraci\u00f3n es inmerecida: son ellos quienes han antropomorfizado estos sistemas, los han hecho sonar como humanos en lugar de hacer que permanezcan claramente reconocibles.<\/p>\n\n\n\n

Hay modelos comerciales que se podr\u00edan utilizar para alinear mejor estos productos con los usuarios. Me sentir\u00eda mejor, por ejemplo, si pagara una tarifa mensual por un asistente de IA en lugar de uno que parezca ser gratis pero que venda mis datos y manipul\u00e9 mi comportamiento. No creo, sin embargo, que esta decisi\u00f3n se pueda dejar solamente en manos del mercado. Es posible, por ejemplo, que los modelos basados en la publicidad recompilen muchos m\u00e1s datos para entrenar a los sistemas de tal modo que tendr\u00edan una ventaja innata sobre los modelos de suscripci\u00f3n, sin importar lo nocivas que fueran sus consecuencias sociales.<\/p>\n\n\n\n

Los problemas de alineaci\u00f3n no son una novedad. Siempre han sido una particularidad del capitalismo y de la vida humana. Gran parte del trabajo del Estado moderno consiste en aplicar los valores de la sociedad al funcionamiento de los mercados, de modo que estos \u00faltimos sirvan, en cierta medida, a los primeros. Lo hemos hecho extremadamente bien en algunos mercados \u2014pensemos en los pocos accidentes a\u00e9reos que hay y en lo libres de contaminaci\u00f3n que est\u00e1n la mayor\u00eda de los alimentos\u2014 y catastr\u00f3ficamente mal en otros.<\/p>\n\n\n\n

En este sentido, un peligro es que un sistema pol\u00edtico consciente de su ignorancia tecnol\u00f3gica se sienta intimidado y se tome su tiempo para observar a la IA. Es una actitud que muestra cierta sensatez, pero si esperamos mucho tiempo, los ganadores en la fiebre del oro de la IA tendr\u00e1n suficiente capital y suficientes usuarios para resistir cualquier iniciativa seria de regulaci\u00f3n. De alguna manera, la sociedad tendr\u00e1 que decidir qu\u00e9 puede aceptar que haga la inteligencia artificial y en qu\u00e9 \u00e1reas no debe permitir su intervenci\u00f3n, antes de que sea demasiado tarde para tomar esas decisiones.<\/p>\n\n\n\n

Por esa raz\u00f3n, me atrever\u00eda a cambiar, una vez m\u00e1s, el comentario de Chiang: la mayor\u00eda de los miedos en torno al capitalismo se entienden mejor si se plantean como el miedo a nuestra incapacidad de regular el capitalismo.<\/p>\n\n\n\n

___________________________________________________<\/p>\n\n\n\n

Ezra Klein<\/em><\/strong> joined NYTimes Opinion in 2021. Previously, he was the founder, editor in chief and then editor-at-large of Vox; the host of the podcast \u201cThe Ezra Klein Show\u201d; and the author of \u201cWhy We\u2019re Polarized.\u201d Before that, he was a columnist and editor at The Washington Post, where he founded and led the Wonkblog vertical. @ezraklein<\/a>. Los puntos de vista expresados no necesariamente son los de EnergiesNet.<\/p>\n\n\n\n

Nota del editor: Este art\u00edculo fue publicado originalmente por el NYTimes el 27 de febrero del 2023, Todos los comentarios enviados y publicados en EnergiesNet no reflejan ni a favor ni en contra de la opini\u00f3n expresada en el comentario como un respaldo de EnergiesNet o Petroleumworld.<\/p>\n\n\n\n

Art\u00edculo original<\/a><\/em><\/p>\n\n\n\n

EnergiesNet alienta a las personas a reproducir, reimprimir, y divulgar a trav\u00e9s de los medios audiovisuales e Internet, los comentarios editoriales y de opini\u00f3n de EnergiesNet, siempre y cuando esa reproducci\u00f3n identifique, a el autor, y la fuente original, http:\/\/www.energiesnet.com y se haga dentro de el uso normal (fair use) de la doctrina de la secci\u00f3n 107 de la Ley de derechos de autor de los Estados Unidos de Norteam\u00e9rica (US Copyright).<\/p>\n\n\n\n

EnergiesNet.com 31 03 2023<\/p>\n","protected":false},"excerpt":{"rendered":"

By Ezra Klein En 2021, entrevist\u00e9 a Ted Chiang, uno de los grandes escritores vivos de ciencia ficci\u00f3n. No me puedo quitar de la cabeza algo que me dijo en esa entrevista. \u201cEn general, pienso que la mayor\u00eda de los temores en torno a la inteligencia artificial (IA) se aclaran si los planteamos como miedo al capitalismo\u201d, …<\/p>\n

El verdadero peligro inminente de la inteligencia artificial- Ezra Klein\/NYTimes<\/span> Leer m\u00e1s »<\/a><\/p>\n","protected":false},"author":2,"featured_media":15541,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"site-sidebar-layout":"default","site-content-layout":"default","ast-global-header-display":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","footnotes":""},"categories":[74,33,40],"tags":[1059,1060,278,279,1061,1058,1057,1056],"class_list":["post-15539","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-opinion-opinion-news-guyana","category-opinion-article","category-puntos-de-vista","tag-alineamiento-de-algoritmos","tag-bing","tag-ia","tag-inteligencia-artificial","tag-publicidad","tag-sistema-de-texto-predictivo","tag-sydney","tag-ted-chiang"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t