Si dejamos lugar a la paranoia, las palabras del popular sistema podr\u00edan leerse como una amenaza. M\u00e1s a\u00fan si las leemos a la luz de las coberturas del tema que muchos grandes medios han difundido en los \u00faltimos tiempos.<\/span><\/p>\n Hace algunas semanas un grupo de investigadores, gur\u00fas tecnol\u00f3gicos y empresarios del sector tecnol\u00f3gico suscribieron una<\/span> carta abierta<\/span><\/a> en la que llaman a “suspender” los grandes experimentos en Inteligencia Artificial. En el texto afirman que los sistemas de ese tipo que alcancen la capacidad de competir con humanos representan un riesgo para “la sociedad y la humanidad”. Resaltan que en los \u00faltimos meses “los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez m\u00e1s poderosas que nadie, ni siquiera sus creadores, pueden entender. predecir o controlar de forma fiable”. En una direcci\u00f3n parecida<\/span> se manifest\u00f3<\/span><\/a>, entre otros, Geoffrey Hinton, un destacado investigador que fuera premiado por sus trabajos sobre deep learning (aprendizaje profundo). Aunque el t\u00edtulo y el tono de la nota apuntan a un escenario futuro en el que las IA sean \u201cm\u00e1s inteligentes\u201d que las personas, el inform\u00e1tico brit\u00e1nico se refiri\u00f3 a otros riesgos m\u00e1s inmediatos, como el reemplazo de puestos laborales en tareas no rutinarias.<\/span><\/p>\n M\u00e1s recientemente, otro conjunto de investigadores del \u00e1rea y ejecutivos empresariales (entre los que resuena el nombre de Bill Gates) suscribi\u00f3 <\/span>una declaraci\u00f3n<\/span><\/a> breve seg\u00fan la cual mitigar \u201cel riesgo de extinci\u00f3n por la IA deber\u00eda ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear\u201d.<\/span><\/p>\n Palabras como las referidas en los p\u00e1rrafos anteriores evocan inevitablemente a numerosas escenas de pel\u00edculas de cat\u00e1strofes donde las\u00a0 m\u00e1quinas se rebelan dominando y esclavizando a la humanidad. Es excesivamente especulativo alertar sobre riesgos de ese tipo en la actualidad, pero hay numerosos peligros que surgen o se potencian por el auge de las IA sobre los cuales la carta en cuesti\u00f3n hace poca o ninguna referencia.<\/span><\/p>\n Se habla mucho de Inteligencia Artificial, no s\u00f3lo en el \u00e1mbito de la investigaci\u00f3n cient\u00edfica y la academia, sino tambi\u00e9n en los medios de comunicaci\u00f3n masivos. Sin embargo, no existe un consenso general acerca de qu\u00e9 es exactamente lo que designa esa expresi\u00f3n.<\/span><\/p>\n Generalmente se reconoce como punto de partida en el uso de esta expresi\u00f3n al trabajo de McCarthy, Minsky, Rochester y Shannon, quienes en 1959 publicaron \u201c<\/span>A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence<\/span><\/a>\u201d. El proyecto al que se refer\u00edan part\u00eda de la idea de que el aprendizaje \u201co cualquier otra caracter\u00edstica de la inteligencia\u201d pueden describirse de manera lo suficientemente precisa como para que una m\u00e1quina pueda simularlos.<\/span><\/p>\n Sin embargo, al hablar de \u201cinteligencia\u201d muchas veces se asimil\u00f3 la idea a una imitaci\u00f3n del pensamiento humano, o una actividad comparable por parte de las m\u00e1quinas.\u00a0<\/span><\/p>\n El avance del llamado “aprendizaje autom\u00e1tico” o machine learning le dio impulso a esta idea de que las m\u00e1quinas pueden hacer cosas que parezcan propias de la inteligencia humana. El “aprendizaje” en cuesti\u00f3n difiere de lo que se conoce de los procesos humanos. Se trata de determinar un conjunto (a veces gigantesco) de par\u00e1metros de ciertas funciones en base a un conjunto de datos (que siempre es grande y a veces es enorme) de acuerdo a los cuales se busca que las funciones predigan algo para una situaci\u00f3n no incluida en los datos (por ejemplo, la probabilidad de que la inflaci\u00f3n en Argentina el pr\u00f3ximo mes sea de tal valor; o la probabilidad de que tal palabra sea la que sigue en una oraci\u00f3n) o sean capaces de otorgar clasificaciones (como decir si una persona cumple nada, mucho o poco con sus deudas).<\/p>\n Entonces, si de lo que se trata es de que una m\u00e1quina haga algo parecido al pensamiento, los avances de los \u00faltimos a\u00f1os y el enorme crecimiento en la capacidad de procesamiento han producido algunos resultados que -m\u00e1s all\u00e1 de consideraciones sem\u00e1nticas pertinentes- <\/span>parecen<\/span><\/i> mostrar comportamientos humanos. Una \u201ccharla\u201d con ChatGPT o BARD pasa perfectamente por una conversaci\u00f3n con un humano; o los programas generados por esos bots parecen obra de alg\u00fan programador con poca experiencia (al menos hasta ahora), hasta con errores esperables.<\/span><\/p>\n De all\u00ed a que estos programas tomen decisiones completamente por s\u00ed mismos (m\u00e1s all\u00e1 de lo ambiguo del significado de tal afirmaci\u00f3n), manejen otros dispositivos para que realicen acciones y tomen el control de la humanidad, hay a\u00fan mucho trecho por recorrer. Es cierto, eso s\u00ed, que puede ocurrir que las decisiones que adopten en base a su programaci\u00f3n y aprendizaje sean impredecibles incluso para sus autores, precisamente por la capacidad que pueden tener de analizar r\u00e1pidamente gigantescas cantidades de datos.<\/span><\/p>\n Pero hoy, ahora mismo, el uso de tecnolog\u00edas clasificadas como IA producen interesantes beneficios y perjuicios preocupantes, y su avance acelera sensiblemente algunos males que ya aquejan a la humanidad en su conjunto.\u00a0<\/span><\/p>\n La carta mencionada al comienzo hace referencia al art\u00edculo <\/span>On the Danger of Stochastic Parrots: can Language Models be too Big?, de Emily Bender y otras<\/span><\/a> donde las autoras analizan espec\u00edficamente los riesgos de las IA basadas en grandes Modelos de Lenguaje, como es el caso de GPT y su bot parlante ChatGPT. All\u00ed las autoras enumeran peligros ambientales (por el alto consumo energ\u00e9tico en estos sistemas), costos financieros, costos de oportunidad (el desarrollo de IA se lleva profesionales y recursos que podr\u00edan servir en otras \u00e1reas), y otros peligros sustanciales como \u201clos estereotipos, la denigraci\u00f3n, el aumento de la ideolog\u00eda extremista y el arresto injusto\u201d.<\/span><\/p>\n Esas amenazas son mucho m\u00e1s inmediatas y verificables que la eventual dominaci\u00f3n del mundo por parte de una o varias IAs. En la actualidad -y desde hace alg\u00fan tiempo- hay sistemas que \u201cestiman\u201d la probabilidad de que una persona cumpla con el pago de un pr\u00e9stamo, haci\u00e9ndola elegible o no para otorgarle un cr\u00e9dito; que un convicto reincida en el crimen, influyendo en decisiones de jueces en cuanto a sentencias; y tambi\u00e9n califican a docentes para decidir qui\u00e9nes ser\u00e1n despedidos. Sistemas de este tipo fueron analizados y expuestos por la matem\u00e1tica norteamericana Kathy O\u2019Neal en su libro \u201cArmas de Destrucci\u00f3n Matem\u00e1tica\u201d, publicado en 2016.<\/span><\/p>\n Pero \u00bfhasta qu\u00e9 punto se puede culpar a las IAs de tales desatinos?. Son las autoridades pol\u00edticas, los gobernantes y funcionarios con capacidad de decisi\u00f3n quienes deciden confiar en modelos cuya pertinencia no ha sido probada. Ellos son quienes contratan a las empresas y fijan o aceptan las condiciones para su utilizaci\u00f3n. Y son responsables las empresas proveedoras, cuyo aliciente exclusivo es el lucro, las que ponen a disposici\u00f3n sus recursos sin entrar en reparos \u00e9ticos.<\/span><\/p>\n Los ejemplos de O\u2019Neal se refieren a los Estados Unidos, pero el problema es recurrente. Cabe recordar que hace unos a\u00f1os<\/span> el entonces gobernador salte\u00f1o presum\u00eda<\/span><\/a> de la adopci\u00f3n de un sistema de IA para pronosticar \u201ccon nombre y apellido y domicilio\u201d qu\u00e9 joven tendr\u00eda una alta probabilidad de embarazarse, y apelaba a ese sistema como base para delinear pol\u00edticas para reducir los embarazos adolescentes.\u00a0<\/span><\/p>\n Un poco m\u00e1s ac\u00e1 en el tiempo, los malos usos comprobados en el Sistema de Reconocimiento Facial de Pr\u00f3fugos (SRFP) adoptado por el gobierno de la Ciudad de Buenos Aires llevaron a que la C\u00e1mara en lo Contencioso Administrativo y Tributario de esa jurisdicci\u00f3n <\/span>exigiera<\/span><\/a> al gobierno de la Ciudad que cumpla con un conjunto de recaudos antes de poner nuevamente en funcionamiento el Sistema en cuesti\u00f3n. El tribunal mencionado no declar\u00f3 la inconstitucionalidad del SRFP porque no consider\u00f3 probado que viola derechos humanos o favorece la discriminaci\u00f3n, aunque reconoci\u00f3 que \u201ccierta informaci\u00f3n respecto del funcionamiento t\u00e9cnico del sistema no fue develada\u201d. Es evidente que los camaristas no tomaron en cuenta los numerosos estudios que advierten sobre los posibles sesgos en los Sistemas de Reconocimiento Facial, benefici\u00e1ndolos con una presunci\u00f3n de inocencia de los mismos que -en cambio- desestiman en el mismo acto respecto de los ciudadanos de a pie. Hay que reconocer, de todos modos, que las investigaciones mencionadas no gozan de una difusi\u00f3n muy amplia fuera de determinados c\u00edrculos interesados en la tem\u00e1tica y que no ser\u00e1n las empresas proveedoras las que reconozcan sus limitaciones.<\/span><\/p>\n La fe en ChatGPT tambi\u00e9n hizo su aparici\u00f3n en la pol\u00edtica local.\u00a0\u00a0<\/span><\/p>\n Los casos mencionados no son para nada excepcionales. Muchos sistemas de IA se adoptan sin tener en cuenta sus limitaciones y \u00e9stas pueden ocasionar resultados desde anecd\u00f3ticos a catastr\u00f3ficos (Melanie Mitchell escribi\u00f3 un <\/span>ilustrador art\u00edculo en The New York Times<\/span><\/a>)\u00a0<\/span><\/p>\n Otra \u00e1rea donde la IA traer\u00e1 cambios en poco tiempo es en el mundo del trabajo. Un sistema de Inteligencia Artificial seguramente podr\u00e1 realizar tareas rutinarias de manera efectiva y sin los costos que insume un trabajador o trabajadora humanxs. De hecho la proliferaci\u00f3n de \u201casistentes virtuales\u201d sirve de pantallazo para un fen\u00f3meno esperable: las empresas preferir\u00e1n depositar tareas en manos de sistemas inform\u00e1ticos antes que en personas, si es que dichos sistemas cumplen con las necesidades de la compa\u00f1\u00eda.\u00a0<\/span><\/p>\n Muchos medios publicaron pron\u00f3sticos alarmantes en ese sentido. Las <\/span>previsiones del Foro Econ\u00f3mico Mundial<\/span><\/a> (WEF por sus siglas en ingl\u00e9s) estiman que la cuarta parte de los actuales puestos de trabajo podr\u00edan perderse, aunque tambi\u00e9n esperan que se generen nuevas oportunidades laborales. A\u00fan con ese matiz optimista, el informe en cuesti\u00f3n prev\u00e9 una \u1e55erdida neta de unos 14 millones de puestos (se perder\u00edan 83 millones pero se crear\u00edan otros 69 millones).<\/span><\/p>\n Hay labores que por sus caracter\u00edsticas podr\u00edan ser realizadas exitosamente por IAs. Sin embargo, en un mundo dominado por la l\u00f3gica del lucro, no ser\u00eda de extra\u00f1ar que se las emplee m\u00e1s all\u00e1 de sus capacidades probadas. De hecho, el uso relativamente extendido de sistemas de reconocimiento visual o voto electr\u00f3nico adelantan esa posibilidad.\u00a0<\/span><\/p>\n No todas las actividades se ver\u00e1n afectadas de la misma manera, Zhou y otros publicaron en 2019 un <\/span>art\u00edculo<\/span><\/a> en la China Economic Journal, donde repasaron la literatura sobre el impacto de la IA en el mundo laboral, encontrando que la mayor parte de las investigaciones se centraron en los pa\u00edses centrales (o desarrollados). Los autores observaron tambi\u00e9n que el mayor impacto tiende a producirse sobre el trabajo de mujeres, personas mayores, con bajos ingresos o menor nivel educativo. El trabajo en cuesti\u00f3n busca estimar espec\u00edficamente los efectos de la IA en el mercado de trabajo en China hacia el a\u00f1o 2049 en diferentes rubros y edades. Las conclusiones son similares a las de muchos de los estudios relevados: las mayores probabilidades de ser reemplazades laboralmente por IAs recaen en las mujeres, personas mayores, con educaci\u00f3n primaria o menor, y con bajos ingresos.<\/span><\/p>\n A sabiendas de que sus respuestas no necesariamente cuentan con adecuada justificaci\u00f3n emp\u00edrica, preguntamos a ChatGPT y BARD (IA conversadora de Google) sobre cu\u00e1les son los puestos de trabajo donde el reemplazo de humanxs por IAs ser\u00eda m\u00e1s plausible. Ambas coincidieron en incluir en esa n\u00f3mina\u00a0 a los servicios de atenci\u00f3n al cliente, carga de datos\u00a0 y la conducci\u00f3n de veh\u00edculos. Esto no significa necesariamente que Hugo Moyano deba tomar cartas inmediatamente en el asunto, pero s\u00ed implica que entre los abundantes textos en los que se basan estos bots para armar sus respuestas hay unos cuantos que apuntan al futuro de esas actividades.<\/span><\/p>\n Internet se ha convertido -entre otras cosas- en un \u00e1mbito de difusi\u00f3n de noticias alteradas, dudosas o manifiestamente falsas, donde numerosos actores buscan abonar visiones interesadas de la realidad, sobre todo en cuestiones pol\u00edticas o cient\u00edficas.<\/span><\/p>\n La aparici\u00f3n de los Grandes Modelos de Lenguaje ofrece una enorme gama de nuevos recursos para ello, sin importar que las mentiras se difundan de manera deliberada o accidental.<\/span><\/p>\n Es sencillo pedirle a ChatGPT o BARD que escriban un relato sobre alg\u00fan hecho ficticio. La redacci\u00f3n puede ser m\u00e1s o menos feliz, pero seguramente compiten con m\u00e1s de un autoproclamado periodista de varios grandes medios de comunicaci\u00f3n.\u00a0<\/span><\/p>\n Pero esta no es la \u00fanica fuente de falsedad en estos bots parlanchines. Sus modelos fueron creados para redactar de manera consistente pero sin que ello signifique que lo que redacten sea verdadero. Como resultado, en muchas ocasiones escriben sentencias que parecen serias y fundamentadas pero en realidad son falsas. Esos desvar\u00edos suelen denominarse \u201calucinaciones\u201d.<\/span><\/p>\n En un <\/span>art\u00edculo en USA Today<\/span><\/a>, Michelle A. Williams -decana en la School of Public Health de Harvard- relat\u00f3 como una persona amiga hab\u00eda pedido a ChatGPT que escribiera un ensayo sosteniendo que las armas no eran peligrosas para ni\u00f1xs. El bot lo hizo, justificando sus afirmaciones en papers de revistas acad\u00e9micas que s\u00f3lo ten\u00edan un problema: eran inexistentes. Ante la repregunta de la profesional, el bot escribi\u00f3 convincentemente que sus citas eran genuinas. Williams consider\u00f3 este caso como \u201cescalofriante\u201d, advirtiendo que esta tecnolog\u00eda conlleva riesgos \u201cmuy reales\u201d que podr\u00edan tener graves consecuencias en \u00e1reas como la salud p\u00fablica.<\/span><\/p>\n Las publicaciones inventadas no s\u00f3lo sirven para justificar las afirmaciones de los bots. Tambi\u00e9n pueden emplearse para que personas humanas sostengan posiciones en otros \u00e1mbitos, incluso en revistas acad\u00e9micas. Robin Bauwens, profesor asistente en la Universidad de Tilburg, <\/span>denunci\u00f3<\/span><\/a> que un paper que present\u00f3 en una revista fue rechazada en base a citas de publicaciones inexistentes, cuya menci\u00f3n correspond\u00eda a alucinaciones de una versi\u00f3n anterior de ChatGPT,<\/span><\/p>\n En el art\u00edculo de Williams citado m\u00e1s arriba, la autora se\u00f1ala que \u201cla impresionante capacidad de ChatGPT para producir contenido que suene a verdad podr\u00eda permitir que las entidades malintencionadas difundan narrativas falsas de manera r\u00e1pida y econ\u00f3mica\u201d.\u00a0\u00a0<\/span><\/p>\n Algunos referentes pol\u00edticos de nuestro pa\u00eds evidencian y ejemplifican algunos de los peligros inmediatos de estas tecnolog\u00edas. El 9 de febrero pasado, el diputado nacional <\/span>Rodrigo de Loredo ley\u00f3 en el recinto legislativo un texto generado por ChatGPT<\/span><\/a> para sustentar su postura contra el pedido de juicio pol\u00edtico impulsado por el oficialismo contra la Corte Suprema de Justicia. Para el abogado de Juntos por el Cambio, el texto en cuesti\u00f3n demostrar\u00eda que \u201cel futuro les tiene picado el boleto\u201d a los populismos, seg\u00fan manifest\u00f3, dejando en claro que el legislador otorga relevancia a las afirmaciones del bot y espera que su audiencia tambi\u00e9n lo haga.<\/span><\/p>\n Esta misma semana el precandidato presidencial Horacio Rodr\u00edguez Larreta difundi\u00f3 un spot de campa\u00f1a (<\/span>El Cronista<\/span><\/a>, <\/span>La Naci\u00f3n<\/span><\/a>) con las respuestas de ChatGPT al \u201cprompt\u201d (*) \u201cArgentina absurda\u201d. Como en el caso anterior, la utilizaci\u00f3n de ese texto como un mensaje valioso para convencer a votantes sugiere que se le otorga una validez que est\u00e1 muy lejos de tener. De hecho, much\u00edsimos usuarios de redes sociales le escribieron prompts diferentes sobre Argentina, consiguiendo una heterog\u00e9nea y seguramente contradictoria variedad de respuestas.<\/span><\/p>\n La manipulaci\u00f3n de la realidad puede ser a\u00fan m\u00e1s convincente si viene acompa\u00f1ada de im\u00e1genes o videos ilustrativos. Y all\u00ed entran en juego las Deepfakes o \u201cfalsificaciones profundas\u201d, videos, im\u00e1genes o audios que han sido alterados para representar de manera convincente a personas realizando algo que en realidad no hicieron. El avance de estas t\u00e9cnicas hace muy dif\u00edcil advertir la manipulaci\u00f3n, a\u00fan para observadores atentxs. Muchas veces resulta necesario efectuar estudios digitales para detectar las alteraciones (un <\/span>art\u00edculo de Luisa Verdoliva<\/span><\/a> realiza un repaso amplio sobre estos temas), algo que no est\u00e1 a mano para muchxs usuarios que terminan dando cr\u00e9dito a manipulaciones tendenciosas.\u00a0<\/span><\/p>\n Estas tecnolog\u00edas pueden tener efectos graves a partir de la generaci\u00f3n de escenas ficticias en los que referentes pol\u00edticos aparezcan en situaciones que los desacreditan, y han servido de base para una multitud de v\u00eddeos pornogr\u00e1ficos donde los protagonistas exhiben rostros de personas famosas ajenas a las producciones para adultos. Sus consecuencias, sin embargo, no se restringen a la pol\u00edtica o a las celebridades, debido a que existen herramientas muy extendidas que permiten a usuarios sin mucha formaci\u00f3n en inform\u00e1tica crear v\u00eddeos o audios manipulados. Una serie de art\u00edculos firmados por Samantha Cole en Vice fueron mostrando c\u00f3mo la producci\u00f3n de Deepfakes se ha ido extendiendo y su uso ha posibilitado pornograf\u00eda falsa con amigues y compa\u00f1eres de clase (\u201c<\/span>We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now<\/span><\/a>\u201d, \u201c<\/span>People Are Using AI to Create Fake Porn of Their Friends and Classmates<\/span><\/a>\u201d, \u201c<\/span>AI-Assisted Fake Porn Is Here and We\u2019re All Fucked<\/span><\/a>\u201d). Por su parte, las investigadoras Chandell Gosse y Jacquelyn Burkell <\/span>observaron<\/span><\/a> que las coberturas de los medios sobre estos temas enfatizan los posibles usos electorales, subestimando los efectos sobre las v\u00edctimas de una t\u00e9cnica que en su enorme mayor\u00eda se emplea para generar pornograf\u00eda falsa sobre mujeres. La prensa en general, seg\u00fan las autoras, tampoco toman en cuenta los factores sociales y culturales que posibilitan ese uso espec\u00edfico de las Deepfakes.<\/span><\/p>\n <\/p>\n Una consecuencia inmediata del crecimiento de las grandes IA es la consolidaci\u00f3n del poder de unas pocas corporaciones.<\/span><\/p>\n La historia del trabajo de Bender y otras que referimos m\u00e1s arriba,\u00a0 ilustra algunos aspectos de esa concentraci\u00f3n. Y las corporaciones en cuesti\u00f3n est\u00e1n dispuestas a deshacerse de cualquier obst\u00e1culo a su crecimiento.<\/span><\/p>\n En el a\u00f1o 2020 se conoci\u00f3 que Google hab\u00eda despedido a Timnit Gebru, una de las profesionales que se desempe\u00f1aba en su \u00e1rea de \u00c9tica e Inteligencia Artificial. Al parecer, el detonante fue un mail enviado por Gebru a otrxs empleados de la corporaci\u00f3n (V\u00e9ase <\/span>\u00a0New York Times, diciembre 2020<\/span><\/a>, <\/span>BBC<\/span><\/a>) pero trascendi\u00f3 que la gigante de origen californiano hab\u00eda cuestionado el contenido de un paper cr\u00edtico sobre los grandes modelos de lenguaje y le hab\u00eda reclamado a la profesional que retirara su firma del mismo (<\/span>Wired<\/span><\/a>), . El paper de marras era precisamente el que refiere a los loros estoc\u00e1sticos (stochastic parrots) al que alude la famosa carta comentada al comienzo de este art\u00edculo. La hostilidad de Google para con Gebru alcanz\u00f3 ribetes de fuerte agresi\u00f3n, con la intervenci\u00f3n de trolls acos\u00e1ndola en redes sociales (<\/span>The Verge<\/span><\/a>). Cuando el paper en cuesti\u00f3n a\u00fan no hab\u00eda sido publicado, un <\/span>art\u00edculo en la Tecnhnology Review<\/span><\/a> del MIT anticip\u00f3 algunas de las afirmaciones que se incluir\u00edan en aqu\u00e9l, dando a conocer tambi\u00e9n el t\u00edtulo del trabajo.<\/span><\/p>\n Las investigaciones de Gebru no s\u00f3lo apuntaron contra los Grandes Modelos de Lenguaje; en diversas publicaciones puso de relieve que las IA frecuentemente profundizan las desigualdades \u00e9tnicas y de g\u00e9nero en beneficio de quienes ostentan mayor poder en el mundo (v\u00e9ase por ejemplo <\/span>Race and Gender<\/span><\/a> de Gebru, o <\/span>Towards Gender Equity in Artificial Intelligence and Machine Learning Applications in Dermatology<\/span><\/a>, de Lee y otros).<\/span><\/p>\n Pero Google y los dem\u00e1s gigantes no s\u00f3lo despiden a quienes objetan sus pol\u00edticas. Est\u00e1n dispuestos a reducir brutalmente su personal\u00a0 en pos de mantener sus ganancias, aunque -claro- detr\u00e1s del discurso de la crisis econ\u00f3mica (v\u00e9ase el <\/span>art\u00edculo de Business Insider<\/span><\/a> acerca de los despidos en Google, o <\/span>el de El Pa\u00eds<\/span><\/a> sobre los de Microsoft).<\/span><\/p>\n <\/p>\n Numerosos estudios\u00a0 revelan sesgos en el comportamiento de sistemas de Inteligencia Artificial. Esos sistemas no tratan a todas las personas de la misma manera. Un caso que ilustra de manera contundente este problema es el del clasificador de fotos de Google, que en 2015 <\/span>etiquet\u00f3 como \u201cgorilas\u201d<\/span><\/a> a una pareja de personas de piel oscura.<\/span><\/p>\n Las consecuencias de tales sesgos es palpable: la polic\u00eda detiene u hostiga a personas pobres y\/o de minor\u00edas \u00e9tnicas mucho m\u00e1s que a ricos y \u201cblancos\u201d. Pero tambi\u00e9n los beneficios que pueden acarrear muchos sistemas podr\u00edan favorecer s\u00f3lo a quienes, en definitiva, se benefician de casi todo. Por ejemplo, sistemas para la detecci\u00f3n y tratamiento de enfermedades de la piel pueden tener rendimientos muy dispares seg\u00fan las caracter\u00edsticas fenot\u00edpicas de les eventuales pacientes (v\u00e9ase <\/span>Gender Shades:\u00a0 Intersectional Accuracy Disparities in Commercial Gender Classification<\/span><\/a>). En concreto, si los directivos de las empresas, los programadores, y las im\u00e1genes usadas para entrenar tales sistemas corresponden a hombres blancos, no se puede conocer adecuadamente qu\u00e9 grado de efectividad tendr\u00e1n en -por ejemplo- mujeres ind\u00edgenas sudamericanas.<\/span><\/p>\n La incidencia de los datos usados para entrenar los sistemas de IA favorece que muchas de \u00e9stas expresen y reproduzcan estereotipos comunes, puntos de vista dominantes, y tendencias \u201cmainstream\u201d. La corta vida (por llamarla de alg\u00fan modo) del bot Tay en Twitter <\/span>le bast\u00f3 para convertirse en un cibergrit\u00f3n, racista, antifeminista y pronazi<\/span><\/a>, en parte porque fue lo que \u201caprendi\u00f3\u201d en la red social del pajarito.<\/span><\/p>\n Mientras las IA surjan, se desarrollen, se desplieguen bajo la tutela de grandes empresas tecnol\u00f3gicas, sus comportamientos tender\u00e1n a reproducir los valores que permiten que dichas empresas sean dominantes en el mundo actual.<\/span><\/p>\n Por otra parte, los grandes desarrollos en IA requieren de la disposici\u00f3n de equipamiento, personal, y otros recursos en escalas enormes. Los Grandes Modelos de Lenguaje (como GPT) no est\u00e1n al alcance de cualquiera. Desarrollar y entrenar uno de estos sistemas exige recursos que en general no est\u00e1n a la mano ni siquiera de pa\u00edses de ingresos medios, menos a\u00fan de colectivos populares de cualquier tipo. Un <\/span>texto<\/span><\/a> de Vili Lehdonvirta (Universidad de Oxford) lo ilustra claramente: la potencia computacional que se requiere para entrenar una IA como GPT-4 (el modelo detr\u00e1s de ChatGPT) \u201ces tal que una sola unidad de procesamiento de gr\u00e1ficos (GPU) del tipo que se encuentra en una computadora com\u00fan de gama alta necesitar\u00eda alrededor de 288 a\u00f1os para terminar una ejecuci\u00f3n de entrenamiento\u201d.\u00a0<\/span><\/p>\n Este crecimiento de las grandes compa\u00f1\u00edas tecnol\u00f3gicas no obedece al azar ni a la s\u00fabita aparici\u00f3n de genios malvados. Su consolidaci\u00f3n expresa las tendencias al monopolio del capitalismo a escala mundial.\u00a0<\/span><\/p>\n El economista canadiense Nick Srnicek -en su libro Platform Capitalism (Polity Press, 2017)- vincula la consolidaci\u00f3n de un conjunto de monopolios (**) tecnol\u00f3gicos a partir de la crisis de sobreproducci\u00f3n de mediados de los \u201860 y la consiguiente presi\u00f3n hacia la reducci\u00f3n de costos de producci\u00f3n (que sostuvo la ola \u201cflexibilizadora\u201d de los a\u00f1os sucesivos). Esos cambios trajeron consigo el ataque a las organizaciones de trabajadores, la presi\u00f3n por crear un mercado laboral global, la adopci\u00f3n de nuevas formas de organizaci\u00f3n de la producci\u00f3n donde el software y las comunicaciones juegan un papel cada vez m\u00e1s importante. Luego de la crisis de 2008, se consolid\u00f3 la tendencia a que grandes compa\u00f1\u00edas incrementen el acaparamiento de dinero y formas \u201cl\u00edquidas\u201d (es decir, que pueden usar como dinero), con una alta proporci\u00f3n de los mismos en refugios fiscales. Esa tendencia fue dominada por empresas tecnol\u00f3gicas -Google, Apple, Amazon, Microsoft- que contaron con la facilidad para trasladar capitales (no tienen que mover grandes f\u00e1bricas) y para evadir impuestos.\u00a0<\/span><\/p>\n Srnicek intenta caracterizar los cambios en el capitalismo destacando que muchos autores enfatizan el nuevo tipo de materia prima a extraer: los datos. El economista se\u00f1ala all\u00ed algo que parece olvidado en muchos an\u00e1lisis: los datos necesitan ser almacenados y, para que se constituyan en conocimiento, requieren de procesamiento. Y ese procesamiento no es \u201cinmaterial\u201d sino que se realiza en equipos enormes y costoso a los que s\u00f3lo muy pocos pueden acceder.\u00a0<\/span><\/p>\n Precisamente, la capacidad material de Microsoft le permiti\u00f3 formatear a la empresa de investigaci\u00f3n OpenAI (creadora de ChatGPT y Dall-E), proporcion\u00e1ndoles los servicios de computaci\u00f3n que requer\u00eda a trav\u00e9s de Azure, convirti\u00e9ndose la empresa de Richmond en licenciataria excluyente de ChatGPT (<\/span>The Verge<\/span><\/a>, <\/span>LunaSec<\/span><\/a>).\u00a0<\/span><\/p>\n Un pu\u00f1ado de grandes compa\u00f1\u00edas (Alibaba -de origen chino-, Microsoft, Amazon, Google disponen del equipamiento requerido, los modelos e incluso los datos para entrenar IA. Son las propietarias de los \u201cmedios de producci\u00f3n\u201d de las IA, debiendo otras empresas o entidades acudir a esas grandes firmas para poder desarrollar sus propias IA.\u00a0<\/span><\/p>\n Aunque no ocupa los titulares de los diarios ni muchos seminarios en las Facultades de Econom\u00eda, hay datos que indican que el proceso de concentraci\u00f3n es central en esta etapa del capitalismo. Evidencias de esto pueden leerse, entre otros lugares, en un <\/span>art\u00edculo<\/span><\/a> de Bellamy Foster y otros en Monthly Review.<\/span><\/p>\n <\/p>\n Adem\u00e1s de la concentraci\u00f3n, el desarrollo de las grandes compa\u00f1\u00edas tecnol\u00f3gicas revela el poder cada vez mayor de entidades financieras que han tomado el lugar global de los bancos. En el libro citado m\u00e1s arriba, Srnicek observa c\u00f3mo el capital financiero se dirigi\u00f3 en los \u201890 hacia inversiones en Internet. Hoy son unos cuantos fondos de inversi\u00f3n los que controlan buena parte de los negocios en el mundo, incluidos los de las grandes tecnol\u00f3gicas.\u00a0<\/span><\/p>\n La <\/span>propiedad de las acciones<\/span><\/a> de Alphabet, empresa \u201cmadre\u201d de Google, incluye a Vanguard Group (7,35%), BlackRock (4,38%) y Fidelity Management (4%).\u00a0<\/span><\/p>\n Seg\u00fan <\/span>resume Enrique Ortega Burgos<\/span><\/a>, Jeff Bezos sigue siendo el accionista principal de Amazon con el 10,9% del total. Le sigue Vanguard con el 6,2%. Fidelity cuenta con el 3,04% de las acciones, en tanto BlackRock reune el 2,02%.<\/span><\/p>\n Microsoft hace mucho que no es \u201cla empresa de Bill Gates\u201d. De acuerdo con la <\/span>informaci\u00f3n publicada por Market Screener<\/span><\/a>, el 8,48% de las acciones pertenece a Vanguard, Fidelity Management tiene el 2,01%, mientras que el propio Gates tiene el 1,38%.<\/span><\/p>\n En Alibaba la participaci\u00f3n es menor, pero existe: Vanguard Group tiene algo m\u00e1s del 2,6% de las acciones, mientras Fidelity re\u00fane casi un 0,54%. <\/span>![\"\"](\"http:\/\/dragonlibre.net\/wp-content\/uploads\/2023\/06\/FrankensteinInTheMatrix.jpg\")
<\/a>\u00bfDe qu\u00e9 hablamos cuando hablamos de IA?<\/span><\/h3>\n
<\/a>Peligros m\u00e1s inmediatos<\/span><\/h3>\n
Ya est\u00e1n entre nosotrxs<\/strong><\/h4>\n
Reemplazades por robots<\/strong><\/h4>\n
Fabricantes de Mentiras<\/strong><\/h4>\n
<\/a>No te cruces en el camino de los monopolios<\/span><\/h3>\n
M\u00e1s poder al poder<\/span><\/h3>\n
Es el capitalismo<\/h3>\n