abril 11, 2023

¡Esto no es un papa!: verificar para creer

COMPARTIR ARTÍCULO
Compartir en Facebook Tweet Enviar por WhatsApp Enviar por WhatsApp Enviar por email

La viralización en redes sociales de la  imagen del papa Francisco con un abrigo blanco acolchado  al mejor estilo Balenciaga, generada por el software de inteligencia artificial MidJourney –que produce imágenes a partir de frases de texto–, es un hito para la historia de la inteligencia artificial y de Internet como la conocemos pues fue el primer engaño masivo a partir de una imagen generada por inteligencia artificial. 

Ya este año se habían hecho virales unas imágenes de Trump siendo arrestado, generadas por inteligencia artificial, pero en ese momento para la gran mayoría de las personas fue evidente que las imágenes eran falsas, mientras que la foto del Papa resultó ser, además de realista, verosímil, y por eso nos puso a pensar sobre el futuro de lo que entendemos como “real” en un mundo en el que la inteligencia artificial cada vez será más accesible. 

Sin duda esta tecnología avanzará para crear imágenes cada vez más realistas, es decir, que imiten a la perfección la manera en que las cámaras y el ojo humano perciben la realidad. Esto es clave porque la Inteligencia Artificial no está copiando ni imitando la realidad sino la manera en que nuestro cerebro conecta las percepciones de nuestros sentidos, como la vista, y nos las muestra en una representación que asumimos como la realidad. Los miedos que esta tecnología representa no son nuevos. Es la culminación tecnológica de un proyecto humano que lleva siglos, y que puede rastrearse desde la antigua Grecia. 

Les pintores griegues hicieron una gran innovación técnica que fue el escorzo, es decir, “ la representación de una figura situada oblicua o perpendicularmente en el plano del papel o lienzo sobre el que se pinta”, en palabras más simples, se trata de dibujar las cosas como las ves, y no como las piensas, es un truco para engañar al ojo y simular que hay profundidad en el papel bidimensional. Este sería el primer paso para que luego en el renacimiento italiano se desarrollara la perspectiva, que es una técnica para representar espacios con profundidad, imitando la manera en la que observa nuestro ojo. 

El pie del guerrero que aparece de frente en una vasija griega es uno de los primeros escorzos. 
Escorzo en Lamentación sobre Cristo muerto, de Andrea Mantegna, 1474. 

Les griegues tuvieron otros avances para lograr representaciones más realistas. Apollodoro fue el primer pintor en usar tonos claros y oscuros para representar las luces y las sombras y dar la sensación de tridimensionalidad en sus imágenes, la técnica se llamó “skiagraphia”. Luego otro pintor, Zeuxis, perfeccionó esta técnica y tuvo fama internacional. Pero Zeuxis también sería superado. En el tomo 35 de la Naturalis Historia de Plinio el Viejo se cuenta la historia de un concurso de pintura entre Zeuxis y Parrasio. Cuenta la leyenda que Zeuxis pintó unas uvas tan realistas que los pájaros bajaron volando a picotearlas. Luego le pidió a Parrasio que corriera la tela que cubría su obra, para compararlas, para descubrir que dicha cortina era una pintura, y le concedió la victoria diciendo “Yo he engañado a los pájaros, pero Parrasio me ha engañado a mí.” 

La habilidad de Parrasio era tal que empezó a suscitar preguntas filosóficas, muy parecidas a las que nos estamos haciendo hoy con la inteligencia artificial. Jenofonte registra un diálogo entre Sócrates y Parrasio en el que Sócrates le dice: «Y a buen seguro que al reproducir figuras hermosas, como no es fácil dar con un hombre que tenga él solo todas sus partes irreprochables, reunís de varios los rasgos más hermosos de cada uno, para así los cuerpos enteros hacerlos aparecer hermosos». Qué diría Sócrates si supiera que esto es básicamente lo que están haciendo en la industria del modelaje con la inteligencia artificial. El colmo distópico de esto es la campaña de la marca Levi’s, en donde muestran modelos racializades generados por inteligencia artificial, supuestamente para tener más “inclusión”. 

Además de los avances técnicos en la pintura hemos tenido muchos avances tecnológicos para la representación de las imágenes. En algún momento, parte de la utilidad del trabajo de los y las pintoras era hacer retratos de personas para que otras personas pudieran saber, en otros lugares o incluso en el futuro, cómo era el físico de la persona retratada. Esta “línea de negocio” se fue a pique con el invento de la fotografía, que era más rápida y eficaz para representar un rostro. En ese momento el gremio de la pintura tuvo miedo de ser reemplazado por la tecnología, en este caso por la fotografía, es el mismo miedo que sentimos periodistas, redactores, fotógrafes, y otres, con los pasos de animal grande de la inteligencia artificial. Pero el conflicto con la fotografía se resolvió bellamente, y no hay razón para que no vuelva a ser así. La llegada de las cámaras obligó a los pintores a pensar en qué podían pintar que no pudiera ser retratado por un lente, y así fue como llegaron los impresionistas con sus estudios de la luz, y los expresionistas que pintaron las emociones o los surrealistas que pintaron los sueños. La vertiginosa evolución de la pintura en el siglo XX habría sido imposible sin el invento de la fotografía. 

Orshan Jarrow argumenta en la revista Vox que programas como Midjourney pueden expandir las capacidades de la imaginación. “Las imágenes generadas por inteligencia artificial nos permiten ver representaciones realistas de lo que aún no existe, expandiendo tipos de futuros que podemos imaginar como realidades visuales. La imaginación humana no construye ideas desde cero, es combinatoria: la mente mezcla nuevas ideas con todas aquellas a las que había sido expuesta antes. Las imágenes generadas por IA aumentarán en gran medida la materia prima de los mundos plausibles que la mente puede imaginar y, a través de ellos, los tipos de futuros que percibimos como posibles.” Por ejemplo, podemos imaginar imágenes con nuestra mente y ese suele ser un punto de partida, pero estas imágenes son escurridizas y efímeras, así que muchas veces hacemos una imagen de apoyo, como un boceto, y esta imagen empieza a interactuar con nuestra imaginación. Pensemos en una diseñadora industrial que está tratando de inventar un artefacto mecánico. Probablemente tendrá un proceso mental de imaginar el artefacto, pero luego hará un dibujo, y ahora esa nueva imagen “física” le servirá de apoyo para continuar su proceso de imaginación. Más adelante es probable que haga un render digital para mejorar su diseño y finalmente, un prototipo para terminar de perfeccionar su invención. En este ejemplo nuestra imaginación se mantiene en constante interacción con el mundo exterior. Jarrow añade que: “Pronto, cualquier persona podrá imaginar cualquier cosa y generarla en una imagen con calidad fotorrealista, para verla como si fuera real. Concretar lo visual le da a la mente algo sólido a lo que agarrarse y este nuevo truco amplía las posibilidades para la mente extendida”.

De la misma manera, estos avances en la inteligencia artificial llevan a explorar las capacidades humanas. Tomemos el ejemplo de Chat GPT, que lo que hace es manipular la sintaxis para generar respuestas creíbles. Aunque podemos decir que Chat GPT redacta mejor que muchas personas, el proceso de pensamiento humano que da origen, incluso a un texto incorrecto y mal redactado, es mucho más complejo. Como explica Hany Farid, profesor de Ciencias de la Computación en la Universidad de California en The Conversation “La tecnología de inteligencia artificial para producir textos está basada en encontrar la palabra o frase más ‘razonable’ para seguir a la frase o palabra anterior. Así que si le decimos a Chat GPT la frase ‘Un sistema de inteligencia artificial puede…’, el software predecirá que lo más probable es que la siguiente palabra sea ‘aprender’, ‘entender’, ‘predecir’.” Como resultado el texto generado es una combinación de las frases más probables, y esto, por supuesto, no las hace ni interesantes ni ciertas, pero sí genera textos predecibles y mediocres.

La Inteligencia Artificial también nos obligará a reevaluar las habilidades humanas, a partir de preguntarnos cuáles son “humanas, demasiado humanas”, es decir, que no se pueden automatizar. Jerry Kaplan, profesor en la Universidad de Stanford, explica en una entrevista para The Atlantic, que las tareas menos automatizables son las que tienen que ver con entender los sentimientos y las motivaciones de las personas. Kaplan piensa que esto beneficiará a las mujeres en el mercado laboral, porque son quienes históricamente han realizado los trabajos de cuidado que no se pueden automatizar, como la enfermería, la educación especialmente en infancias y, la maternidad. Es posible que Kaplan asuma que las mujeres hacemos estos trabajos porque tenemos ciertas habilidades, pero en realidad, desarrollamos esas habilidades porque  las necesitamos para hacer los trabajos que nos asignan según unos rígidos roles de género. Kaplan también cree que la automatización de tareas del trabajo doméstico ayudará a disminuir la doble jornada y cerrar la brecha de género. Quizás es demasiado optimista, pues la tecnología ya ha automatizado muchas tareas domésticas, por ejemplo con la invención de la lavadora o la aspiradora, y eso no resultó necesariamente en un mundo más igualitario. En lo que tiene mucha razón es que a lo que el mundo corporativo llama “soft skills”, estarán al alza en el mercado, pues estas habilidades son la última frontera de la inteligencia artificial. Me pregunto si un incentivo económico logrará motivar a los hombres a aprender a ser más empáticos (como aprendemos las mujeres a lo largo de nuestra socialización, pues no es algo “innato” o “natural”) y qué impacto social tendrá eso y si modificará los valores que se promueven con la masculinidad. 

Por otro lado, Hany Farid señala algunos riesgos muy reales de la tecnología de inteligencia artificial. “Podría generarse un video con el CEO de una compañía diciendo que bajaron las ganancias un 20% y crear un caos en la bolsa, o generar un video de una líder mundial amenazando con una acción militar y generar un crisis geopolítica, o insertar a alguien en un video sexualmente explícito.” No solo estos son riesgos muy reales, sino que además son inminentes. Como ha pasado con las redes sociales, que llevamos usando 20 años y los Estados apenas están empezando a pensar en regular, la tecnología de inteligencia artificial avanzará mucho más rápido que la legislación. Vivimos ahora en un mundo en el que ya no podemos confiar en las fotos y videos como “prueba” de la realidad, y tenemos que afilar nuestra capacidad de sospecha, como lo hicimos antes con el boom de las publicaciones online y la posibilidad autopublicaciones, muchas de ellas fake news virales, que trajo internet. Esa sospecha siempre ha sido necesaria porque las mentiras son tan viejas como la humanidad, lo que pasa ahora es que se ha maximizado sin precedentes su alcance. Se acabó la certeza del “ver para creer”, que pasará a quizás a un “verificar para creer” o también “experimentar para creer”. 

Como solución (y estamos a tiempo de aplicarla) Farid propone integrar una especie de ‘marca de agua’ a todos los productos hechos con inteligencia artificial, que puede ser imperceptible como sucede hoy con la metadata. Pero además estos avances nos exigen, particularmente a las periodistas, estar a la altura, y usar las técnicas de verificación que ya tenemos con muchísimo más rigor; hoy más que nunca será necesario verificar con fuentes independientes, y crear otros protocolos de verificación que se ajusten a los nuevos retos de la desinformación, que es la misma de siempre pero con mejor tecnología. 

Y sobre todo, podemos ejercitar una capacidad de la mente humana que llevamos por siglos afinando, y que es una de la funciones sociales de la ficción, y es discernir entre lo realista, que imita nuestra percepción para hacer una mímesis de la realidad, lo verosímil, que tiene una lógica interna coherente que lo hace plausible, y lo real, cuya definición siempre se nos escapa; es mucho más fácil delimitar lo falso que lo verdadero. Y eso ya lo había dicho Magritte, cuando pintó una pipa y nos advirtió que esa era solo la imagen de la pipa, porque la pipa real era inasible para el lienzo. Hoy quizás diría “¡Ceci n’est pas un pape!”.

COMPARTIR ARTÍCULO
Compartir en Facebook Tweet Enviar por WhatsApp Enviar por WhatsApp Enviar por email
  • Me indigna
    (0)
  • Me moviliza
    (0)
  • Me es útil
    (1)
  • Me informa
    (1)
  • Me es indiferente
    (0)
  • Me entretiene
    (0)

Autor

  • Catalina Ruiz-Navarro

    Feminista colombiana autora del libro “Las mujeres que luchan se encuentran”, columnista del diario El Espectador desde 2008. Creadora del Youtuber Beach Camp, (2019), un campamento para formar a creadoras de contenido latinoamericanas en feminismos y del Creadoras Virtual Camp, un taller virtual para la producción de contenido digital feminista (2020). Hace parte del Consejo Consultivo de la ONG alemana Centre For Feminist Foreing Policy. También es una de las fundadoras del colectivo feminista colombiano Viejas Verdes, que busca divulgar información clara y sencilla sobre nuestros derechos sexuales y reproductivos a través de las redes sociales. En 2017 co-fundadora de la revista Volcánica, la revista feminista latinoamericana de Nómada y fue su directora hasta 2019. También ha sido columnista de el portal Sin Embargo y Vice en México, Univisión en Estados Unidos y el periódico El Heraldo y la revista Razón Pública en Colombia. Su trabajo como periodista ha sido publicado en periódicos internacionales como The Guardian y The Washington Post. Ha trabajado como Oficial de Comunicaciones en Women’s Link Worldwide y como Coordinadora de Comunicaciones para JASS Mesoamérica (Asociadas por lo justo) en donde trabajó con defensoras de derechos humanos indígenas y rurales en Centroamérica. Ha trabajado con organizaciones internacionales como Oxfam y Planned Parenthood en el diseño de estrategias digitales para la promoción de los derechos de las mujeres. En noviembre de 2016 dictó el TEDx Talk “Hablemos de feminismos” en la ciudad de Bogotá. Es maestra en Artes Visuales con énfasis en Artes Plásticas y Filósofa de la Universidad Javeriana, con Maestría en Literatura de la Universidad de Los Andes. Ejerce estas disciplinas como periodista.

    Ver todas las entradas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Artículos relacionados