Por 
Mucho se habla por estos días sobre la Inteligencia Artificial (IA) y una de sus aplicaciones más populares: El chatbot de respuesta GPT. Mientras millones de personas acceden cada día a sus servicios y varios medios especulan sobre “los trabajos que serán reemplazados por la IA”; creo que es hora de analizar este fenómeno con un lente feminista.
Lejos de ser una exploración a profundidad, este artículo es una introducción práctica. Una guía de tu amiga feminista sobre qué carajos es ChatGPT, qué hace, qué no hace y sobre todo: por qué urge que se trabaje esta tecnología desde el feminismo con una mirada interseccional. Guarda este artículo para tu próxima conversación sobre Inteligencia Artificial.
Primero lo primero: ¿Qué onda este ChatGPT?
Hace menos de un año, Mira Murati, de 34 años, comenzó a salir en las noticias de Estados Unidos con su melena castaña y su voz pausada para contarle al mundo sobre el lanzamiento de ChatGPT. Como Jefa del área de Tecnología en la empresa Open AI. Murati y su equipo sabían que presentar el chat era una decisión irreversible: necesitaban ponerlo a prueba del público para determinar los alcances de lo que acababan de crear.
Dos meses después del lanzamiento, ChatGPT estaba siendo usado por 100 millones de personas, ¡convirtiéndolo en el producto de tecnología de mayor crecimiento de la historia!, Murati estaba sorprendida. En entrevista con Bloomberg, dijo que lo que más le había impactado al equipo era “cuánto le gustaba a la gente pasar tiempo interactuando con este sistema de Inteligencia Artificial”. Al ser una máquina que se entrena y alimenta con datos, tenían que lanzarla para ponerla a prueba. El lanzamiento fue un éxito. Con cada nueva búsqueda, ChatGPT se hizo más robusto y complejo, justo lo que querían Murati y su equipo. Sorprendidos con la recepción, comenzaron a ajustar la máquina cuando millones de personas ya la estaban usando.
Comienzo con esta escena porque casi siempre que se habla de ChatGPT, se le refiere como una tecnología sin tiempo ni rostro. Pero creo que el primer paso es comenzar con lo básico: este es un producto de tecnología creado por una empresa de Silicon Valley, Estados Unidos. Y a pesar de que Murati sea la portavoz, la empresa Open AI está compuesta en un 79% de empleados hombres, 76% de personas blancas y solo un 20% de integrantes latinxs o afro. Este es el grupo de personas detrás del producto que está cambiando la forma de acceder al conocimiento en todo el planeta. Como cualquier producto exitoso, ahora tiene competidores como Microsoft Bing, Bard AI y Jasper, entre muchos otros chats programados para conversar por texto con humanos. Todos están siendo usados de forma masiva mientras lees esta línea.
¿Qué hace ChatGPT?
Para analizar qué significa esta tecnología desde un lente feminista comencemos por lo básico. ChatGPT es un robot-chat de inteligencia artificial que se especializa en el procesamiento de lenguaje. Puede interpretar lo que escribes, clasificar el lenguaje, predecir, conectar palabras y generar un nuevo texto como respuesta.
¿Y cómo lo hace? A través de un proceso de Machine Learning. Este concepto se usa hace un buen tiempo y resume un proceso complejo en el cual le das una instrucción a una computadora y la entrenas para funcionar con cada vez menos intervención de alguien humano. Con la repetición, la máquina aprende sola y produce información más precisa cada vez, en otras palabras: se hace más y más inteligente. Hay varios servicios que usan Machine Learning hace rato. Por ejemplo: Apple Music y Spotify, cuyos algoritmos te sugieren la siguiente canción prediciendo tus gustos musicales. Pero ChatGPT es diferente. Este chat está cambiando nuestra forma de acceder al conocimiento.
Natasha Hoskins del podcast Ai for idiots, by idiots lo explica así:
“Si entro a Google y busco “¿cuál es el smoothie que toma Gwyneth Paltrow?” Google va a ir a todo internet y va a mostrarme las páginas que van a tener resultados parecidos a lo que busco. Pero si voy a ChatGPT y le digo “crea una receta de smoothie como si fuera de Gwyneth Palthrow” la máquina va a buscar en toda su inmensidad de datos y generar una nueva receta para mí, basada en las predicciones que hace de otras recetas de smoothies que han existido antes.”
El chatbot no está diseñado para mostrarte de dónde viene el conocimiento, sino para producir resultados nuevos para ti.
ChatGPT fue entrenado con más de 570 Gigabytes de información que vienen de prácticamente todo lo que está en internet con acceso público (desde tesis hasta posts de Instagram). Si convirtiéramos esos datos a caracteres necesitaríamos 285 millones de hojas de papel para imprimirlos, así de grande es esta máquina, su capacidad de procesar datos la hace impredeciblemente potente. Pero eso no quita que tenga sus limitaciones.
¿Qué no hace ChatGPT?
ChatGPT no puede crear ideas nuevas, opinar, innovar o crear nuevas palabras. Solo combina los datos que tiene, los recopila y los presenta. Tampoco puede hacer algo clave: decir “no sé”. Fue programado para no dejar de hablar. Así que por más que le falten fuentes o no encuentre algo, jamás va a admitir que no sabe, incluso a veces puede generar información incorrecta para responderte.
Una vez lo intenté poner a prueba con una historia que estaba reporteando. “ChatGPT ¿Qué mujeres han sido gaiteras oficiales del gobierno de Escocia?”, escribí. “Es posible que haya habido mujeres, pero no tengo datos sobre nombramientos oficiales”. La protagonista de la historia que yo estaba produciendo, Louise Marshall, ha sido la gaitera oficial de Edimburgo por 17 años. ChatGPT no lo sabía, pero en vez de decir “no sé”, me dio otra respuesta. Comprobé con fuentes orales el resto de la historia y continué. Pero me quedé pensando, ¿Qué pasaría si otra persona no contrastara fuentes como yo, sino que se quedara con esta respuesta del chat?
¿Por qué necesitamos más principios feministas en ChatGPT?
Lo que más se le ha criticado al ChatGPT son sus sesgos. A cada nueva búsqueda, la máquina decide qué datos mostrar y qué respuestas dar, su toma de decisiones tiene sesgos de género y raza. En diciembre del año pasado, el investigador Steven Piantadosi hizo una serie de pruebas con ChatGPT que arrojaron resultados alarmantes. A la hora de preguntarle al chat cómo se ven las mejores personas científicas recibió “blanco” y “masculino” como respuesta. También le pidió una tabla de qué personas son mejores intelectuales y esta fue la respuesta.
El sesgo de género también fue evidenciado por Ivana Bartoletti, directora de Women Leading in AI, quien además está liderando la regulación de la Inteligencia Artificial en la Unión Europea.
Ivana le pidió al chat que escribiera una historia sobre un niño y una niña escogiendo su carrera. El niño resultó científico y la niña resultó en las artes. Según el chat, “La niña no pensaba que pudiera manejar lo técnico y numérico de los programas de ingeniería”. ¿Les suena familiar? En un escenario nuevo, la máquina está repitiendo las mismas dinámicas patriarcales.
Si tenemos en cuenta que en Colombia, por ejemplo, este chat ha sido usado por jueces para impartir justicia, estamos hablando de una tecnología que, si no se regula, puede tener consecuencias graves en las vidas de las personas. En marzo de este año, la Alianza para los Derechos Digitales Universales (AUDRi) hizo una carta abierta al Director Ejecutivo de Open AI, Sam Altman, pidiéndole gobernanza, reglas claras sobre el uso de la herramienta y transparencia sobre los datos con los que está siendo entrenado Chat GPT. Los sesgos están en la recolección de los datos que usa, en el filtro de esos datos y en el entrenamiento de la máquina.
¿Qué viene?
Mientras que Mira Murati y su equipo anuncian próximas integraciones de ChatGPT a los teléfonos Android y manuales para que el chat nos diga lo que queremos oír; organizaciones como f<a+i>r han llegado a la nuez del asunto: estos productos, con sus sesgos, están siendo creados en el Norte del planeta y luego se están replicando en el Sur, con todos sus problemas. Para f<a+i>r “es urgente combatir y corregir estos sesgos y crear nuevas estructuras antes de que nuestros futuros sean decididos por máquinas de algoritmos”. En Europa esto ya se está discutiendo, ahora hay que regular los límites y usos del ChatGPT en todo el sur del planeta, es urgente.
Además, hay que luchar por la paridad y representación en la industria tech. Según datos del National Center for Women and Information Technology de Estados Unidos, las mujeres son el 25% de la industria tech. Y solo el 11% ocupa posiciones de liderazgo. Cada día más mujeres y personas no binaries se gradúan de carreras afines al Machine Learning, en contraste, el 57% de las mujeres trabajando en tech dijeron que se sienten quemadas por trabajar en exceso. Urge cambiar las condiciones laborales en la industria tech como en cualquier otra industria. Según UN Women la exclusión de las mujeres de la esfera digital ha restado 1 billón de dólares al PIB de los países de ingreso bajo y media.
Mucho se ha hablado de ¿cómo va a reemplazar la IA los trabajos?, ahora debemos hablar más sobre cómo se va a regular la IA y cómo hacemos la industria tech más feminista, sobre todo en altos cargos. Este es solo el primer artículo de varios donde queremos empezar a integrar una perspectiva feminista a las conversaciones sobre chatbots y otras formas de Inteligencia Artificial. Sabemos que ahí afuera muchxs programan, codifican y sueñan en un futuro donde los robots ayudan a reducir las brechas de desigualdad. Aquí estamos para conocerles y mantenerles informadxs.
Para seguir:
- El colectivo Feminist AI, que crea espacios para que las mujeres y personas no binarias, negras, indígenas y personas de color – BIPOC por sus siglas en inglés y las personas LGBTQIA+, puedan reunirse a construir tecnología juntes, pensada desde nuestras culturas, identidades y experiencias.
- H.E.R. DAO. Una organización autónoma descentralizada que promueve la diversidad e inclusión en el ecosistema Blockchain y web3.
- Boys Club. Una organización autónoma descentralizada y empresa de medios que define una nueva voz para un nuevo internet.
- Women Leading in AI. Un tanque de acción para mujeres líderes en IA.
- Josie Young y la iniciativa de reprogramar chatbots para que sean feministas.
- Saiph Savage, la mexicana que investiga cómo usar ChatGPT para hacer puestos de trabajo digital más justos.
- f<a+i>r una red global dedicada a encontrar formas de hacer la IA maps efectiva, inclusiva y transformacional.
- Este artículo sobre cómo la Inteligencia artificial tiene sesgos hace años.
- Curiosi3: una plataforma creada por Carla Martinez y Sandra Carrillo para aprender sobre Blockchain y web3 en español.
¿Conoces una iniciativa de Inteligencia Artificial feminista, regional y en español? Cuéntanos más en la sección de comentarios.
