En 1999, el primer teléfono con cámara y video en color comercialmente disponible en el mundo llegó en la forma del Kyocera VP-210 en Japón. Un año después de su lanzamiento, las preocupaciones sobre el rápido aumento del voyeurismo “bajo la falda” que permitieron los teléfonos se extendieron rápidamente por todo el país, lo que llevó a los proveedores de servicios inalámbricos a instituir una política garantizando que los teléfonos que ofrecían contarían con un fuerte ruido del obturador de la cámara que los usuarios no podrían desactivar. Él eficacia de esa medida es, hasta el día de hoy, objeto de debate. Pero el evento sigue siendo una valiosa lección de historia sobre la adopción generalizada de la tecnología: las nuevas herramientas facilitan hacer todo, y no solo las cosas buenas.
Los generadores de arte de IA basados en avisos ahora están teniendo su momento VP-210. Una vez que programas como Midjourney, DALL E y Stable Diffusion comenzaron a proliferar en el verano de 2022, era solo cuestión de tiempo antes de que los usuarios comenzaran a crear e iterar imágenes hipersexualizadas y estereotipadas de mujeres para poblar las cuentas de las redes sociales y venderlas como NFT. Pero los detractores de la IA deben evitar confundir el potencial y el valor inherentes de la tecnología con su grave uso indebido, incluso cuando esos usos indebidos son descaradamente sexistas.
Del mismo modo, si sus defensores quieren defender la revolución del arte de la IA, deben dejar en claro que están listos para tener esta conversación y trabajar para encontrar soluciones. Si no lo hacen, el movimiento perderá legítimamente su credibilidad, y la tecnología difamada se enfrentará a una batalla cuesta arriba aún más empinada de lo que ya se encuentra.
Las redes sociales han tenido durante mucho tiempo una reputación de catalizando la baja satisfacción corporal y la autoestima en las mujeres en particular. El mal uso de las herramientas de arte de IA tiene el potencial de exacerbar este problema. Una búsqueda rápida en las plataformas de redes sociales más populares (para los términos que elegimos no revelar aquí para evitar alentar su uso) arroja una variedad de cuentas dedicadas a mostrar creaciones de IA que representan mujeres fotorrealistas (las que muestran a hombres son comparativamente pocas y lejos Entre).
Las imágenes de estos relatos van desde las de buen gusto y artísticas hasta las francamente grotescas y pornográficas. La mayoría cae en la última categoría, presentando representaciones de mujeres que se desvían tanto hacia la objetivación como para llegar a la parodia. Si bien incluimos imágenes de una variedad de cuentas de esta naturaleza en este artículo, decidimos no incluir información de identificación sobre ellas para evitar dar una plataforma a aquellos que, según el consenso de expertos, promueven estereotipos y causan daño.
Si bien las políticas de contenido bien intencionadas de programas como DALL-E y a mitad de camino evitar que los usuarios incluyan “contenido para adultos” y “gore” en su creación rápida, el casi ilimitado flexibilidad del lenguaje permite a los usuarios eludir gran parte de las limitaciones de estas políticas con cierta facilidad. El hecho de que estos Los sistemas de IA tienen sesgos inherentes contra las mujeres incorporado en ellos solo ha empeorado este fenómeno. Tampoco hay nada que impida que las personas construyan y entrenen sus propios modelos de IA, liberándolos por completo de tales restricciones.
Destilando la cosificación de la mujer
Las conversaciones en torno a la dinámica de objetivación-empoderamiento de las mujeres en las industrias de la moda, el entretenimiento y la pornografía son complejas, matizadas y vitales, pero todas ellas giran en torno a la agencia y la dignidad de los seres humanos. Lo que hace que las imágenes reduccionistas y degradadas de mujeres generadas por IA se sientan tan siniestras no es diferente de lo que hace falsificaciones profundas tan reprobable: la tecnología elimina esos molestos complejos morales con respecto al consentimiento y la personalidad y destila la esencia misma de la objetivación sexual en su forma más pura.
A gran escala, las imágenes producidas por las herramientas de arte de IA que representan personas a menudo combinan lo íntimo y lo extraño. Algunos dirían que esto es incluso parte de su atractivo, la capacidad de destacar y subvertir el valle inquietante de formas verdaderamente artísticas y que invitan a la reflexión.
No se puede decir lo mismo de las mujeres generadas por IA que se ven tan a menudo en las cuentas de Twitter e Instagram. Son representaciones mucho más inquietantes, no solo porque han surgido de algoritmos entrenados en miles de millones desconocidos de imágenes de mujeres de la vida real, sino porque las imágenes se construyen a través de la especificación basada en indicaciones de relaciones sexuales asociadas. partes De mujer. El resultado es un espectro extraño y resonante de innumerables rostros y cuerpos sintetizados en una mascarada de realidad.
¿Pueden las herramientas de arte de IA celebrar a las mujeres?
La línea entre objetivar y empoderar se desdibuja rápidamente. Existen varias cuentas de redes sociales con contenido generado por IA que son operadas por mujeres, por ejemplo, y afirman celebrarlas en su diversidad, belleza y contextos culturales. En lugar de crear y publicar caricaturas que se han reducido a poco más que sus órganos sexuales, los relatos como estos tienden a presentar a las mujeres de los hombros hacia arriba y se asemejan más a seres humanos reales. Este es un tipo de progreso, pero incluso en esas páginas, la mayoría de las mujeres representadas tienen estructuras óseas y tipos de cuerpo sorprendentemente similares entre sí, no muy diferentes del llamado fenómeno del “síndrome de la misma cara” que ha tenido. plagado de producciones de Disney durante años.
Aún así, estas diferencias en el grado importan. Un número cada vez mayor de colecciones de NFT están comenzando a usar IA en su creación, por ejemplo, y muchos que representan a mujeres posiblemente lo estén haciendo de una manera respetuosa e innovadora. musas es una de esas colecciones, habiendo construido sus NFT a partir de la interpretación de AI de las pinturas de la forma femenina desnuda de la artista Eva Adamian. La colección, afirma el sitio web del proyecto, nació del deseo de crear algo que mostrara la “belleza sin fronteras, inclusiva y descubierta” de las mujeres.
Este no es un problema nuevo
La cosificación de las mujeres en los medios artísticos no es nada nuevo; AI simplemente ha hecho que sea más fácil de lograr. Esto se ilustra por el hecho de que el algoritmo de Instagram lo dirige rápidamente desde cuentas que representan mujeres generadas por IA a otras de naturaleza similar; solo las mujeres en estas páginas han sido dibujadas a mano por ilustradores gráficos. Aparte de las diferencias estilísticas, hay poco para diferenciar a los dos en la forma en que perciben y presentan a las mujeres. Así como el arte de IA es arte en una expresión diferente, la objetivación es objetivación, independientemente del medio en el que se exprese.
Los defensores de AI deben liderar el cambio
Todas las tecnologías utilizadas para crear arte en el pasado también se han utilizado para representar a las mujeres en un espectro que va desde lo digno hasta lo unidimensional. AI es ahora la última innovación que se utilizará de esta manera. Irónicamente, la llegada de la conversación compleja y necesaria en torno al papel de AI en la cosificación de las mujeres es una señal de progreso. Fundamentalmente, el problema detrás de las personas que usan la tecnología para reducir a las mujeres a su sexualidad no es diferente de lo que siempre ha sido.
Los partidarios de la IA y las herramientas de arte de la IA deben tener esto en cuenta. Un argumento común entre los defensores afirma que, si bien estas herramientas lamentablemente se utilizan para plagiar el trabajo y la visión de los artistas, esta no es razón para descalificar la tecnología por completo o negar el bien que está haciendo en el mundo. Seguramente, la difusión de herramientas que empoderan creativamente a miles de millones en todo el mundo debe validar su existencia, ¿verdad?
La respuesta es que lo hacen. Pero la otra pregunta es esta: ¿Aceptarán los partidarios de AI la validez de las preocupaciones que tienen menos que ver con la ética en el mundo del arte y más con la dignidad humana y las expresiones de sexismo?
Las herramientas de arte de IA van a pasar un guante de criticas —tanto legítimas como huecas— antes de que salgan por el otro extremo al ras con cualquier otra pieza de tecnología que usamos en nuestra vida diaria. Hasta entonces, necesitan capear la tormenta, incluso si esa tormenta incluye una proliferación de imágenes sexistas que son posibles como resultado directo de las herramientas. El Kyocera VP-210 y todos los teléfonos que vinieron después hicieron que fuera más fácil tomar fotos de mujeres sin su consentimiento. Cualquier individuo razonable puede y debe sentirse perturbado por ese hecho. Pero un comportamiento tan deplorable representa un argumento de derribo pobre contra la idea del teléfono con cámara en sí. Al igual que con todas las tecnologías, la sociedad necesita encontrar una manera de avanzar con la IA mientras trabaja para minimizar su uso indebido tanto como sea posible. Ahora es el momento de que los defensores del arte de la IA lideren esa carga.