Midjourney, un servicio de inteligencia artificial (IA) que genera imágenes a partir de descripciones en lenguaje natural, prohibió recientemente la toma de imágenes del presidente chino Xi Jinping, para consternación de sus usuarios. Sin embargo, la prohibición no ha disuadido a sus usuarios de encontrar una solución creando falsificaciones profundas de Xi, que son representaciones digitales manipuladas producidas por técnicas sofisticadas de aprendizaje automático.
La semana pasada, Midjourney tomó medidas para evitar la proliferación de deepfakes en su plataforma al deshabilitar el acceso a su versión de prueba gratuita. Aunque la plataforma todavía permite la creación de imágenes con líderes mundiales, el presidente chino está notablemente excluido. Cualquier intento de generar una imagen con su semejanza o incluso mencionar su nombre en un aviso está estrictamente prohibido por Midjourney.
De acuerdo a a un tweet de un usuario del generador de IA de texto a imagen, “Todavía es posible con /imagine, si proporciona la URL completa de una foto existente de Xi en el aviso. O puede usar /mezclar con dos fotos existentes”. Otro usuario dijo que existía la alternativa de usar la función de combinación de MidJourney v5 entre dos imágenes, pero expresó su temor de que finalmente fuera vigilado.
Los críticos, como Sarah McLaughlin, investigadora sénior de la Fundación para los Derechos y la Expresión Individuales (FIRE), han argumentó que la prohibición constituye una forma de censura, que socava los principios fundamentales de la libertad de expresión y expresión.
Relacionado: El regulador italiano recibe críticas por bloquear el chatbot de IA ChatGPT
En mensajes intercambiados en el servicio de chat Discord el otoño pasado, el fundador y director ejecutivo de Midjourney, David Holz, reveló que la empresa había recibido quejas de usuarios locales sobre “varios temas en diferentes países”, lo que los llevó a bloquear numerosas palabras relacionadas. Sin embargo, según los registros de chat examinado por The Washington Post, Holz se abstuvo de enumerar los términos prohibidos para evitar controversias innecesarias.
En sus comentarios de Discord, Holz mencionó que las palabras prohibidas no estaban únicamente relacionadas con China. No obstante, reconoció que China era un tema particularmente delicado, ya que el humor político podría poner en riesgo a los usuarios chinos. Holz intentó explicar el razonamiento detrás de sus acciones al afirmar: “Nuestra decisión no fue motivada por ganancias financieras y, en este escenario, es evidente que garantizar el acceso a esta tecnología para los chinos es por un bien mayor”.
Revista: Todo se levanta para el juez robot: AI y blockchain podrían transformar la sala del tribunal