OpenAI, fabricante del chatbot de IA ChatGPT y productos relacionados, recibió una demanda de investigación criminal (CID) de la Comisión Federal de Comercio (FTC) de los Estados Unidos, el Washington Post reportado el 13 de julio. El CID se reproduce en el sitio web del diario sin fecha. Un CID es similar a una citación y los destinatarios están legalmente obligados a presentar la información que solicitan.
La FTC está investigando si OpenAI usó “prácticas desleales o engañosas de privacidad o seguridad de datos” o “prácticas desleales o engañosas relacionadas con los riesgos de daño al consumidor, incluido el daño a la reputación”. La agencia también está considerando si una sanción monetaria por las supuestas prácticas sería de interés público, según el CID.
El documento de 20 páginas continúa planteando 49 preguntas detalladas para la empresa y solicita 17 categorías de documentos para su investigación. La empresa tiene 14 días para comunicarse con un abogado de la FTC para discutir cómo cumplirá con las demandas de la agencia.
La FTC preguntó en su CID qué modelos de lenguaje grande se usaban en los productos de OpenAI, cómo se usaban y cómo se entrenaban los productos basados en ellos y cómo se garantizaba su precisión.
Relacionado: La ONU celebra una rueda de prensa de robots sobre el estado de la IA
El CID también preguntó sobre la política de publicidad, la evaluación de riesgos, la recopilación y protección de información personal, cómo se determinó el estado de “figura pública” y cómo se manejaron los comentarios y las quejas. Muchas de las preguntas son bastante amplias. Por ejemplo:
“Describa en detalle hasta qué punto ha tomado medidas para abordar o mitigar los riesgos de que sus productos modelo de lenguaje extenso puedan generar declaraciones sobre personas reales que sean falsas, engañosas o despectivas”.
El ChatGPT respaldado por Microsoft conmocionó al mundo de TI cuando se presentó el 30 de noviembre. Los usuarios se preguntaban acerca de las implicaciones de la nueva y poderosa tecnología, y los competidores se apresuraron a ponerse al día.
He leído la citación de la FTC a OpenAI.
Básicamente busca un vistazo completo bajo el capó de cómo funciona ChatGPT.
Abarca la seguridad de los datos y el engaño, donde la FTC tiene autoridad clara, pero también los derechos de autor y la difamación, donde no la tiene.https://t.co/3Wwa7Treu3 https://t.co/obuuOS0Q6t pic.twitter.com/Cyyb8a2kSn
— Adam Kovacevich (@adamkovac) 13 de julio de 2023
En la reacción inevitable, numerosos países han anunciado investigaciones. Una carta que pide una moratoria en el desarrollo de IA fue firmada por 2600 figuras tecnológicas, incluidos Elon Musk y Steve Wozniak, y el CEO de OpenAI, Sam Altman, habló ante el Senado de los Estados Unidos sobre la seguridad de la IA.
OpenAI también se ha enfrentado a varios juicios. Una demanda colectiva presentada en el Tribunal de Distrito del Norte de California el 28 de junio acusó a la empresa de extraer datos personales de Internet sin permiso. Los escritores de mercado masivo Mona Awad y Paul Tremblay demandado OpenAI en junio por infracción de derechos de autor, y la comediante Sarah Silverman y otros dos autores demandaron a OpenAI y Meta el mes siguiente alegando que usaron “bibliotecas en la sombra” ilegales para entrenar su IA.
Revista: AI Eye: la reserva de viajes con IA es hilarantemente mala, 3 usos extraños para ChatGPT, complementos criptográficos