El uso de una voz similar a Scarlett Johansson por ChatGPT revela una inquietante historia de estereotipos de género en la tecnología
La actriz Scarlett Johansson emitió esta semana un comunicado en el que expresa su enfado y preocupación porque OpenAI utilizó una voz «inquietantemente similar» a la suya como la voz predeterminada para ChatGPT.
La voz en cuestión, llamada Sky , está disponible para los usuarios desde septiembre de 2023, pero la semejanza con la voz de Johansson se hizo más evidente la semana pasada, cuando OpenAI demostró un modelo actualizado llamado GPT-4o.
Reclamo de Johansson y Respuesta de OpenAI
Johansson afirma que el CEO de OpenAI, Sam Altman, antes le había pedido si proporcionaría su voz para ChatGPT, y ella había rechazado la invitación. El tono cálido y juguetón de la voz de Sky guarda una sorprendente similitud con el del acompañante digital llamado Samantha en la película Her (2013), con la voz de Johansson.
Aunque Altman ha afirmado que la voz de Sky nunca tuvo la intención de parecerse a la de Johansson, pareció aludir a esta conexión al tuitear simplemente la palabra «her» el 13 de mayo de 2024, el mismo día en que…
GPT-4o Lanzamiento y Nuevas Preocupaciones Sobre la Identidad Vocal
OpenAI ha explicado su proceso para la creación de la voz de Sky en una entrada de blog, afirmando que la voz fue proporcionada por «una actriz profesional diferente usando su propia voz natural». No obstante, a medida que se usan muestras de audio cada vez más pequeñas para generar voces sintéticas, clonar la voz de una persona sin su consentimiento es más fácil que nunca.
Como investigador de estudios de sonido, me interesa cómo la tecnología de IA está introduciendo nuevas preguntas y preocupaciones sobre la voz y la identidad. Mi investigación sitúa los desarrollos recientes, ansiedades y aspiraciones sobre la IA dentro de historias más largas de la voz y la tecnología.
Precedentes Legales en Simulación de Voz
Esta no es la primera vez que un intérprete se opone a una simulación no autorizada de su voz. En 1988, Bette Midler emprendió acciones legales contra Ford Motor Company por usar una voz similar a la suya en una serie de anuncios publicitarios.
El Tribunal de Apelaciones del Noveno Circuito de EE.UU. finalmente falló a su favor, con el juez John T. Noonan escribiendo en su decisión que «imitar su voz es piratear su identidad».
Tom Waits también lanzó una demanda similar y exitosa contra Frito-Lay después de escuchar lo que sonaba como su propia voz rasposa en un comercial de radio para Doritos. Como describe el musicólogo Mark C. Samples, este caso «elevó el timbre vocal de una persona al nivel de su representación visual» a los ojos de la ley.
Desafíos y Regulaciones Actuales
Los legisladores apenas han comenzado a abordar los desafíos y riesgos que acompañan la adopción creciente de la IA. Por ejemplo, un fallo reciente de la Comisión Federal de Comunicaciones (FCC) prohibió las llamadas automáticas que usan voces generadas por IA.
En ausencia de políticas y marcos legales más específicos, estos ejemplos de imitación vocal continúan actuando como precedentes importantes. La aparente referencia de OpenAI a la película Her en el diseño de la voz de Sky también sitúa a ChatGPT dentro de una larga tradición de asignar voces y personalidades femeninas a las computadoras.
ELIZA y la Influencia en Asistentes Digitales Modernos
ELIZA revolucionó la manera en la que los asistentes digitales comunican con sus usuarios, de manera similar a un psicoterapeuta. Esta influencia se observa en los asistentes digitales actuales, que a menudo tienen voces feminizadas como configuración predeterminada.
Cuando fue lanzado por primera vez en 2011, Siri contaba historias sobre ELIZA como si fuera una amiga. Muchos estudiosos de la tecnociencia, incluidos Thao Phan y Heather Woods, han criticado la forma en que las empresas tecnológicas apelan a estereotipos de género en el diseño de asistentes de voz.
Estereotipos y Asistentes de Voz
Investigadores en comunicación como Jessa Lingel y Kate Crawford sugieren que los asistentes de voz invocan el históricamente feminizado rol de secretaria, ya que realizan tanto trabajo administrativo como emocional.
En referencia a este tropo sumiso, argumentan que las compañías tecnológicas buscan distraer a los usuarios de la vigilancia y extracción de datos que los asistentes de voz llevan a cabo.
Voces en IA y Estereotipos de Género
OpenAI afirma que al seleccionar voces para ChatGPT, buscaron «una voz accesible que inspire confianza». Es revelador que la voz elegida por la compañía para hacer sentir cómodos a los usuarios con los rápidos avances en la tecnología de inteligencia artificial suene como una mujer.
Incluso a medida que las habilidades conversacionales de los asistentes de voz se vuelven mucho más avanzadas, la voz de Sky demuestra que la industria tecnológica aún no ha superado estos tropos regresivos.
Llamado a la Transparencia y Legislación
La declaración de Johansson termina con un llamado a la «transparencia y la aprobación de la legislación adecuada» para proteger la semejanza y la identidad vocal. Será interesante ver qué ramificaciones
