La idea de un asistente de inteligencia artificial como humano con el que puede hablar ha estado viva en la imaginación de muchas personas desde el lanzamiento de «Her», la película de 2013 de Spike Jonze sobre un hombre que se enamora de una IA de Siri llamada Samantha. En el transcurso de la película, el protagonista lucha contra las formas en que Samantha, que puede parecer, no es y nunca será humana.
Doce años después, esto ya no es lo de ciencia ficción. Herramientas generativas de IA como ChatGPT y asistentes digitales como Alexa de Apple y Alexa ayudan a las personas a obtener instrucciones de manejo, hacer listas de comestibles y mucho más. Pero al igual que Samantha, los sistemas automáticos de reconocimiento de voz aún no pueden hacer todo lo que un oyente humano puede.
Probablemente haya tenido la experiencia frustrante de llamar a su banco o empresa de servicios públicos y necesitar repetir para que el servicio al cliente digital Bot en la otra línea puede entenderte. Tal vez haya dictado una nota en su teléfono, solo para pasar tiempo editando palabras confusas.
Los investigadores de lingüística e informática han demostrado que estos sistemas funcionan peor para algunas personas que para otras. Tienden a cometer más errores si tienes un no nativo o regional acento, son Negrohablar en inglés vernáculo afroamericano, cambio de códigosi eres un mujerson viejoson también joven o tener un impedimento del habla.
Oreja de hojalata
A diferencia de usted o yo, los sistemas automáticos de reconocimiento de voz no son lo que los investigadores llaman «oyentes simpatizantes». En lugar de tratar de entenderlo tomando otras pistas útiles como la entonación o los gestos faciales, simplemente se rinden. O toman una suposición probabilística, un movimiento que a veces puede dar como resultado un error.
A medida que las empresas y las agencias públicas adoptan cada vez más herramientas automáticas de reconocimiento de voz para reducir costos, las personas tienen pocas opciones más que interactuar con ellas. Pero cuanto más se usan estos sistemas en campos críticos, que van desde emergencia socorristas y cuidado de la salud a educación y ley aplicacióncuanto más probable haya graves consecuencias cuando no reconocen lo que la gente dice.
Imagine en algún momento en el futuro cercano que te haya herido en un accidente automovilístico. Usted marca el 911 para pedir ayuda, pero en lugar de estar conectado con un despachador humano, obtiene un bot que está diseñado para eliminar las llamadas de no emergencia. Te lleva varias rondas para ser entendidas, perdiendo el tiempo y elevando tu nivel de ansiedad en el peor momento.
¿Qué causa que ocurra este tipo de error? Algunas de las desigualdades que resultan de estos sistemas se hornean en las resmas de datos lingüísticos que los desarrolladores usan para construir modelos de idiomas grandes. Los desarrolladores capacitan a los sistemas de inteligencia artificial para comprender e imitar el lenguaje humano alimentándoles grandes cantidades de texto y archivos de audio que contienen un verdadero habla humana. Pero, ¿de quién les están alimentando?
Si un sistema califica las altas tasas de precisión cuando se habla con estadounidenses blancos ricos de unos 30 años, es razonable adivinar que fue capacitado utilizando muchas grabaciones de audio de personas que se ajustan a este perfil.
Con una rigurosa recopilación de datos de una amplia gama de fuentes, los desarrolladores de IA podrían reducir estos errores. Pero construir sistemas de IA que puedan comprender las variaciones infinitas en el habla humana que surgen de cosas como género, edad, carrera, Primero contra el segundo idioma, estado socioeconómico, capacidad Y mucho más, requiere recursos y tiempo significativos.
Inglés ‘adecuado’
Para las personas que no hablan inglés, es decir, la mayoría de las personas en todo el mundo, los desafíos son aún mayores. La mayoría de los sistemas de IA generativos más grandes del mundo se construyeron en inglés, y trabajan mucho mejor en inglés que en cualquier otro idioma. En el papel, la IA tiene mucho potencial cívico Para la traducción y el aumento del acceso de las personas a la información en diferentes idiomas, pero por ahora, la mayoría de los idiomas tienen un huella digital más pequeñadificultando para ellos alimentar modelos de idiomas grandes.
Incluso dentro de los idiomas bien atendidos por modelos de idiomas grandes, como Inglés y Españolsu experiencia varía según el dialecto del idioma que hable.
En este momento, la mayoría de los sistemas de reconocimiento de voz y los chatbots de IA generativos reflejan el sesgo lingüístico de los conjuntos de datos en los que están capacitados. Se hacen eco de prescriptivos, a veces nociones prejuiciosas de «corrección» en el habla.
De hecho, se ha demostrado que AI «aplanar«Diversidad lingüística. Ahora hay compañías de inicio de IA que ofrecen borrar los acentos De sus usuarios, se basa en la suposición de que su clientela principal sería proveedores de servicio al cliente con centros de llamadas en países extranjeros como India o Filipinas. La oferta perpetúa la noción de que algunos acentos son menos válidos que otros.
Conexión humana
AI presumiblemente mejorará en el procesamiento del lenguaje, contabilizando variables como acentos, cambio de código y similares. En los Estados Unidos, los servicios públicos están obligados a la ley federal a garantizar acceso equitativo a los servicios independientemente del idioma que habla una persona. Pero no está claro si eso solo será suficiente incentivo para que la industria tecnológica se mueva hacia la eliminación de las desigualdades lingüísticas.
Muchas personas pueden preferir hablar con una persona real cuando hace preguntas sobre una factura o un problema médico, o al menos tener la capacidad de optar por no interactuar con los sistemas automatizados al buscar servicios clave. Eso no quiere decir que la falta de comunicación nunca ocurra en la comunicación interpersonal, pero cuando hablas con una persona real, están preparados para ser un oyente comprensivo.
Con IA, al menos por ahora, funciona o no. Si el sistema puede procesar lo que dice, está listo para comenzar. Si no puede, la responsabilidad está en ti para que te entiendas.
Roberto Rey AgudoProfesor Asistente de Investigación de español y portugués, Dartmouth College
Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.
