La inteligencia artificial (IA) toma decisiones importantes que afectan nuestra vida cotidiana. Estas decisiones son implementadas por empresas e instituciones en nombre de la eficiencia. Pueden ayudar a determinar quién ingresa a la universidad, quién consigue un trabajo, quién recibe tratamiento médico y quién califica para recibir asistencia del gobierno.
A medida que la IA asume estas funciones, existe un riesgo creciente de que se tomen decisiones injustas (o la percepción de ellas por parte de las personas afectadas). Por ejemplo, en admisiones universitarias o contrataciónestas decisiones automatizadas pueden favorecer involuntariamente a ciertos grupos de personas o a aquellos con ciertos antecedentes, mientras que se pasa por alto a solicitantes igualmente calificados pero subrepresentados.
O, cuando lo utilizan los gobiernos en sistemas de beneficiosla IA puede asignar recursos de manera que empeore la desigualdad social, dejando a algunas personas con menos de lo que merecen y con una sensación de trato injusto.
Junto con un equipo internacional de investigadores, examinamos cómo la distribución injusta de los recursos (ya sea que los maneje una IA o un ser humano) influye en la voluntad de las personas de actuar contra la injusticia. Los resultados han sido publicado en la revista Cognición.
A medida que la IA está cada vez más integrada en la vida diaria, los gobiernos están interviniendo para proteger a los ciudadanos de sistemas de IA sesgados u opacos. Ejemplos de estos esfuerzos incluyen el Declaración de derechos de la IA de la Casa Blancay el Ley de IA del Parlamento Europeo. Estos reflejan una preocupación compartida: las personas pueden sentirse perjudicadas por las decisiones de AI.
Entonces, ¿cómo afecta el hecho de experimentar injusticia por parte de un sistema de IA la forma en que las personas se tratan entre sí después?
Indiferencia inducida por la IA
Nuestro artículo en Cognition analizó la voluntad de las personas de actuar contra la injusticia después de sufrir un trato injusto por parte de una IA. El comportamiento que examinamos se aplicó a interacciones posteriores, no relacionadas, de estos individuos. Una voluntad de actuar en tales situaciones, a menudo llamado “castigo prosocial”, se considera crucial para defender las normas sociales.
Por ejemplo, los denunciantes pueden denunciar prácticas poco éticas a pesar de los riesgos, o los consumidores pueden boicotear a las empresas que creen que están actuando de manera perjudicial. Las personas que participan en estos actos de castigo prosocial a menudo lo hacen para abordar injusticias que afectan a otros, lo que ayuda a reforzar los estándares comunitarios.
Anggalih Prasetya / Shutterstock
Hicimos esta pregunta: ¿experimentar injusticia por parte de la IA, en lugar de una persona, podría afectar la voluntad de las personas de enfrentarse a los malhechores humanos en el futuro? Por ejemplo, si una IA asigna injustamente un turno o niega un beneficio, ¿es menos probable que las personas denuncien un comportamiento poco ético por parte de un compañero de trabajo después?
A través de una serie de experimentos, descubrimos que las personas tratadas injustamente por una IA tenían menos probabilidades de castigar a los malhechores humanos después que los participantes que habían sido tratados injustamente por un humano. Mostraron una especie de insensibilización ante el mal comportamiento de los demás. A este efecto lo llamamos indiferencia inducida por la IA, para captar la idea de que el trato injusto por parte de la IA puede debilitar el sentido de responsabilidad de las personas hacia los demás. Esto los hace menos propensos a abordar las injusticias en su comunidad.
Razones para la inacción
Esto puede deberse a que las personas culpan menos a la IA por el trato injusto y, por lo tanto, se sienten menos impulsadas a actuar contra la injusticia. Este efecto es consistente incluso cuando los participantes encontraron sólo comportamientos injustos por parte de otros o comportamientos tanto justos como injustos. Para comprobar si la relación que habíamos descubierto se veía afectada por la familiaridad con la IA, llevamos a cabo los mismos experimentos nuevamente, después del lanzamiento de ChatGPT en 2022. Obtuvimos los mismos resultados con la última serie de pruebas que con las anteriores.
Estos resultados sugieren que las respuestas de las personas a la injusticia dependen no sólo de si fueron tratadas de manera justa sino también de quién las trató injustamente: una IA o un humano.
En resumen, el trato injusto por parte de un sistema de IA puede afectar la forma en que las personas responden entre sí, haciéndolas menos atentas a las acciones injustas de los demás. Esto pone de relieve los posibles efectos dominó de la IA en la sociedad humana, que se extienden más allá de la experiencia individual de una única decisión injusta.
Cuando los sistemas de IA actúan de manera injusta, las consecuencias se extienden a interacciones futuras, influyendo en cómo las personas se tratan entre sí, incluso en situaciones no relacionadas con la IA. Sugeriríamos que los desarrolladores de sistemas de IA se centraran en Minimizar los sesgos en los datos de entrenamiento de IA. para prevenir estos importantes efectos indirectos.
Los formuladores de políticas también deberían establecer estándares de transparencia, exigiendo a las empresas que revelen dónde la IA podría tomar decisiones injustas. Esto ayudaría a los usuarios a comprender las limitaciones de los sistemas de inteligencia artificial y cómo cuestionar los resultados injustos. Una mayor conciencia de estos efectos también podría alentar a las personas a mantenerse alerta ante las injusticias, especialmente después de interactuar con la IA.
Los sentimientos de indignación y culpa por el trato injusto son esenciales para detectar la injusticia y responsabilizar a los malhechores. Al abordar los efectos sociales no deseados de la IA, los líderes pueden garantizar que la IA apoye, en lugar de socavar, los estándares éticos y sociales necesarios para una sociedad basada en la justicia.
Chiara LongoniProfesor Asociado, Marketing y Ciencias Sociales, Universidad Bocconi; Ellie KyungProfesor Asociado, División de Marketing, Universidad Babsony luca cianProfesor de Arte de Administración de Empresas de Killgallon Ohio, Escuela de Negocios Darden, Universidad de Virginia
Este artículo se republica desde La conversación bajo una licencia Creative Commons. Lea el artículo original.
