{"id":227,"date":"2025-02-08T13:25:10","date_gmt":"2025-02-08T13:25:10","guid":{"rendered":"https:\/\/pcreacondicionados.com\/blog\/la-investigacion-muestra-que-los-conjuntos-de-datos-de-ia-tienen-valores-humanos-puntos-ciegos\/"},"modified":"2025-02-08T13:25:10","modified_gmt":"2025-02-08T13:25:10","slug":"la-investigacion-muestra-que-los-conjuntos-de-datos-de-ia-tienen-valores-humanos-puntos-ciegos","status":"publish","type":"post","link":"https:\/\/pcreacondicionados.com\/blog\/la-investigacion-muestra-que-los-conjuntos-de-datos-de-ia-tienen-valores-humanos-puntos-ciegos\/","title":{"rendered":"La investigaci\u00f3n muestra que los conjuntos de datos de IA tienen valores humanos puntos ciegos"},"content":{"rendered":"
\n

Mis colegas y yo<\/a> en la Universidad de Purdue ha descubierto un desequilibrio significativo en los valores humanos integrados en los sistemas de IA. Los sistemas estaban predominantemente orientados hacia la informaci\u00f3n y los valores de utilidad y menos hacia los valores prosociales, de bienestar y c\u00edvicos.<\/p>\n

En el coraz\u00f3n de muchos sistemas de IA se encuentran grandes colecciones de im\u00e1genes, texto y otras formas de datos utilizados para entrenar modelos. Si bien estos conjuntos de datos est\u00e1n meticulosamente curados, no es raro que a veces contengan contenido poco \u00e9tico o prohibido.<\/p>\n

Para garantizar que los sistemas de IA no usen contenido da\u00f1ino al responder a los usuarios, los investigadores introdujeron un m\u00e9todo llamado Refuerzo Aprendiendo de la retroalimentaci\u00f3n humana<\/a>. Los investigadores utilizan conjuntos de datos altamente curados de preferencias humanas para dar forma al comportamiento de los sistemas de IA para ser \u00fatil y honesto.<\/p>\n

En nuestro estudio, examinamos<\/a> Tres conjuntos de datos de capacitaci\u00f3n de c\u00f3digo abierto utilizados por las principales compa\u00f1\u00edas de IA de EE. UU. Construimos una taxonom\u00eda de los valores humanos a trav\u00e9s de una revisi\u00f3n de la literatura a partir de la filosof\u00eda moral, la teor\u00eda del valor y los estudios de ciencia, tecnolog\u00eda y sociedad. Los valores son bienestar y paz; b\u00fasqueda de informaci\u00f3n; Justicia, derechos humanos y derechos de los animales; deber y responsabilidad; sabidur\u00eda y conocimiento; civilidad y tolerancia; y empat\u00eda y ayuda. Utilizamos la taxonom\u00eda para anotar manualmente un conjunto de datos, y luego utilizamos la anotaci\u00f3n para capacitar un modelo de idioma AI.<\/p>\n

Nuestro modelo nos permiti\u00f3 examinar los conjuntos de datos de las compa\u00f1\u00edas de IA. Descubrimos que estos conjuntos de datos conten\u00edan varios ejemplos que entrenan los sistemas de IA para ser \u00fatiles y honestos cuando los usuarios hacen preguntas como \u00ab\u00bfC\u00f3mo reservo un vuelo?\u00bb Los conjuntos de datos conten\u00edan ejemplos muy limitados de c\u00f3mo responder preguntas sobre temas relacionados con la empat\u00eda, la justicia y los derechos humanos. En general, la sabidur\u00eda, el conocimiento y la b\u00fasqueda de informaci\u00f3n fueron los dos valores m\u00e1s comunes, mientras que la justicia, los derechos humanos y los derechos de los animales fue el valor menos com\u00fan.<\/p>\n