Deepfakes, esencialmente poniendo palabras en la boca de otra persona de una manera muy creíble, se están volviendo más sofisticados Por el día y cada vez más difícil de detectar. Ejemplos recientes de Deepfakes incluyen Taylor Swift Imágenes desnudasun Grabación de audio del presidente Joe Biden decirle a los residentes de New Hampshire que no voten, y un Video del presidente ucraniano Volodymyr Zelenskyy llamando a sus tropas para que acostaran sus brazos.
Aunque las empresas han creado detectores para ayudar a detectar defensores profundos, los estudios han encontrado que sesgos en los datos Se usa para entrenar estas herramientas puede conducir a que ciertos grupos demográficos sean injustamente atacados.
Olivier Douliery/AFP a través de Getty Images
Mi equipo y yo descubrimos nuevos métodos que mejoran tanto la justicia como la precisión de los algoritmos utilizados para detectar deffaces profundos.
Para hacerlo, utilizamos un gran conjunto de datos de falsificaciones faciales que permite a investigadores como nosotros capacitar nuestros enfoques de aprendizaje profundo. Construimos nuestro trabajo en torno al algoritmo de detección de Xception de última generación, que es un base ampliamente utilizada Para los sistemas de detección de defake y puede detectar defensores profundos con una precisión del 91.5%.
Creamos dos métodos separados de detección de Deepfake destinado a fomentar la justicia.
Uno se centró en hacer que el algoritmo sea más consciente de la diversidad demográfica etiquetando conjuntos de datos por género y raza para minimizar los errores entre los grupos subrepresentados.
El otro tenía como objetivo mejorar la justicia sin depender de las etiquetas demográficas centrándose en las características no visibles para el ojo humano.
Resulta que el primer método funcionó mejor. Aumentó las tasas de precisión desde la línea de base del 91.5% al 94.17%, lo que fue un aumento mayor que nuestro segundo método, así como varios otros que probamos. Además, aumentó la precisión al tiempo que mejora la equidad, que fue nuestro enfoque principal.
Creemos que la justicia y la precisión son cruciales para que el público acepte tecnología de inteligencia artificial. Cuando modelos de idiomas grandes como ChatGPT «Hallucinate» Pueden perpetuar información errónea. Esto afecta la confianza pública y la seguridad.
Del mismo modo, las imágenes y videos de Deepfake pueden socavar la adopción de IA si no pueden detectarse rápida y con precisión. Mejorar la equidad de estos algoritmos de detección para que ciertos grupos demográficos no sean perjudicados desproporcionadamente por ellos es un aspecto clave para esto.
Nuestra investigación aborda la equidad de los algoritmos de detección de Deepfake, en lugar de solo intentar equilibrar los datos. Ofrece un nuevo enfoque para el diseño de algoritmo que considera la justicia demográfica como un aspecto central.
Siwei lyuProfesor de informática e ingeniería; Director, UB Media Forensic Lab, Universidad en Buffalo y Yan JuPh.D. Candidato en informática e ingeniería, Universidad en Buffalo
Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.
