La startup británica Surf Security ha lanzado una versión beta de lo que afirma es el primer navegador del mundo con una función incorporada diseñada para detectar deepfakes generados por IA.
La herramienta, disponible a través del navegador de Surf o como una extensión, puede detectar con hasta un 98% de precisión si la persona con la que estás interactuando en línea es un ser humano real o una imitación de IA, dijo la compañía.
La empresa emergente de ciberseguridad con sede en Londres utiliza tecnología de redes neuronales de “grado militar” para detectar deepfakes. El sistema utiliza modelos de espacio de estado, que detectan clones generados por IA en todos los idiomas y acentos mediante el análisis de fotogramas de audio en busca de inconsistencias.
«Para maximizar su eficacia, nos centramos en la precisión y la velocidad», dijo Ziv Yankowitz, director tecnológico de Surf Security. La red neuronal de la herramienta se entrena utilizando deepfakes creados por las principales plataformas de clonación de voz de IA, dijo.
El 💜 de la tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de IA cuestionable. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!
El sistema tiene una función integrada de reducción de ruido de fondo para aclarar el audio antes de procesarlo. «Puede detectar un audio deepfake en menos de dos segundos», dijo Yankowitz.
La nueva función está disponible para archivos de audio, incluidos vídeos en línea o software de comunicación como WhatsApp, Slack, Zoom o Google Meet. Solo necesita presionar un botón y el sistema verifica si el audio (grabado o en vivo) es genuino o generado por IA. Surf dijo que también agregará detección de imágenes por IA al conjunto de herramientas del navegador en el futuro.
Los deepfakes son un problema creciente
Los deepfakes, que utilizan IA para crear audio o vídeo falsos y convincentes, son una amenaza creciente.
Esta misma semana, investigadores de la BBC descubrieron Clips de audio deepfake de David Attenborough que suena indistinguible de la propia voz del famoso presentador. Varios sitios web y canales de YouTube están utilizando el deepfake para obligarlo a decir cosas (sobre Rusia, sobre las elecciones estadounidenses) que nunca dijo.
Esto es sólo la punta de un feo iceberg. Se han utilizado deepfakes para permitir fraude a gran escalaincitar al malestar político mediante noticias falsasy destruir reputaciones creando contenido falso o dañino.
Surf dijo que lanzó el nuevo detector de deepfake para ayudar a proteger a empresas, organizaciones de medios, policías y militares de todo el mundo del creciente riesgo de clonación de IA.
Sin embargo, luchar contra los deepfakes es una batalla continua entre humanos que usan máquinas para el bien y otros humanos que usan máquinas con fines nefastos.
“El software de clonación de voz con IA es cada día más capaz”, admitió Yankowitz. «Así que, como todo lo relacionado con la ciberseguridad, nos comprometemos a ganar una carrera armamentista en constante evolución».
Surf espera lanzar la versión completa de su detector de deepfake a principios del próximo año.
