Clearview AI apuesta fuerte por la detección de deepfakes: ¿puede el cazador vigilar lo embrujado?
Clearview AI, la empresa ya famosa (e infame) por extraer miles de millones de fotos de la web, está poniendo la mira en una nueva amenaza: rostros generados por IA.
Según informó FedScoop , la empresa dice que está construyendo una herramienta de detección destinada a separar imágenes humanas reales de las generadas sintéticamente, y promete entregarla a fines de 2025.
Pero seamos realistas: hay mucho en juego. Los deepfakes ya no son solo trucos de internet; se están infiltrando en la política, las finanzas e incluso en los chats familiares de WhatsApp.
Hace unos días, AP News informó sobre cómo las elecciones de Moldavia se vieron inundadas de desinformación impulsada por IA: sitios web falsos, artículos falsos, todo falso. Si incluso a los periodistas más experimentados les cuesta distinguir la verdad, ¿qué posibilidades tenemos los demás?
Clearview insiste en que su nueva herramienta no se convertirá en una máquina de vigilancia en vivo, pero los críticos no la aceptan. La ACLU lleva mucho tiempo argumentando que las prácticas de la empresa nos conducen hacia un estado de vigilancia.
Honestamente, ¿se puede culpar a la gente por ser escéptica? Esta es una empresa cuya tecnología ya ha sido utilizada por el FBI, el ICE e incluso gobiernos extranjeros.
También existe el complejo aspecto técnico. Los detectores de deepfakes no son perfectos: pueden fallar, creando las llamadas «identidades fantasma» en los sistemas de reconocimiento facial, según informaron expertos a FedScoop . Este problema podría repercutir peligrosamente en las fuerzas del orden o los controles fronterizos.
Y para complicar aún más las cosas, Axios acaba de informar sobre el lanzamiento de la detección de semejanza en YouTube para creadores, lo que demuestra que las plataformas también están luchando. Estamos viendo una oleada de soluciones competitivas, pero ninguna es infalible.
Mi opinión: que Clearview se sume a la guerra de los deepfakes es como pedirle al zorro que cuide el gallinero. Por un lado, su vasta base de datos podría darles una ventaja.
Por otro lado, su trayectoria no es precisamente la de un «administrador confiable de la verdad digital». Es un giro fascinante e inquietante en la historia de la IA, uno que probablemente determinará nuestra confianza en lo que vemos en línea.
