El periodista Kashmir Hill recibió un aviso en noviembre de 2019 de que una startup llamada Clearview AI afirmaba poder identificar a cualquier persona a partir de una imagen. Su fuente afirmó que la empresa había recopilado miles de millones de fotos de redes sociales como Facebook, Instagram o LinkedIn -sin avisar ni a las plataformas ni a los interesados-, y que si introducías la foto de alguien en la aplicación, te mostraría todas a ellos. los sitios web en los que apareció esa persona, así como su nombre completo e información personal.
Nadie se había atrevido a desarrollar algo así hasta la fecha. Una aplicación capaz de identificar desconocidos era demasiado. Podría servir, por ejemplo, para fotografiar a alguien en un bar y saber en unos segundos dónde vive y quiénes son sus amigos. Hill, periodista de Los New York Times, publicó la historia de esta pequeña empresa, que en pocos meses pasó de ser una total desconocida a contar con el apoyo de Peter Thiel, uno de los padrinos de Silicon Valley, y a convertirse en objeto de deseo de las fuerzas policiales estadounidenses. Estados Unidos y el extranjero. Llegó a Hoan Ton-That, el impenetrable ingeniero responsable de la herramienta que armó junto con Richard Schwartz, un político con una larga trayectoria detrás de escena en el Partido Republicano. Su investigación continuó dando forma a su libro. Tu cara nos pertenece (Tu cara nos pertenecepublicado por Random House en 2023 y sin traducción al español hasta el momento).
“Me pareció que los fundadores de la puesta en marcha Eran personajes insólitos y fascinantes, y que la historia captaba algo esencial en esta industria: ese deseo de crear nuevas tecnologías verdaderamente transgresoras sin tener en cuenta sus implicaciones sociales”, explica por videoconferencia desde Nueva York. Nacida hace 43 años y criada en Florida, Kashmir Hill, que lleva el nombre de una de las canciones más legendarias de Led Zeppelin, trabajó en publicaciones como Gizmodo, Forbes cualquiera El neoyorquino antes de unirse al Veces en 2019. También le llamó la atención que una empresa tan joven pudiera dominar una tecnología tan compleja como el reconocimiento facial en poco tiempo.
PREGUNTAR. ¿Qué tienen de especial los sistemas de reconocimiento facial automático? ¿Por qué estás interesado en esta tecnología?
RESPUESTA. Es clave para vincular a las personas del mundo real con lo que se sabe sobre ellas en Internet. El uso incontrolado del reconocimiento facial erradicaría el anonimato, ya no podríamos navegar por el mundo sin que la gente supiera todo sobre nosotros. Los gobiernos sabrían dónde estamos y qué hacemos todo el tiempo. Eso ya está sucediendo en China. Rusia lo utiliza para identificar a quienes se manifiestan contra la invasión de Ucrania. El rostro es, esencialmente, el último bastión de la privacidad. Volviendo a China, han elaborado una lista roja para aquellos en el poder que no quieren ser vistos. Estar en esa lista significa ser invisible para el sistema de vigilancia, eliminando los registros de las cámaras. Es muy revelador que no ser visto es un privilegio exclusivo de los poderosos.
P. ¿Crees que la historia de Clearview AI es representativa de la del reconocimiento facial?
r. Sí. La tecnología de reconocimiento facial es un arma de doble filo. Puede utilizarse para resolver crímenes, encontrar asesinos y violadores, pero también para localizar a disidentes o para obtener información sobre actrices porno y llegar a ellas. Los fundadores de Clearview AI tenían ideas muy preocupantes sobre qué hacer con esta herramienta. Creían que analizando el rostro de una persona podían inferir su inteligencia o su propensión a consumir drogas. Han tratado con Hungría, que quería que su producto persiguiera a los activistas e identificara a los liberales. Entonces, en cierto sentido, es casi tranquilizador que al final solo trabajen con la policía.
En China, el anonimato es privilegio exclusivo de los poderosos
P. Clearview AI ha sido multada o prohibida en varios países. ¿Cuál es tu situación actual?
r. Continúan operando en los Estados Unidos. Trabajan con muchas agencias policiales locales, así como con el Departamento de Seguridad Nacional y el FBI. Están un poco asediados legalmente, pero han tenido algunos éxitos, como que un tribunal del Reino Unido anulara una multa impuesta por el regulador. En última instancia, el hecho de que hayan decidido centrarse exclusivamente en las fuerzas del orden les ha permitido evitar muchos resultados negativos. Veremos qué pasa en los demás países europeos.
P. ¿Crees que el auge de la inteligencia artificial (IA) generativa ha servido de cortina de humo para la expansión de empresas como Clearview AI?
r. La gente está muy centrada en la IA generativa y eso ha desviado la atención, tal vez por la forma en que la tecnología amenaza nuestra privacidad. Pero en cierto modo, las preocupaciones son las mismas. Él New York Times, donde trabajo, ha demandado a OpenAI por utilizar todos nuestros artículos sin pedir permiso. De manera similar, la base de datos de Clearview AI se compone de decenas de miles de millones de imágenes de nuestros rostros tomadas de Internet sin el consentimiento de nadie. Me preocupa mucho el reconocimiento facial combinado con la IA generativa. Puedes generar la cara de alguien en una imagen pornográfica o en algún tipo de situación embarazosa y simplemente publicarla, sabiendo que algún día alguien buscará a esa persona con una herramienta de reconocimiento facial y la encontrará. Escribí el libro porque quiero que la gente entienda lo poderosa que se ha vuelto la tecnología de reconocimiento facial. Ahora es realmente trivial identificar a alguien y encontrar todas sus fotos en Internet. Y creo que eso tiene implicaciones muy preocupantes para el futuro.
P. ¿Cuál es la percepción social del reconocimiento facial en EE.UU.?
r. Existe una resistencia real al uso de la tecnología de reconocimiento facial en vivo. Los legisladores dicen rechazar la idea de buscar personas en tiempo real en las calles, algo que está sucediendo, por ejemplo, en el Reino Unido. Al mismo tiempo, creo que la mayoría de la gente acepta utilizar esta tecnología después de que se ha cometido un delito para intentar identificar al culpable.
P. ¿Cómo es posible que una empresa que basa su negocio en un producto construido a partir de la descarga no consentida de millones de fotografías de rostros humanos pueda operar como si nada?
r. Cuando escribí por primera vez sobre Clearview AI, tenían 3 mil millones de fotografías. Cuando terminé el libro, creo que tenían 20 mil millones. Ahora tienen 40.000. Hay países que han dicho que lo que están haciendo es ilegal. No deberían coleccionar fotos de la gente sin su consentimiento, pero lo siguen haciendo y nadie los detiene. En Estados Unidos tenemos algún precedente, por lo que esta ilegalidad no es tan clara. Estamos viendo lo mismo con la IA generativa: ¿se debería permitir a estas empresas cosechar lo que quieran y utilizarlo como quieran obtener ganancias? Creo que ésta es una de las cuestiones más importantes de nuestro tiempo.
Eric Schmidt, presidente de Google en 2011, dijo que el reconocimiento facial era la única tecnología que su empresa desarrolló y no lanzó
P. Señala en el libro que Google y Facebook ya tenían su propia tecnología de reconocimiento facial desarrollada antes de Clearview AI, pero decidieron no lanzarla.
r. Realmente lo encontré sorprendente. Son empresas que han sido muy analizadas por posibles abusos a la privacidad, y eso las ha hecho más cuidadosas. También creo que estaban preocupados por la tecnología en sí. Sus ingenieros se alarmaron y vieron las obvias desventajas de lanzar algo así. Eric Schmidt, presidente de Google en 2011, afirmó que el reconocimiento facial era hasta la fecha la única tecnología que su empresa había desarrollado y no había lanzado al mercado. Por cierto, me pareció interesante que ahora haya sucedido lo mismo con la IA generativa: Google tenía su propio ChatGPT, pero pensaban que el mundo aún no estaba preparado para esto.
P. ¿Crees que nos dirigimos hacia una sociedad de hipervigilancia?
r. Vivimos en un mundo donde hay cámaras por todos lados, pero no cuentan con sistemas de reconocimiento facial. Creo que en Europa se está teniendo ese debate ahora mismo: si su hijo es secuestrado o hay un fugitivo suelto, ¿deberíamos poder encontrarlo en tiempo real? Una vez que haya configurado esa infraestructura, podrá utilizarla de muchas otras maneras. Creo que todavía podemos decidir si permitimos o no que este sea un mundo en el que nuestras caras nos siguen todo el tiempo, cada vez que salimos de nuestras casas. Y es una decisión que hay que tomar ahora mismo.
Poder identificar a alguien y encontrar todas sus fotografías en Internet tiene implicaciones de futuro muy preocupantes.
P. ¿Cómo trazamos la línea entre lo que es un uso apropiado e inapropiado del reconocimiento facial?
r. Creo que un elemento importante en este momento es lo retroactivo versus lo proactivo. ¿Lo utilizas para resolver un delito que ya se ha cometido o para intentar prevenir delitos o encontrar personas en tiempo real? Esa es una gran brecha, es por lo que estamos pasando ahora mismo. Otro punto clave es la seguridad. En Estados Unidos, si eres policía, puedes utilizar el reconocimiento facial para resolver crímenes. Si tienes una empresa, puedes utilizarlo para intentar identificar a los ladrones y expulsarlos. Lo que incomoda a la gente son las aplicaciones que no son de seguridad.
P. ¿Cree que los ciudadanos se acostumbrarán y tolerarán esta tecnología?
r. Tendremos que afrontar diferentes casos de uso y ver qué tan cómodos son. Fue muy impactante cuando en el Madison Square Garden empezaron a parar en la puerta a los abogados de las marcas que los habían demandado. La gente se dio cuenta de que el reconocimiento facial podía utilizarse de forma alarmante. Hubo un tiempo en que se grabaron las llamadas telefónicas de la Casa Blanca. Se vio a sí mismo con todas esas cintas de Richard Nixon haciendo sus planes para Watergate. Esto provocó alarma social y se aprobaron leyes que ilegalizaban las escuchas telefónicas, excepto aquellas con orden judicial. Por eso las cámaras de vigilancia sólo graban vídeo y no sonido: porque decidimos que no queríamos vivir en un mundo donde todo lo que dices queda grabado. Creo que con nuestras caras pasará lo mismo.
puedes seguir EL PAÍS Tecnología en Facebook y X o regístrate aquí para recibir nuestra boletín semanal.
Suscríbete para seguir leyendo
Leer sin límites
_
