Tecnología

APPUn sitio web que cualquier persona puede usar busca rostros y es peligrosamente preciso en apenas segundos

Por casi 30 dólares al mes, un buscador llamado PimEyes tiene la capacidad de encontrar una cara, incluso en fotos oscuras.

Por 29,99 dólares al mes, un sitio web llamado PimEyes ofrece un superpoder potencialmente peligroso del mundo de la ciencia ficción: la capacidad de buscar un rostro, encontrando fotos oscuras que de otro modo habrían sido tan seguras como la proverbial aguja en el enorme pajar digital de la Internet.

Una búsqueda toma meros segundos. Sube una foto de una cara, marca una casilla aceptando los términos del servicio y luego obtiene una cuadrícula de fotos de caras que se consideran similares, con enlaces a donde aparecen en Internet. The New York Times usó PimEyes en los rostros de una docena de periodistas del Times, con su consentimiento, para probar sus poderes.

PimEyes encontró fotos de todas las personas, algunas que los periodistas nunca habían visto antes, incluso cuando llevaban gafas de sol o una máscara, o tenían el rostro desviado de la cámara, en la imagen utilizada para realizar la búsqueda.

PimEyes encontró a una reportera bailando en un evento de un museo de arte hace una década, y llorando después de que le propusieran, una foto que no le gustó especialmente pero que el fotógrafo había decidido usar para publicitar su negocio en Yelp.

La estación de metro de Kurskaya, en Moscú. La ciudad ha estrenado un sistema de pago por reconocimiento facial. Foto ReutersLa estación de metro de Kurskaya, en Moscú. La ciudad ha estrenado un sistema de pago por reconocimiento facial. Foto Reuters

El yo más joven de un reportero de tecnología fue visto en medio de una aglomeración incómoda de fanáticos en el festival de música de Coachella en 2011. Un corresponsal extranjero apareció en innumerables fotos de bodas, evidentemente el alma de cada fiesta, y en el fondo borroso de una foto tomada de otra persona en un aeropuerto griego en 2019. Se descubrió la vida pasada de un periodista en una banda de rock, al igual que la escapada de campamento de verano preferida de otro.

A diferencia de Clearview AI, una herramienta de reconocimiento facial similar disponible solo para las fuerzas del orden, PimEyes no incluye resultados de sitios de redes sociales. Las imágenes a veces sorprendentes que aparecían en PimEyes procedían de artículos de noticias, páginas de fotografías de bodas, sitios de reseñas, blogs y sitios de pornografía.

La mayoría de las coincidencias de las caras de la docena de periodistas fueron correctas. Para las mujeres, las fotos incorrectas a menudo provenían de sitios de pornografía, lo que inquietaba la sugerencia de que podrían ser ellas. (Para ser claros, no fueron ellos).

El dueño

El nuevo propietario de PimEyes es Giorgi Gobronidze, un académico de 34 años que dice que su interés en la tecnología avanzada fue provocado por los ciberataques rusos en su país de origen, Georgia.

Gobronidze dijo que creía que PimEyes podría ser una herramienta para ayudar a las personas a controlar su reputación en línea. El periodista al que no le gustaba la foto que estaba usando un fotógrafo, por ejemplo, ahora podía pedirle que la quitara de su página de Yelp.

Se supone que los usuarios de PimEyes solo buscan sus propios rostros o los rostros de las personas que han dado su consentimiento, dijo Gobronidze. Pero dijo que estaba confiando en que las personas actuaran “éticamente”, ofreciendo poca protección contra la erosión de la tecnología de la capacidad de permanecer anónimo en una multitud.

PimEyes no tiene controles para evitar que los usuarios busquen una cara que no sea la suya, y sugiere que el usuario pague una tarifa considerable para evitar que las fotos dañinas de una noche mal considerada lo sigan para siempre.

“Es stalkerware por diseño sin importar lo que digan”, dijo Ella Jakubowska, asesora de políticas de European Digital Rights, un grupo de defensa de la privacidad.

Gobronidze creció a la sombra del conflicto militar. Su jardín de infancia fue bombardeado durante la guerra civil que siguió después de que Georgia declarara su independencia de la Unión Soviética en 1991. El país quedó efectivamente aislado del mundo en 2008 cuando Rusia lo invadió y se cortó Internet. Las experiencias lo inspiraron a estudiar el papel del dominio tecnológico en la seguridad nacional.

El sistema de reconocimiento facial utiliza datos defectuosos y presenta más riesgos para los niños.El sistema de reconocimiento facial utiliza datos defectuosos y presenta más riesgos para los niños.

Después de trabajar como abogado y servir en el ejército georgiano, Gobronidze obtuvo una maestría en relaciones internacionales. Comenzó su carrera como profesor en 2014 y finalmente aterrizó en la Universidad Europea en Tbilisi, Georgia, donde todavía enseña.

En 2017, Gobronidze estaba en un programa de intercambio, dando una conferencia en una universidad en Polonia, cuando uno de sus estudiantes le presentó, dijo, a dos tipos de «hackers», Lucasz Kowalczyk y Denis Tatina, que estaban trabajando en un motor de búsqueda facial. Eran “mentes maestras brillantes”, dijo, pero “absolutamente introvertidos” que no estaban interesados ​​en la atención del público.

Acordaron hablar con él sobre su creación, que eventualmente se convirtió en PimEyes, para su investigación académica, dijo Gobronidze. Dijo que le habían explicado cómo su motor de búsqueda usaba la tecnología de redes neuronales para mapear las características de una cara, para hacerla coincidir con caras con medidas similares, y que el programa podía aprender con el tiempo cómo determinar mejor una coincidencia.

“Me sentí como una persona de la Edad de Piedra cuando los conocí”, dijo Gobronidze. “Como si estuviera escuchando ciencia ficción”.

En diciembre, Gobronidze creó una corporación, EMEARobotics, para adquirir PimEyes y la registró en Dubái debido a la baja tasa impositiva de los Emiratos Árabes Unidos. Dijo que había contratado a la mayor parte del pequeño equipo de soporte y tecnología del sitio, y contrató a una firma consultora en Belice para manejar las consultas y las cuestiones reglamentarias.

Gobronidze ha alquilado oficinas para PimEyes en una torre en el centro de Tbilisi. Todavía está siendo renovado, las lámparas cuelgan sueltas del techo.

Tatia Dolidze, colega de Gobronidze en la Universidad Europea, lo describió como “curioso” y “obstinado”, y dijo que se sorprendió cuando le dijo que estaba comprando un motor de búsqueda de rostros.

“Era difícil imaginar a Giorgi como un hombre de negocios”, dijo Dolidze por correo electrónico.

Controversia

Ahora es un hombre de negocios que posee una empresa envuelta en controversia, principalmente en torno a si tenemos algún derecho especial de control sobre las imágenes de nosotros que nunca esperamos que se encuentren de esta manera. Gobronidze dijo que la tecnología de reconocimiento facial se usaría para controlar a las personas si los gobiernos y las grandes empresas solo tuvieran acceso a ella.

Y está imaginando un mundo donde el reconocimiento facial sea accesible para cualquiera.

Hace unos meses, Cher Scarlett, ingeniera informática, probó PimEyes por primera vez y se enfrentó a un capítulo de su vida que se había esforzado por olvidar.

En 2005, cuando Scarlett tenía 19 años y estaba en quiebra, consideró trabajar en pornografía. Viajó a la ciudad de Nueva York para una audición que fue tan humillante y abusiva que abandonó la idea.

Clearview AI, usa la aplicación de reconocimiento facial que desarrollaron para la policía. Amr Alfiky/The New York TimesClearview AI, usa la aplicación de reconocimiento facial que desarrollaron para la policía. Amr Alfiky/The New York Times

PimEyes desenterró el trauma de décadas, con enlaces a dónde se podían encontrar exactamente las fotos explícitas en la web. Aparecieron entre los retratos más recientes de Scarlett, que trabaja por los derechos laborales y ha sido objeto de cobertura mediática por una revuelta de trabajadores de alto perfil que lideró en Apple.

“No tenía idea hasta ese momento de que esas imágenes estaban en Internet”, dijo.

Preocupada por cómo reaccionaría la gente a las imágenes, Scarlett inmediatamente comenzó a investigar cómo eliminarlas, una experiencia que describió en una publicación de Medium y a CNN. Cuando hizo clic en una de las fotos explícitas en PimEyes, apareció un menú que ofrecía un enlace a la imagen, un enlace al sitio web donde aparecía y una opción para «excluir de los resultados públicos» en PimEyes.

Pero la exclusión, descubrió Scarlett rápidamente, solo estaba disponible para los suscriptores que pagaron los «planes PROtect», que cuestan entre $ 89.99 y $ 299.99 por mes. “Es esencialmente extorsión”, dijo Scarlett, quien eventualmente se inscribió en el plan más costoso.

Gobronidze no estuvo de acuerdo con esa caracterización. Señaló una herramienta gratuita para eliminar resultados del índice de PimEyes que no se anuncia de manera destacada en el sitio. También proporcionó un recibo que muestra que PimEyes le había reembolsado a Scarlett el plan de $299.99 el mes pasado.

PimEyes tiene decenas de miles de suscriptores, dijo Gobronidze, y la mayoría de los visitantes del sitio provienen de Estados Unidos y Europa. Obtiene la mayor parte de su dinero de los suscriptores de su servicio PROtect, que incluye la ayuda del personal de soporte de PimEyes para eliminar fotos de sitios externos.

¿Cómo borrarlo?

PimEyes también tiene una «opción de exclusión» gratuita, para que las personas eliminen sus datos del sitio, incluidas las imágenes de búsqueda de sus rostros. Para optar por no participar, Scarlett proporcionó una foto de su yo adolescente y un escaneo de su identificación emitida por el gobierno. A principios de abril, recibió una confirmación de que se había aceptado su solicitud de exclusión.

“Sus resultados potenciales que contienen su cara se eliminan de nuestro sistema”, decía el correo electrónico de PimEyes.

Pero cuando el Times realizó una búsqueda PimEyes del rostro de Scarlett con su permiso un mes después, hubo más de 100 resultados, incluidos los explícitos.

Gobronidze dijo que esta era una «historia triste» y que optar por no participar no impedía que se registrara el rostro de una persona. 

Gobronidze dijo que quería un «uso ético» de PimEyes, lo que significa que las personas solo buscan sus propios rostros y no los de los extraños.

Pero PimEyes hace poco para hacer cumplir este objetivo, más allá de un cuadro en el que un buscador debe hacer clic para afirmar que la cara que se está cargando es la suya. Helen Nissenbaum, profesora de la Universidad de Cornell que estudia la privacidad, calificó esto de «absurdo», a menos que el buscador del sitio proporcionara una identificación gubernamental, como tuvo que hacer Scarlett cuando optó por no participar.

“Si es algo útil, ver dónde están nuestras propias caras, tenemos que imaginar que una empresa que ofrece solo ese servicio será transparente y auditada”, dijo Nissenbaum.

PimEyes no realiza tales auditorías, aunque Gobronidze dijo que el sitio bloquearía a un usuario con actividad de búsqueda “más allá de cualquier lógica”, describiendo como ejemplo uno con más de 1,000 búsquedas en un día. Confía en que los usuarios hagan lo correcto y mencionó que cualquier persona que busque el rostro de otra persona sin permiso estaría infringiendo la ley de privacidad europea.

“Debe ser responsabilidad de la persona que lo usa”, dijo. “Solo somos un proveedor de herramientas”.

Excepciones a la regla

A pesar de decir que PimEyes debe usarse solo para autobúsquedas, Gobronidze está abierto a otros usos siempre que sean «éticos». Dijo que aprobaba a los periodistas de investigación y el papel que jugó PimEyes en la identificación de los estadounidenses que irrumpieron en el Capitolio de EE. UU. el 6 de enero de 2021.

The Times permite a sus periodistas utilizar motores de búsqueda de reconocimiento facial para informar, pero tiene reglas internas sobre la práctica. “Cada solicitud de uso de una herramienta de reconocimiento facial para fines informativos requiere una revisión y aprobación previas por parte de un miembro senior de la cabecera y de nuestro departamento legal para garantizar que el uso cumpla con nuestros estándares y la ley aplicable”, dijo una portavoz del Times, Danielle Rhoades Ha.

Hay usuarios que Gobronidze no quiere. Recientemente bloqueó a personas en Rusia del sitio, en solidaridad con Ucrania. Mencionó que PimEyes estaba dispuesto, al igual que Clearview AI, a ofrecer su servicio de forma gratuita a organizaciones ucranianas o a la Cruz Roja, si podía ayudar en la búsqueda de personas desaparecidas.

La IA Clearview más conocida se ha enfrentado a serios obstáculos en Europa y en todo el mundo. Los reguladores de privacidad en Canadá, Australia y partes de Europa han declarado ilegal la base de datos de Clearview de 20 mil millones de imágenes de rostros y han ordenado a Clearview que elimine las fotos de sus ciudadanos. Italia y Gran Bretaña emitieron multas multimillonarias.

Una agencia alemana de protección de datos anunció una investigación sobre PimEyes el año pasado por posibles violaciones de la ley de privacidad de Europa, el Reglamento General de Protección de Datos, que incluye reglas estrictas sobre el uso de datos biométricos. Esa investigación continúa.

Gobronidze dijo que no había tenido noticias de ninguna autoridad alemana. “Estoy ansioso por responder todas las preguntas que puedan tener”, dijo.

No le preocupan los reguladores de privacidad, dijo, porque PimEyes opera de manera diferente. Lo describió como casi como un catálogo de tarjetas digitales, diciendo que la compañía no almacena fotos o plantillas de caras individuales, sino direcciones URL para imágenes individuales asociadas con las características faciales que contienen.

Todo es público, dijo, y PimEyes instruye a los usuarios a buscar solo sus propios rostros. Aún no se ha determinado si esa diferencia arquitectónica es importante para los reguladores.

CADENA365 EN TU CELULAR

Descarga nuestra app para Android


ENCUESTAS

¿Estas de acuerdo en la eliminación de las PASO en Salta?

Resultados

Cargando ... Cargando ...

Fotonoticias

En fotos: se derrite un glaciar y un pueblo de 120.000 habitantes podría desaparecer
Ver anteriores