El ingeniero Jacky Alciné descubrió que el algoritmo de reconocimiento facial de Google Photos etiquetaba a chicos negros con la palabra “gorilas” y tuiteó la captura de pantalla como prueba. El tuit se viralizó y llegó a los medios. Fue un escándalo. A Google la acusaron de racista y la empresa tuvo que pedir disculpas públicas y prometió solucionar el error en su algoritmo. Eso fue en 2015. Tres años después, la revista Wired investigó el tema y comprobó que para no repetir el error, Google había eliminado las etiquetas “mono”, “gorila”, “chimpance”, etc. También las palabras asociadas con “hombre negro”, “afroamericano”, “persona negra”, etc. El hecho demostró una de las limitaciones que presentan los algoritmos cuando no son capaces de distinguir imágenes muy específicas. “La tecnología de etiquetado de imágenes todavía es muy joven y lamentablemente no es perfecta", comunicó un vocero de la empresa.
El reconocimiento facial a través de IA se convirtió en los últimos años en una industria en sí misma que por un lado genera grandes negocios y por el otro, causa fuertes polémicas. Como prácticamente no está regulada por las leyes ni gobiernos, su uso privado y público es un descontrol y vulnera el derecho a la privacidad e intimidad de las personas. Por eso distintas organizaciones de defensa de los derechos civiles, como la Unión Americana de Libertades Civiles (ACLU), se oponen con fuerza al uso de esta tecnología. “¿Y la privacidad de las personas?” se preguntan sin respuestas convincentes.
Solo el software Rekognition de Amazon, que se lanzó en 2016, generó ventas por más de 17.000 millones de dólares en 2017. Hay otras empresas que compiten en este rubro, como Axon con su software llamado Body. Sin embargo, el reconocimiento facial por imágenes sólo está reglamentado en un solo Estado de los EEUU.
En China no hay reparos porque el gobierno usa esta tecnología para controlar a su población en las calles de ciudades como Shangai y Beijing a través de una red formada por más de 150 millones de cámaras, que serán más de 400 millones en los próximos años. Las autoridades dicen lo de siempre: que la red de cámaras con reconocimiento facial sirve para mejorar la seguridad y prevenir el crimen.
Al mismo tiempo, los ciudadanos chinos ya pueden poner la cara para sacar plata de un cajero automático o pagar las compras en el supermercado. China tiene como objetivo para 2050 que la AI se convierta en el principal motor de su industria, según su informe “Next generation AI Development Plan”. Y va a toda velocidad. Por lo pronto ya tiene la startup más valiosa del mundo: SenseTime, especializada en sistemas de análisis de rostros e imágenes a gran escala. Superó el valor de 3 mil millones de dólares después de que el Grupo Alibaba (del empresario chino Jack Ma) se hiciera con la mayoría accionaria.
Los creadores de Ping An, una compañía de seguros china, están convencidos de que la IA es capaz de detectar la honestidad. O en realidad, la deshonestidad. La empresa tiene una aplicación móvil a través de la cual sus millones de clientes pueden gestionar un préstamo. Pero para que el dinero sea otorgado, los solicitantes deben responder una serie de preguntas sobre sus ingresos, gastos y capacidad de ahorro. Deben hacerlo por video para que un detector de rostro monitoree más de cien imperceptibles expresiones faciales que darán el veredicto final sobre si mienten o dicen la verdad.
Pero en los Estados Unidos también se usa esta tecnología. El año pasado se armó un gran escándalo cuando se supo por una investigación de la revista Rolling Stone que la cantante Taylor Swift instaló un sistema de reconocimiento facial durante sus conciertos de la gira Reputation para detectar en tiempo real posibles acosadores entre los miles de asistentes a sus shows. Pero esa misma plataforma tecnológica también usa los millones de datos que recolecta sin autorización ni consentimiento entre las multitudes para otros fines, como capturar datos que después serán usados por las marcas para mejorar las estrategias de marketing de sus productos y servicios.
En los shows de Swift se instalaron “selfi stations” para atraer a los fans a sacarse una foto para que la compartan en sus redes, etc. Estos quioscos invitaban a las personas a posar, sin que sepan que sus caras estaban siendo escaneados por cámaras biométricas ocultas y esos datos eran enviados en tiempo real a los servidores ubicados en las oficinas centrales de la empresa, en Nashville, Tennessee.
La empresa que desarrolló e implementó el sistema se llama ISM Connect y en su sitio web informan que toda la información recolectada la usan para ayudar a mejorar la relación con las marcas y sus consumidores. "Muy pronto las pantallas inteligentes de ISM estarán en los estadios de béisbol de las ligas menores, y la firma espera integrarlas también en las ciudades. Esas pantallas ya han capturado la interacción y los datos demográficos de más de 110 millones de personas que asistieron a eventos en más de 100 lugares", informó hace pocos días el diario The Guardian. Pero gracias a una ausencia casi total de legislación, nadie que no sea de esas empresas privadas puede saber cómo recogen, usan o almacenan toda esa información de cientos de miles de personas.
"Más de la mitad de todos los adultos estadounidenses ya tienen su imagen catalogada en bases de datos que se usan para reconocimiento facial, dijo una experta en privacidad en el artículo en The Guardian.
En nuestro país no estamos tan lejos de la vigilancia digital permanente. El Ministerio de Seguridad Nacional anunció que la Policía Federal instalará cámaras de reconocimiento facial en tiempo real en las estaciones de Retiro y subtes porteños. Adivinen qué? El objetivo es mayor seguridad para el ciudadano porque, según dijeron, las cámaras servirán para encontrar a prófugos y personas desaparecidas en lugares públicos.
Sonría, lo estamos filmando.
(Adelanto exclusivo del libro “Las máquinas no pueden soñar. Pasado, presente y futuro de la Inteligencia Artificial”, que se podrá descargar completo y gratis en www.inteligencia.com.ar)