Microsoft analiza cómo ejecutar una tienda ética

El presidente de Microsoft, Brad Smith, dio el paso inusual de publicar una publicación de blog el viernes 13 de julio de 2018, en la que le pidió al gobierno que regulara la tecnología que su propia compañía está desarrollando. Esa tecnología es el reconocimiento facial, y Smith ya ve el peligro de permitir el uso sin restricciones de tal capacidad, especialmente por parte de los gobiernos. Pero Smith también señaló que el mal uso del reconocimiento facial en la industria privada puede tener consecuencias igualmente desgarradoras.

Unos días después, la Asociación de Maquinaria de Computación (ACM) publicó en su sitio web el Código de Ética y Conducta Profesional de ACM, que es un nuevo código de conducta profesional que adopta una postura similar a la de Microsoft, pero que es mucho más amplia en su cobertura del comportamiento ético en el negocio de la tecnología de la información (TI). Lo que ambas publicaciones tienen en común es la idea de mantener un alto nivel de responsabilidad corporativa. Eso es algo que muchos profesionales de TI intentan ignorar y dejar a las personas que están más arriba en la cadena alimentaria de escala salarial, una actitud que es desafortunada y peligrosa.

Smith, en su publicación de blog, se preocupa por el mal uso del reconocimiento facial. Se da cuenta de que, incluso en los grandes campus organizados en torno a la tecnología actual, especialmente los tokens de seguridad como los empleados por muchos sistemas de gestión de identidad, es posible realizar un seguimiento muy cercano de dónde están las personas y, a partir de ahí, descubrir qué están haciendo. Pero con el reconocimiento facial, es posible distinguir a las personas de cualquier multitud en cualquier lugar, y no solo rastrear su paradero, sino también mantener registros de dónde se han basado en pocos datos además de sus características físicas. Como señala Smith, ese seguimiento ya está teniendo lugar en China. Smith solicita una comisión para estudiar el uso y las consecuencias del reconocimiento facial en los Estados Unidos.

Reconocimiento facial como una forma confiable de identificación

Claramente, en muchos casos, el monitoreo 24x7 de los movimientos de un individuo es ilegal en los EE. UU., Como lo demuestran las recientes decisiones de la Corte Suprema de los EE. UU. Con respecto al uso del seguimiento de la ubicación del teléfono celular y el uso de dispositivos GPS sin una orden judicial. Pero eso no significa que alguna agencia, en algún lugar, no lo intente.

Del mismo modo, no hay duda de que el reconocimiento facial ha progresado hasta el punto de que puede usarse como una forma confiable de identificación (ID). Algunas aerolíneas ya están probando el reconocimiento facial para atravesar las líneas de seguridad y para su uso en aviones de abordaje en el Aeropuerto Internacional de Los Ángeles (LAX). Del mismo modo, cuando regresé a Washington, DC en un vuelo desde Londres el mes pasado, todo lo que necesitaba para ingresar a los EE. UU. Era una vista de mi cara con una cámara y un escaneo de mis huellas digitales mientras mi pasaporte estaba siendo escaneado por un lector.

Reconocimiento facial: próximos pasos

Entonces, la pregunta es, ¿cuál es el siguiente paso? Como profesional de TI, suponga que se le pidió que creara un sistema de reconocimiento facial para su empleador que identificara a las personas que la empresa no quería en sus propiedades o locales. Tal vez habían pasado un cheque sin fondos, se sospechaba que habían robado en una tienda o eran empleados que habían sido despedidos.

¿Qué harías? Todas esas son buenas razones para no permitir que una persona ingrese a su tienda o a su propiedad. Lo más probable es que no tenga muchos problemas para encontrar fotos de ellos, por lo que el sistema de reconocimiento debería poder identificarlos fácilmente. ¿Qué es lo siguiente?

Esta es la parte de su proceso de toma de decisiones, en el que debe decidir cómo usar el reconocimiento facial u otros datos biométricos para ese asunto, como parte de sus políticas de seguridad. Esto no es tan simple como su respuesta a una alerta de malware de uno de sus nodos de protección de punto final. Estas respuestas no pueden automatizarse fácilmente. Entonces, ¿activarías una alarma? Paginación del gerente de la instalación? Alerta de seguridad? ¿Llama a la policía? La respuesta a cualquiera de estos podría ser sí, pero también podría ser no, y tomar la decisión equivocada podría ser un error que termina su carrera.

7 consejos para usar el reconocimiento facial sabiamente

Aquí hay algunos consejos que pueden ayudar a reducir la posibilidad de problemas y al mismo tiempo proteger su organización:

Publique avisos donde los visitantes y empleados los verán, informándoles que está utilizando video de vigilancia y reconocimiento facial como parte de su operación de seguridad. (Sus abogados estarán encantados de ayudarlo con el idioma real).

Asegúrese de que haya un humano en el circuito antes de tomar cualquier medida sobre la base de cualquier tipo de identificación biométrica. Si bien está mejorando, el reconocimiento facial, como otros datos biométricos, no es 100 por ciento confiable. Antes de tomar medidas, alguien debe confirmar lo que dice el sistema de reconocimiento. (Trabaje con su departamento legal y la alta gerencia para trazar esto).

Reconozca la limitación de su sistema de identificación facial o biométrico. Por ejemplo, la tecnología actual de reconocimiento facial funciona mejor con hombres blancos, pero no tan bien con mujeres no blancas. Debes asegurarte de que no estás realizando inadvertidamente perfiles raciales. Recuerde el dolor que han sufrido las compañías, desde CVS hasta Starbucks, cuando, intencionalmente o no, hicieron exactamente eso. (En general, una muy buena discusión para tener con su equipo legal).

Asegúrese de que haya un procedimiento "Vaya". Tendrá identificaciones incorrectas, por lo que debe asegurarse de que no avergüencen a la persona ni a la empresa. (Una vez más, tanto los abogados de su empresa como la alta gerencia deberían influir aquí).

Determine de antemano dónde va a compartir los resultados de sus comprobaciones de identidad. No se puede enviar todo a varias autoridades gubernamentales. Debe determinar qué puede compartir, qué no puede compartir y qué requiere una orden judicial. Luego, asegúrese de que sus procedimientos internos sean sólidos para que sus empleados no intenten ganarse el favor compartiendo lo que no se debe compartir. (Esta es probablemente una conversación más larga con sus abogados, así que ordene una pizza).

Pruebe continuamente sus sistemas de identificación con los conjuntos de datos más conocidos para que pueda hacer que el reconocimiento sea más preciso. (Su proveedor de reconocimiento facial debe tener dichos conjuntos de datos disponibles y, con el tiempo, podrá crear los suyos propios).

• Finalmente, tenga cuidado a quién apunta para el reconocimiento. Los miembros del público tienen fuertes derechos de privacidad, y su violación de esos derechos puede costarle mucho a su organización. (¿Adivina qué? Más tiempo de abogado).

Si bien su empresa no puede controlar lo que el gobierno decide hacer sobre el reconocimiento facial, que probablemente no sea nada dada la atmósfera disfuncional en Washington, DC en estos días, puede controlar lo que sucede en sus propias instalaciones. De hecho, se espera que lo hagas si alguna vez te encuentras frente a un juez. Seguir los principios éticos de ACM de ser honesto y confiable y tomar medidas para no discriminar mientras se protege la privacidad se ha vuelto más importante que nunca.