Microsoft pide a las empresas que adopten un código de conducta de reconocimiento facial

¿Por qué Microsoft pide a las empresas que adopten un código de conducta para el reconocimiento facial?

Microsoft ha promovido la adopción de principios éticos en el uso del reconocimiento facial por varias razones, muchas de ellas relacionadas con preocupaciones sobre derechos humanos, privacidad y posibles abusos de esta tecnología. Aquí están los principales motivos:

1. Evitar el uso indebido por parte de gobiernos o empresas
   El reconocimiento facial puede utilizarse para vigilancia masiva, discriminación o represión (por ejemplo, en regímenes autoritarios). Microsoft quiere evitar ser cómplice de estas prácticas.

2. Problemas de sesgo y errores
   Se ha demostrado que algunos sistemas de reconocimiento facial tienen tasas de error más altas con personas de piel oscura, mujeres o personas mayores. Microsoft ha llamado a la transparencia y responsabilidad para evitar estos sesgos algorítmicos.

3. Presión pública y reputacional
   La sociedad civil, medios y organizaciones como la ACLU han criticado el uso irresponsable de estas tecnologías. Microsoft busca evitar escándalos reputacionales como los que afectaron a otras grandes tecnológicas.

4. Regulación anticipada
   Al pedir un código de conducta voluntario, Microsoft busca posicionarse como líder responsable del sector y así influir en futuras regulaciones, en lugar de que los gobiernos impongan normas sin participación del sector privado.

5. Coherencia con sus principios corporativos de IA
   Microsoft publicó en 2018 sus principios de «IA ética», incluyendo equidad, responsabilidad, privacidad y seguridad. Este pedido es coherente con esa línea.

💰 ¿Cuál es el “jugoso negocio” del que se beneficia Bill Gates?

Aquí hay que ser cuidadosos. Bill Gates ya no dirige Microsoft (renunció como CEO en el año 2000 y dejó la junta en 2020), aunque conserva acciones y por lo tanto se beneficia indirectamente de su éxito.

Ahora bien, el negocio del reconocimiento facial y la inteligencia artificial sí es muy lucrativo para Microsoft:

• Contratos gubernamentales y corporativos:
  Microsoft ha vendido soluciones de reconocimiento facial y tecnologías relacionadas (como su API de Face Detection en Azure) a gobiernos y empresas en sectores como seguridad, salud, retail y banca.

• Servicios en la nube (Azure):
  El reconocimiento facial es parte de su plataforma Azure AI, que factura miles de millones. Cada vez que una empresa usa su API de reconocimiento facial, Microsoft cobra.

• Datos y posicionamiento estratégico:
  Aunque Microsoft se ha retirado de algunos proyectos sensibles (por ejemplo, no vende esta tecnología a la policía en EE.UU. sin regulación), sigue ofreciendo herramientas de visión por computadora que permiten a las empresas crear sus propios modelos, lo cual le asegura ingresos sin exponerse directamente.

En cuanto a Bill Gates, sus inversiones actuales están más enfocadas en:

• Salud global (a través de la Fundación Bill y Melinda Gates),

• Agricultura sostenible,

• Energías limpias (como Breakthrough Energy),

• Y portafolios en sectores clave como ferrocarriles, alimentos y bienes raíces.

Así que, si bien se beneficia como accionista, no se le puede vincular directamente con el negocio del reconocimiento facial como una fuente personal de ingresos actual.

Durante el verano, el presidente de Microsoft, Brad Smith, pidió a los gobiernos que examinaran más de cerca cómo se está implementando la tecnología de detección facial en todo el mundo. Esta semana, regresó con un mensaje similar – sólo que esta vez el ejecutivo está llamando a sus colegas proveedores de tecnología para que le ayuden a abordar una miríada de problemas en torno a la tecnología antes de que se vuelva demasiado omnipresente.

Es bastante fácil sugerir que el barco ha zarpado. Después de todo, el reconocimiento facial ya es bastante omnipresente en todo, desde Facebook hasta Apple Animojis. Pero si algo nos ha enseñado el año pasado es que los gobiernos del mundo no pueden esperar para implementar la tecnología de una manera más amplia, y muchas empresas de tecnología están más que dispuestas a ayudar.

Smith señala un trío de escollos potenciales para la tecnología: resultados sesgados, invasión de la privacidad y vigilancia masiva. La ACLU ha estado levantando banderas rojas sobre ese primer punto durante algún tiempo, pidiendo al Congreso que implemente una moratoria sobre las tecnologías de vigilancia. El grupo encontró que el software de Reconocimiento de Amazon asoció erróneamente las fotos de los miembros del Congreso con fotos de criminales.

La nueva carta encuentra a Microsoft frustrado por las demoras regulatorias, en lugar de colocar la carga de la regulación tecnológica en las propias empresas. «Creemos que la única manera de protegerse contra esta carrera hacia abajo es construir un piso de responsabilidad que apoye la competencia sana en el mercado», escribe Smith. «Y un suelo sólido requiere que nos aseguremos de que esta tecnología, y las organizaciones que la desarrollan y usan, estén gobernadas por el estado de derecho.»

En otras palabras, como dice Smith, «no se puede volver a meter al genio en la botella». Por lo tanto, Microsoft está buscando establecer el tono aquí, comprometiéndose con su propio código, que planea implementar para el primer trimestre del próximo año.

La pieza detalla una serie de salvaguardas e investigaciones que las compañías pueden implementar para ayudar a evitar algunas de las trampas más problemáticas aquí. Entre las recomendaciones se encuentran algunas sugerencias bastante directas, como la transparencia, las pruebas de terceros, las revisiones de la tecnología por parte de los seres humanos y la identificación adecuada de dónde y cuándo se está implementando la tecnología. Todo lo anterior honestamente suena bastante sencillo y factible.

Microsoft está preparado para dar seguimiento a estas sugerencias con un documento más detallado que llegará la próxima semana y que detallará más detalladamente sus planes, a la vez que solicita sugerencias de personas y grupos sobre cómo implementarlas de manera más amplia.