Hilo de la Tecnología de reconocimiento facial

droblo

Administrator
IBM informó que ha decidido abandonar el negocio del reconocimiento facial porque le preocupa que dicha tecnología se utilice para la vigilancia de masas y el encasillamiento racial.



Las actuales protestas por la muerte de George Floyd han despertado una consideración más amplia sobre la injusticia racial y una revisión al uso de la tecnología policial para rastrear a manifestantes y vigilar vecindarios en Estados Unidos.



IBM es una de varias grandes firmas tecnológicas que habían buscado mejorar la precisión de su software de reconocimiento facial debido a que en investigaciones se le han encontrado disparidades raciales y de género, Sin embargo, el nuevo director general de la compañía, Arvind Krishna, se ha preguntado si esa tecnología debe ser utilizada por la policía.




“Creemos que es hora de comenzar un diálogo nacional en torno a si la tecnología de reconocimiento facial debe ser utilizada y de qué manera por parte de las agencias policiales del país”, escribió Krishna en una carta dirigida el lunes a legisladores federales.



Es poco probable que la decisión de IBM de suspender el desarrollo y venta de software de reconocimiento facial afecte sus resultados, porque la empresa se ha concentrado más en la computación en nube mientras varias firmas menos conocidas han acaparado los contratos gubernamentales para reconocimiento facial.



“Sin embargo, la naturaleza simbólica de esto es importante”, dijo Mutale Nkone, investigadora en las universidades de Harvard y Stanford que dirige la organización sin fines de lucro AI For the People (Inteligencia Artificial para el Pueblo).



Nkonde dijo que la decisión de IBM de dejar de hacer un negocio “bajo el cariz de fomentar prácticas empresariales antirracistas” muestra que es posible hacerlo y vuelve “socialmente inaceptable que las compañías tuiteen Black Lives Matter mientras hacen contratos con la policía”.



La carta de Krishna estaba dirigida a un grupo de demócratas que han estado trabajando en el Congreso en una iniciativa de reforma policial tras las protestas multitudinarias por la muerte de Floyd. Dicha reforma podría incluir restricciones al uso de tecnología de reconocimiento facial por parte de la policía.



La práctica de utilizar una forma de inteligencia artificial para identificar a individuos en una base de datos de fotografías o en videos está bajo un mayor escrutinio después de que investigadores encontraran disparidades raciales y de género en los sistemas construidos por compañías como IBM, Microsoft y Amazon.

ADVERTISEMENT




IBM había probado antes su software de reconocimiento facial con el Departamento de Policía de Nueva York, aunque éste ha utilizado en fecha más reciente la tecnología de otros proveedores. Se desconoce si IBM tiene contratos con otras agencias del gobierno.



Muchas agencias policiales de Estados Unidos utilizan el software de reconocimiento facial desarrollado por compañías menos conocidas, como NEC, con sede en Tokio, y las firmas europeas Idemia y Cognitec, según Clare Garvie, investigadora del Centro sobre Privacidad y Tecnología de la Universidad de Georgetown.



Un número menor se ha asociado con Amazon, que ha captado el mayor rechazo de los defensores de la privacidad desde que sacó a la venta su software Rekognition en 2016.



La carta de Krishna se pronuncia a favor de reformas policiales y subraya que “IBM se opone con firmeza y no condonará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, la etiquetación racial” y violaciones a los derechos humanos.



Activistas de las libertades civiles han manifestado temor en las últimas semanas de que se esté utilizando la tecnología de vigilancia para monitorear las protestas o hacer efectivas las normas para contener la pandemia de coronavirus.



Incluso desde antes de las manifestaciones, senadores federales ya tenían bajo la lupa a la empresa de reconocimiento facial Clearview, con sede en Nueva York, tras la publicación de diversos artículos de investigación sobre la práctica de la firma de compilar miles de millones de fotografías de las redes sociales y otros servicios de internet para identificar a personas.
 

droblo

Administrator
Amazon prohibió el miércoles que la policía utilice su programa de reconocimiento facial durante un año, a fin de darle al Congreso tiempo para regular dicha tecnología, informó la compañía el miércoles.



La compañía con sede en Seattle no explicó los motivos por los que tomó la decisión ahora. Las actuales protestas tras la muerte de George Floyd han centrado la atención en la injusticia racial en Estados Unidos y la manera como la policía utiliza la tecnología para rastrear a las personas. Floyd falleció el 25 de mayo después de que un policía de raza blanca de Minneapolis lo inmovilizó colocándole la rodilla sobre el cuello durante varios minutos.




El martes, IBM informó que se retiraría del negocio del reconocimiento facial y destacó las preocupaciones sobre el uso de esta tecnología para la vigilancia masiva y el encasillamiento racial.



Grupos defensores de los derechos civiles y los mismos empleados de Amazon han exhortado a la compañía a dejar de vender su tecnología, llamada Rekognition, a las agencias del gobierno, argumentando que podría utilizarse para invadir la privacidad de las personas y perjudicar a las minorías.



En un blog publicado el miércoles, Amazon dijo que esperaba que el Congreso implementara regulaciones más sólidas para el uso de la tecnología de reconocimiento facial.



“La decisión de Amazon es un importante paso simbólico, pero realmente no cambia el panorama del reconocimiento en Estados Unidos debido a que no es una de las principales figuras”, dijo Clare Garvie, investigadora del Centro de Privacidad y Tecnología de la Universidad de Georgetown. Su investigación de registros públicos reveló que únicamente hay dos agencias en el país que utilizan o llevan a cabo pruebas con el sistema Rekognition.



El Departamento de Policía del condado de Washington, en Oregon, ha discutido abiertamente su uso. El departamento de policía de Orlando lo puso a prueba, pero eligió no implementarlo, añadió Garvie.



Estudios encabezados por la investigadora Joy Buolamwini revelaron disparidades raciales y de género en el software de reconocimiento facial. Dichos hallazgos llevaron a Microsoft y a IBM a implementar mejoras en sus sistemas, pero incomodaron a Amazon, que el año pasado criticó abiertamente los métodos de la investigación. Un grupo de expertos en inteligencia artificial, incluyendo al ganador del máximo galardón en ciencias computacionales, defendió el año pasado la labor de Buolamwini e instó a Amazon a dejar de vender su software de reconocimiento facial a la policía.




El miércoles, Buolamwini señaló que el anunció de Amazon era una “noticia bienvenida, aunque inesperada”.



“Microsoft también necesita tomar una posición”, escribió Buolamwini en un email. “Más importante aún, nuestros legisladores necesitan hacer algo” para controlar el uso perjudicial de las tecnologías.



Amazon ha generado una atención desproporcionada desde que presentó Rekognition en 2016 y comenzó a promoverlo entre los cuerpos policiales. Muchas agencias federales emplean la tecnología de reconocimiento facial desarrollada por empresas poco conocidas, como NEC — con sede en Tokio_, y las europeas Cognited e Idemia, puntualizó Garvie.



Amazon indicó que aún permitirá el uso de su tecnología a organizaciones como el Centro Internacional para Niños Desaparecidos y Explotados.
 

droblo

Administrator
El presidente y asesor legal de Microsoft, Brad Smith, anunció la decisión y llamó al Congreso a regular la tecnología, durante una entrevista en video con el Washington Post el jueves.



“Hemos decidido que no vamos a venderle tecnología de reconocimiento facial a departamentos de policía en Estados Unidos hasta que haya una ley nacional sustentada en los derechos humanos que gobierne esa tecnología”, dijo Smith.




Los sistemas de reconocimiento facial habían sido criticados por identificar incorrectamente a personas con piel oscura. Las protestas actuales tras la muerte de George Floyd a manos de la policía centraron la atención en la injusticia racial en Estados Unidos y cómo la policía usa la tecnología para rastrear a personas.



Pero aunque las tres compañías son conocidas por su trabajo en el desarrollo de inteligencia artificial, incluyendo el software de reconocimiento facial, ninguna de ellas tiene un papel grande en la venta de esa tecnología a la policía. Smith dijo el jueves que Microsoft actualmente no le vende su tecnología a ningún departamento de policía en Estados Unidos. No dijo si eso incluye las agencias federales de seguridad pública ni si provee la tecnología a fuerzas policiales en otros países.



Varias otras compañías que son menos conocidas dominan el mercado para contratos gubernamentales de reconocimiento facial en Estados Unidos, incluyendo la japonesa NEC y las firmas europeas Idemia y Gemalto.



Microsoft, Amazon e IBM exhortaron al Congreso a establecer reglas nacionales sobre cómo la policía puede usar el reconocimiento facial, algo que ahora es ponderado como parte de un paquete de reformas policiales motivado por las protestas por la muerte de Floyd.



“Si todas las compañías responsables en el país ceden este mercado a aquellas que no están preparadas para tomar una posición, no vamos a servir bien a los intereses o las vidas de las personas negras de esta nación”, dijo Smith. “Necesitamos que el Congreso intervenga, no solamente las compañías tecnológicas”.



Microsoft se ha pasado dos años advirtiendo sobre los peligros potenciales de que la tecnología de reconocimiento facial sea usada para facilitar una vigilancia masiva opresiva, pero la compañía se ha opuesto a las prohibiciones totales de su uso por parte del gobierno de San Francisco y otras ciudades. Eso ha llevado a críticas de la Unión Americana de Libertades Civiles (ACLU), que dice que Microsoft cabildea en favor de regulaciones débiles que pudieran legitimar y expandir el uso policial de la tecnología.





“El Congreso y las legislaturas en todo el país deben frenar rápidamente el uso del reconocimiento facial por agencias del orden, y compañías como Microsoft deberían trabajar con la comunidad de derechos civiles — no contra la misma — para hacer que eso suceda”, dijo Matt Cagle, un abogado de la ACLU en California, en una declaración el jueves.
 
Arriba