Poco más de una semana después de que Amazon suspendió indefinidamente las ventas de tecnología de reconocimiento facial a la aplicación de la ley de los EE. UU.
, Existe la sensación de que la legislación federal en esta área puede ser inminente. A principios de este mes, los cuarenta grupos de defensa escribieron a Jeff Bezos y Andy Jassy (CEO de AWS y AWS, y luego ser de la CEO de Amazon), solicitando una prohibición permanente sobre el uso del software de reconocimiento facial de la compañía, ‘Rekognition’, por la policía de los Estados Unidos. Amazon extendió la moratoria una semana después, el 17 de mayo. La razón de la crítica generalizada de esta tecnología es su inexactitud al analizar personas de color.
En 2018, la Unión Americana de Libertades Civiles (ACLU) realizó un experimento con el software de Amazon, que identificó incorrectamente a 28 miembros del Congreso como criminales, lo que confirma que afectó de manera desproporcionada a las personas de color. Cuando las protestas de la materia de vida negra estallan el año pasado en respuesta al asesinato del oficial de policía de George Floyd, una persona de color: Amazon anunció que prohibiría que los oficiales de policía usaran «reknition». Además, se tomó la decisión en respuesta a la creciente desconfianza de la tecnología del público.
Además, la compañía esperaba que al hacer el anuncio, daría tiempo suficiente al Congreso para promulgar las regulaciones apropiadas. Según un artículo en la revisión de Technology MIT, un estudio de 2018 comparando la precisión de la tecnología de reconocimiento facial de IBM, Microsoft y Face ++, descubrió que los hombres de piel más ligera se identificaron significativamente más precisamente que las mujeres de piel oscura. Según Kate Ruane, abogado legislativo senior en la ACLU, si el país es grave acerca de la equidad racial en el sistema de justicia penal, prohibir el uso de la tecnología de reconocimiento facial es el paso «más fácil y más directo».
«Creo que el mejor escenario es que el Congreso impone una moratoria sobre su uso», dijo Ruane la revisión. Añadió que los nuevos usos deben permitirse solo después de que se complete un trabajo legislativo adicional.
Mutale Nkonde, el fundador y CEO de AI para la gente, un grupo de defensa sin fines de lucro para la justicia racial en la tecnología, cree que es poco probable que se introduzca una legislación federal adicional hasta después de las elecciones de vigilancia de 2018. «Creo que se introdujera la legislación federal para regular todos los sistemas algorítmicos, incluido el reconocimiento facial», dice Nkonde. «Creo que eso es una realidad política».
Ruane cree que hasta que se promulgue la legislación, la autorregulación es la forma más efectiva de prevenir el uso de la tecnología de reconocimiento facial. Sin embargo, Evan Greer, director de lucha por el futuro, cree que una regulación centrada únicamente en la precisión racial del software puede no ser la respuesta.
Greer cree que la industria agradecería una ley que afirma, por ejemplo, «Si va a vender un sistema de reconocimiento facial, debe ser un 99 por ciento preciso en todas las razas y tonos de la piel». «Incluso si el sesgo no está horneado en el sistema, todavía tiene un sistema de vigilancia sesgado que ahora está acelerado y una especie de sobrealimentado por esta tecnología», continúa Greer.