Como regular os usos de alto risco da biometria em sistemas de IA

Sala / Room 822

• Laura Schertel Mendes, CEDIS/IDP;
• Flora Sartorelli, Instituto Brasileiro de Ciências Criminais – IBCCRIM;
• Luã Cruz, IDEC;
• Daniel Leufer, Senior Policy Analyst, Access Now;
• Olga Camacho, Dejusticia.

• Tanto para o GDPR como para a LGPD os dados biométricos são dados sensíveis. Isso porque eles são permanentemente vinculados às nossas identidades, têm o potencial de erradicar nosso anonimato em qualquer espaço e uma vez hackeados, nunca poderão ser redefinidos. Alguns usos desses dados sensíveis em sistemas de identificação biométrica remota (RBI) como em espaços de acesso público; categorização biométrica com base em características protegidas ou quando realizada em espaços de acesso público ou em espaços de prestação de serviços essenciais por exemplo ou o reconhecimento de emoções por esses sistemas podem infringir direitos fundamentais das pessoas de tal forma que nenhuma salvaguarda pode tornar seu uso aceitável em uma sociedade democrática e respeitadora do estado de direito.
• A ubiquidade de sistemas de RBI, isto é, sua capacidade de estar em todo lugar é um dos fatores enfatizados, para demonstrar que os benefícios não chegam perto de superar os riscos. A preocupação sobre esses usos da tecnologia é manifestada em todos os setores da sociedade: seja a sociedade civil organizada, ONGs, acadêmicos e ativistas sobre o tema, como também legisladores e autoridades de todo o mundo. Os principais argumentos dos perigos de uso dessa tecnologia para a vigilância massiva também levam a levam a constatação das imprecisões e vieses verificados no emprego dela. Soma-se a isso o fato que essas tecnologias têm se tornado cada dia mais baratas e acessíveis levando muitas autoridades publicas e empresas privadas a começarem a usar, testar ou planejar o uso de tecnologias de reconhecimento facial em todo o mundo.
• No Brasil o uso massivo dessa tecnologia em políticas publicas avançam praticamente alheias a qualquer regulação. Estudam identificaram o crescente uso dessa tecnologia pelo poder publico, nos setores da educação, transporte, controle de fronteiras e segurança publica. Está em curso a criação de um banco de dados unificado, sob a gestão da Polícia Federal, de um grande banco de dados de identificação biométrica, da totalidade da população. Há também o Projeto Panóptico do CESeC que elaborou um monitor das inciativas de reconhecimento facial no Brasil. Tudo isso reforça a necessidade da adoção de parâmetros éticos e regulatórios para impedir a adoção de sistemas biométricos incompatíveis com as garantias das liberdades publicas e direitos fundamentais e trazer salvaguardas e medidas de mitigação de risco em casos de seu uso excepcional.