Os algoritmos de inteligência artificial que ameaçam os direitos humanos devem ser proibidos, até que sejam incluídas as salvaguardas necessárias para o uso seguro desses programas. Essa é a opinião da Alta Comissária das Nações Unidas para os Direitos Humanos, Michelle Bachelet.
No informe divulgado em setembro deste ano, Bachelet argumenta que essas tecnologias podem conduzir a decisões discriminatórias, com risco maior para as populações já marginalizadas, podendo afetar, por exemplo, quem recebe um serviço público, quem terá uma oportunidade de emprego e até quem será preso.
No Brasil, o projeto de lei que regulamenta a inteligência artificial está em regime de urgência na Câmara dos Deputados. O texto traz como princípios da tecnologia: o respeito à dignidade humana, a não discriminação e a transparência sobre o funcionamento dos algoritmos, salvo quando se tratar de segredos comerciais e industriais.
Para o professor do Instituto de Informática da Universidade Federal do Rio Grande do Sul, Edson Prestes, é preciso definir ainda as responsabilidades em casos de falhas nos sistemas.
A legislação deve proibir ou limitar certas práticas identificadas como de alto risco, opina o professor do Departamento de Ciência da Computação da Universidade Federal de Minas Gerais, Virgílio Almeida.
Uma das aplicações de inteligência artificial considerada de alto risco é o reconhecimento facial em espaços públicos, como destacou a coordenadora de Inteligência Artificial do Laboratório de Políticas Públicas e Internet, Ingrid Soares.
Casos de pessoas presas por engano devido a erros no sistema de reconhecimento facial têm se repetido nos Estados Unidos e inclusive no Brasil. O informe da Alta Comissária da ONU para os Direitos Humanos recomenda que o uso dessas ferramentas em espaços públicos seja proibido até que as autoridades demonstrem que não existem efeitos discriminatórios.
Clique aqui e confira as demais reportagens da série
*Com produção de Michele Moreira e sonoplastia José Maria Pardal
