Uma república de príncipes – análise sobre tecnologia não regulamentada
Marianna Poyares trabalha com a intersecção de tecnologia, ética e direitos humanos. Atualmente, ela é Fritz Fellow no Center on Privacy and Technology de Georgetown. Este artigo foi escrito para a edição 144 do boletim semanal do WBO em 22 de novembro de 2024. Para assinar o boletim e recebê-lo gratuitamente, insira seu e-mail no campo indicado.
Meses atrás, o Judiciário brasileiro impôs a Elon Musk o que parecia ser uma derrota pessoal – a plataforma X foi obrigada a fechar várias contas identificadas como superpropagadoras de desinformação, numa investigação federal realizada no contexto do combate à desinformação eleitoral no Brasil.
De acordo com o Marco Regulatório da Internet do Brasil, as plataformas de mídia social devem realizar moderação de conteúdo e são responsabilizadas se falharem nessa função.
Musk partiu então para uma cruzada de desmoralização do juiz Alexandre de Morais por meio da mesma plataforma, chamando-o de comunista, cão de guarda de Lula, e enfatizando que o juiz estava, na verdade, coibindo a dissidência e colocando em risco a liberdade de expressão no Brasil.
A recusa de Musk em suspender as contas colocou o X em rota de colisão com as regulamentações brasileiras, e a plataforma foi fechada em agosto de 2024. Depois de mais algumas semanas de discursos para uma plateia vazia e seguindo a pressão dos acionistas da X que de repente perderam um de seus principais mercados, Musk permitiu que a empresa fizesse as mudanças necessárias para cumprir as regulamentações brasileiras. O resultado foi anunciado como uma vitória do Governo Brasileiro, mas eu não poderia discordar mais dessa avaliação. Para mim, tratou-se da vitória de uma regulamentação democraticamente constituída sobre as regras impostas por um príncipe.
A nomeação de Musk, ao lado de Vivek Ramaswamy, como chefe do Departamento de Eficiência Governamental dos EUA, não foi nenhuma surpresa. Ela gerou uma apreensão geral da captura do governo americano e do apagamento dos procedimentos e proteções existentes. Esta é uma preocupação particularmente grave, considerando que o novo governo Trump herdará de Joe Biden a maior rede de vigilância com tecnologia já colocada à disposição da Segurança Interna.
Nos últimos anos, o governo Biden assumiu a tarefa de dar um passo atrás em políticas impopulares, como contratos com empreiteiros privados para fornecer vagas de detenção para encarceramento de imigrantes. Em vez disso, o governo Biden decidiu transformar o Departamento de Segurança Interna em uma agência com muita tecnologia. Tanto que os maiores contratos recentemente estabelecidos entre o DHS, o Departamento de Segurança Doméstica dos EUA, e empreendimentos privados são para análise de dados, corretagem de dados e software e hardware de vigilância. Por exemplo, enquanto o número de centros de detenção de imigrantes foi reduzido, o programa “Alternativas à Detenção” do Immigration and Customs Enforcement, sob o qual imigrantes com processos judiciais pendentes (incluindo requerentes de asilo) são colocados sob vigilância permanente por meio do uso de tornozeleiras ou aplicativos de smartphone, saltou de cerca de 40.000 sob Trump I, para agora 200.000 sob Biden e supostamente. E mais: com base numa recente Solicitação de Informações emitida recentemente pelo Governo Federal, sabe-se que o programa será expandido para até 3 milhões de usuários. Da mesma forma, o DHS assinou recentemente um contrato de US$ 2 milhões com a empresa israelense Paragon para adquirir um spyware capaz de ler mensagens criptografadas enviadas por meio de aplicativos de smartphone como o Signal.
Sob o pretexto de segurança nacional, não está claro quem poderia ser alvo dessas tecnologias: potencialmente qualquer pessoa caracterizada como uma ameaça à segurança pública ou nacional.
A crença do público de que certas capacidades de vigilância exercidas pelo governo visam exclusivamente não cidadãos foi provada falsa em várias ocasiões. Tecnologias como reconhecimento facial biométrico ou mesmo mineração de dados são executadas em plataformas que contêm dados privados e sensíveis de imigrantes e cidadãos, como mostra o relatório American Dragnet do Centro de Privacidade e Tecnologia de Georgetown. A infraestrutura de vigilância do DHS cresceu enormemente com pouca supervisão, controles democráticos adequados ou regulamentação, principalmente porque parece ser um aparato que não seria aplicado a cidadãos — ou pelo menos não a cidadãos “bons”. “Eu não.”
Como o outdoor America/Me, de Glenn Lingon, visível do High Line de Nova York, preocupações com perda de liberdade ou mesmo perseguição parecem se dissipar rapidamente quando confiança suficiente é depositada na crença de que alguém não é o alvo pretendido.
Parece que a confiança, seja em autoridades específicas, figuras públicas ou mesmo nos privilégios relativos de alguém, substituiu conversas sobre proteções democráticas, regulamentações e salvaguardas em geral.
No entanto, não é apenas a confiança na boa-fé de autoridades eleitas que nos leva aonde estamos agora. Em vez disso, é a união entre duas indústrias que escaparam do escrutínio público por muito tempo – a saber, segurança nacional e big tech. Houve pouco esforço para criar mandatos claros, instrumentos de supervisão democrática e sistemas de responsabilização e responsabilidade para agências federais e empresas de tecnologia. Na verdade, a tecnologia desfruta da opacidade fornecida pela ideologia generalizada de objetividade autoproclamada e análise imparcial. Há muito pouca transparência sobre parâmetros, sistemas de captura e quantificação, marcadores de dados e algoritmos. E quase não há responsabilização por sua suposta eficácia e precisão. Uma república governada por tecnologia não regulamentada é como uma república de príncipes e, como Maquiavel não nos deixaria esquecer, para príncipes, é melhor ser temido do que odiado.
