Esta semana fomos presenteados com uma verdadeira atração carnavalesca, com Mark Zuckerberg, CEO de uma das maiores empresas de tecnologia do mundo, testemunhando perante os comitês do Senado sobre as questões de privacidade relacionadas à manipulação de dados de usuários pelo Facebook. Além de destacar o fato de que a maioria dos senadores dos Estados Unidos - e a maioria das pessoas - não entende o modelo de negócios do Facebook ou o contrato de usuário que eles já consentiram usando o Facebook, o espetáculo deixou um fato claro: Zuckerberg pretende usar a inteligência artificial para gerenciar a censura do discurso do ódio em sua plataforma.


Durante os dois dias de depoimento, o plano de usar a IA algorítmica para possíveis práticas de censura foi discutido várias vezes sob os auspícios de conter discursos de ódio, notícias falsas, interferência eleitoral, anúncios discriminatórios e mensagens terroristas. De fato, a IA foi mencionada pelo menos 30 vezes. Zuckerberg afirmou que o Facebook está a cinco ou dez anos de uma robusta plataforma de inteligência artificial. Todos os outros quatro grandes conglomerados de tecnologia - Google, Amazon, Apple e Microsoft - também estão desenvolvendo IA, muitos para fins compartilhados de controle de conteúdo.

Por razões óbvias, isso deve preocupar ativistas das liberdades civis e qualquer um preocupado com a erosão dos direitos de primeira emenda online. O espectro intrigante de uma aliança de propaganda do governo corporativo não é uma teoria da conspiração. Há pouco mais de um mês, o Facebook, o Google e o Twitter testemunharam perante o Congresso para anunciar o lançamento de uma campanha "counterspeech" (contradiscurso) na qual mensagens positivas e moderadas serão direcionadas a pessoas que consomem e produzem conteúdo extremista ou radical.

Como as outras grandes redes sociais, o Facebook já foi atacado por acusações de censura contra fontes de notícias conservadoras e alternativas. A Electronic Frontier Foundation (EFF) destacou  alguns outros exemplos da “censura excessivamente zelosa” da empresa apenas no ano passado:

Jornalistas de alto perfil na Palestina, no Vietnã e no Egito encontraram um aumento significativo nas remoções de conteúdo e suspensões de contas, com poucas explicações oferecidas além de uma carta genérica dos padrões da comunidade. O  discurso civil sobre racismo e assédio é frequentemente rotulado como "discurso de ódio" e censurado. Relatos de violações de direitos humanos na Síria e contra muçulmanos Rohingya em Mianmar, por exemplo, foram removidos - apesar do fato de que isso é conteúdo essencial do jornalista em relação a assuntos de interesse público global significativo.

Leia também: [Censura] Youtube Proíbe Vídeo de Preparação para Pandemias que Ensina as Pessoas a Sobreviver a um Surto Mortal

O Facebook agora acredita que a IA será a resposta para todos os seus problemas. “Começamos no meu dormitório com poucos recursos e sem a tecnologia da inteligência artificial para identificar proativamente muitas dessas coisas”, disse Zuckerberg durante seu depoimento. “A longo prazo, construir ferramentas de inteligência artificial será a maneira escalável de identificar e erradicar a maior parte desse conteúdo prejudicial.”

Para ser claro, a IA já está trabalhando no Facebook. "Hoje, enquanto nos sentamos aqui, 99% do conteúdo do ISIS e da al-Qaeda que derrubamos no Facebook, nossos sistemas de inteligência artificial são sinalizados antes que qualquer ser humano o veja",  disse Zuckerberg.

Mas ele admite que as nuances linguísticas do discurso do ódio serão um dos problemas mais espinhosos para a IA.

Será possível que os "guardiões de informações", como o Facebook e o Google, usem a IA para regulamentar o conteúdo sem praticar a censura? Como observa a EFF, “o software de tomada de decisão tende a refletir os preconceitos de seus criadores e, é claro, os vieses embutidos em seus dados”.

É claro que, em uma época em que o governo americano parece cada vez mais uma corporatocracia com uma porta giratória entre o Vale do Silício e o Departamento de Estado, uma discussão sobre censura corporativa invariavelmente inclui um reconhecimento da propaganda do governo, que foi oficialmente legalizada em 2012 sob o NDAA de Obama. É realista para nós não esperarmos uma sobreposição entre o que o governo quer que acreditemos e o que as corporações permitem como liberdade de expressão?

Em um ponto durante seu depoimento, um senador perguntou a Zuckerberg se ele acha que o Facebook é mais confiável com os dados do usuário do que o governo. Depois de uma longa pausa, Zuckerberg respondeu: "Sim". Este momento foi completamente negligenciado, mas Zuckerberg essencialmente confirmou em uma palavra que, apesar de toda a conversa sobre violações de privacidade, ele ainda acredita que o governo é pior na questão da privacidade. E depois de tudo revelado a nós por Edward Snowden e WikiLeaks, ele está errado?

Mais importante, já que a IA abrigará os vieses e valores da entidade que a cria, por que assumiríamos que a IA tornará os humanos mais seguros? A IA (pelo menos IA precoce) fará o lance de seu criador. Embora o aprendizado da máquina possa ser o futuro árbitro da liberdade de expressão, serão os programadores corporativos e governamentais que determinam seus protocolos. E como já sabemos, os direitos dos cidadãos e os direitos dos tecnocratas não são os mesmos.

Leia mais:


CENSURA: Youtube Começa a "Corrigir" Vídeos sobre Teoria da Conspiração






Facebook Analisa as Fotos e Links que Você Envia no Messenger






Elon Musk Excluiu Todas as Contas do Facebook, Enquanto a Hashtag #deletefacebook Explode no Mundo Todo
Fontes:
- Activist Post: Zuckerberg Admits He’s Developing Artificial Intelligence to Censor Content
- The Washington Post: AI will solve Facebook’s most vexing problems, Mark Zuckerberg says. Just don’t ask when or how.