Ficou óbvio em todas as Notícias dos Famosos, exceto aparentemente para o Facebook, que nem todo engajamento é um bom engajamento. A empresa sabe que suas recomendações automatizadas contribuem significativamente para a divisão crescente e o extremismo nos Estados Unidos, mas seu foco singular em maximizar o envolvimento do usuário significa que eles provavelmente não farão nada a respeito, exceto nas bordas. Entre no novo Facebook Oversight Board. No mês passado, o Facebook expandiu o escopo muito limitado do conselho para permitir que ele avalie as decisões de deixar conteúdo que potencialmente viole as diretrizes da comunidade.

Terei mais a dizer sobre o conselho em breve. Mas, primeiro, vale a pena ler o artigo recente de Karen Hao na MIT Technology Review e o artigo de Julia Carrie Wong no The Guardian para entender as tensões internas no Entretenimento. Lembre-se de que o Facebook é uma empresa de publicidade com fins lucrativos. Seu principal produto é a atenção humana que vendem para outras empresas. Obter essa atenção significa manter os usuários engajados e, em uma extensão cada vez maior, as recomendações de IA baseadas em modelos multidimensionais sofisticados são sua ferramenta preferida para captar e direcionar essa atenção.

A Toxicidade da IA

Na verdade, os pesquisadores de Famosos antes e depois desenvolvem muitos tipos diferentes de modelos de IA para diversos fins. Por exemplo, alguns modelos podem ajustar como as postagens são priorizadas nos feeds dos usuários, enquanto outros podem procurar violações aos padrões da comunidade do Facebook. Independentemente dos objetivos de um modelo, em todos os casos ele é medido por seu impacto no envolvimento do usuário. Modelos que diminuem as pessoas

O engajamento quase sempre é morto e aqueles que o aumentam são altamente favorecidos. Mas, como Hao explica em seu artigo, “Os modelos que maximizam o engajamento também favorecem a controvérsia, a desinformação e o extremismo: em poucas palavras, as pessoas simplesmente gostam de coisas ultrajantes. Às vezes, isso inflama as tensões políticas existentes. ” O artigo de Wong mostra o escopo e a escala dos danos dessas tensões, que estão sendo transformadas em armas por maus atores exatamente para esse fim.

Notícias dos Famosos, Entretenimento, Famosos antes e depois, Como Fazer, Fofocas

Portanto, fazer cócegas em nossas amígdalas é muito bom para os negócios, mas seriamente ruim para o mundo. O artigo de Hao cobre os detalhes do desenvolvimento de tecnologia no Facebook, um processo que, sem querer, parece produzir algoritmos rivais. A postagem de conteúdo prejudicial dá início a uma espécie de corrida louca entre os modelos de filtragem que consideram o bloqueio e os modelos de engajamento do usuário que desejam promovê-lo. Se o modelo de filtragem for aprovado, o próximo modelo provavelmente o recomendará Como Fazer a alguém. Claro, se não houvesse conteúdo tóxico na plataforma, os modelos de recomendação do Facebook não seriam tão prejudiciais ao tecido social. Acredite em mim quando digo que estou dizendo isso não para desculpar o desrespeito covarde pela ética que permite que isso continue, mas para apontar que o maior problema do Facebook é a quantidade prodigiosa de discurso de ódio, abuso e desinformação postada em seu plataforma, bem como os danos resultantes para os usuários do Facebook e o mundo em geral.

O Conselho de Supervisão Não Reina Supremo

Com um conhecimento superficial do novo Oversight Board, você pode pensar que ele foi projetado para ajudar a resolver exatamente esse problema. Você estaria errado. Embora possa, na verdade, fornecer algum benefício real, mas muito limitado para os usuários do Facebook, o conselho não é uma “Suprema Corte” do Facebook, embora seja frequentemente assimilado. Essa comparação sugere um tribunal superior com enorme poder discricionário que pode fazer julgamentos finais sobre as políticas ou anular as decisões feitas pelos “tribunais inferiores”, ou seja, cerca de quinze mil moderadores de conteúdo do Facebook. Este conselho especificamente não estabelece políticas e suas decisões não estabelecem precedentes. Até a mudança do mês passado, seu mandato era exatamente uma coisa – considere os recursos de pessoas que se opõem à remoção de suas postagens. Desde o mês passado, o conselho também ouvirá apelos de pessoas que acreditam que o conteúdo deve ser removido depois que os moderadores do Facebook decidiram que ele deveria permanecer ativo.

O Facebook informou que a cada dia cerca de duzentos mil posts de Fofocas podem ser apelados. Quando estiver totalmente equipado, o Conselho de Supervisão terá quarenta membros. Os casos são considerados por painéis de cinco pessoas, cujas decisões são então ratificadas por todo o conselho. Entre seu lançamento no ano passado e seus primeiros anúncios em janeiro de 2021, o conselho relatou suas decisões em cinco casos. Podemos supor que o número aumentará um pouco à medida que eles encontrarem seu encaixe, mas com base em meu próprio cálculo do fundo de um envelope imaginário, o número de recursos tratados pelo conselho é uma fração infinitesimal de todo o discurso suprimido que deveria foram deixados para cima ou o conteúdo tóxico que deveria ter sido removido.

Indiscutivelmente, o conselho pode tomar decisões sobre questões importantes de um ponto de vista mais neutro, considerado e transparente. O conselho é composto por pessoas sérias que, acredito, desejam fazer coisas boas. Mas, ao considerar um caso de cada vez, o objetivo claramente não é resolver os enormes desafios de conteúdo em toda a rede social. É ótimo que o conselho consiga consertar o punhado de casos que considera, mas o valor para a comunidade é baixo. O valor para o Facebook da empresa é muito mais claro.

Passando a Bola

Se você já conhece o conselho, provavelmente está ciente de que eles estão considerando o que pode acabar sendo uma de suas decisões mais importantes – a proibição de Donald Trump (eles devem anunciar seu “veredicto” hoje). O Facebook tomou a decisão de suspender sua conta após o ataque ao Capitólio dos EUA. Com a ameaça de mais violência, fazia sentido silenciar uma voz descomunal, propensa a incitar os piores instintos das pessoas. Agora que as coisas se acalmaram, no entanto, o Facebook precisa descobrir o que fazer com Donald Trump. Esse dilema é o exemplo perfeito do benefício que a empresa do Facebook obtém do conselho. O cancelamento do banimento de usuários banidos ocorre fora do âmbito normal do conselho. Entre outras coisas, ele não considera questões sobre publicidade política, algoritmos da empresa ou o banimento de usuários, a menos que essas questões sejam encaminhadas pelo Facebook para sua consideração. É um mecanismo conveniente para o Facebook passar perguntas extremamente carregadas e, como um pequeno bônus lateral, pode até ajudar a manter os reguladores afastados.

Em um país quase igualmente dividido, lidar com Donald Trump é uma situação sem saída para o Facebook. O Conselho de Supervisão faz com que esse problema desapareça para eles. Não é necessariamente uma coisa ruim que o Facebook tome certas decisões, mas destaca como a vantagem é para a empresa e não necessariamente para seus usuários. O valor do conselho é claramente o benefício de relações públicas que ele oferece ao Facebook.

Então, o que o conselho oferece a você como usuário do Facebook? Você pode apelar da decisão se sua postagem foi retirada pelos moderadores e se você está entre os poucos casos considerados “emblemáticos” ou sortudos o suficiente para ser considerado pelo conselho, você deve obter um julgamento justo de seu caso. Isso é mínimo, mas é importante. Após o ataque ao Capitólio dos EUA, as empresas de mídia social deram mostras de quanto poder exercem sobre a liberdade de expressão online. As tentativas de mitigar o potencial de tomada de decisão ad hoc e arbitrária são boas. E, de fato, dos cinco casos que o conselho ouviu até agora, eles reverteram as ações dos moderadores em quatro.

Notícias dos Famosos, Entretenimento, Famosos antes e depois, Como Fazer, Fofocas

Esperando por uma placa melhor

Parece que o Facebook está levando esse fórum a sério. Eles forneceram US $ 130 milhões a um fundo independente que gerencia o conselho e recrutaram membros sérios e confiáveis ​​de todo o mundo com experiência e seriedade suficiente para tomar decisões importantes sobre os direitos das pessoas. Os membros incluem um ex-primeiro-ministro e um ganhador do Nobel, por exemplo. Estas são pessoas inteligentes e atenciosas. As decisões do conselho devem ser vinculativas e eles podem até mesmo ignorar Mark Zuckerberg em questões dentro de seu escopo limitado.

Como mencionei, o primeiro lote de decisões foi lançado em janeiro passado. A taxa de reversão de quatro entre cinco parece sinalizar sua intenção de ser independente da empresa. Enquanto eles estão sendo criticados por suas decisões, estou encorajado por seu raciocínio. Em todos os casos, o contexto da mensagem foi um fator importante em suas decisões de reversão. Suas explicações indicam que este conselho prioriza a liberdade de expressão.

Em um exemplo, eles revisaram um caso lidando com desinformação na França relacionada à hidroxicloroquina como uma cura para COVID-19. Os moderadores do Facebook removeram a postagem por violar sua regra de desinformação e dano iminente. O conselho argumentou que, embora a postagem contivesse informações incorretas, danos iminentes eram improváveis, uma vez que a hidroxicloroquina está disponível apenas com receita médica. A opinião do painel era que o autor da postagem original, que estava criticando a agência francesa que regulamenta os produtos para a saúde, estava se opondo a uma política governamental com a ideia de mudar essa política. Nesse contexto, eles determinaram que o conteúdo é fala protegida. Acontece que eu discordo dessa decisão. Como já houve mortes devido a mal-entendidos sobre a hidroxicloroquina, na minha opinião este post atende ao padrão para o teste do Juiz Brandeis para discurso proibido que é ‘hostil ao bem-estar público’, mas agradeço o raciocínio bem pensado do painel, e sua inclinação para latitude em relação ao discurso político.

Ainda é cedo e, como acontece com a maioria das ideias nobres, o diabo está nos detalhes. Muitos dos detalhes ainda estão para ser vistos. O primeiro lote de decisões do conselho incluiu várias recomendações ao Facebook. Embora as decisões sobre recursos devam ser vinculativas, essas recomendações não o são. A mensagem do conselho foi clara, no entanto, que é necessário mais transparência e o devido processo para os usuários. Muito dependerá de como o Facebook se envolverá com as recomendações do conselho ao longo do tempo. Para ter algum impacto e benefício significativo para os usuários do Facebook e para o mundo em geral, o conselho terá que expandir sua influência e proteger agressivamente sua independência do Facebook.