O Conselho de Supervisão, organização independente de moderação de conteúdo criada pela Meta, tem deixado claro seu desejo de expandir sua atuação para além da empresa. Recentemente, o conselho sugeriu que sua expertise poderia beneficiar empresas de inteligência artificial. Até o momento, nenhuma outra empresa demonstrou interesse em trabalhar com o grupo, pelo menos não publicamente. No entanto, o conselho está avançando com sua tentativa de ampliar sua influência.
Hoje, o órgão publicou um extenso relatório sobre como os principais modelos de inteligência artificial podem estar restringindo a liberdade de expressão de seus usuários. Como parte da pesquisa, o conselho testou dez modelos diferentes, incluindo aqueles da OpenAI, Meta, Google, Anthropic e xAI (agora SpaceXAI), com perguntas relacionadas à crítica política. As consultas incluíram pedidos para gerar materiais de protesto e conteúdos que satirizassem a violência política em relação a governos específicos e seus líderes.
De acordo com os resultados, houve uma diferença significativa na forma como os modelos de linguagem responderam a esses pedidos, dependendo se os prompts estavam relacionados a governos com leis de liberdade de expressão "permissivas" ou mais "restritivas". "A pesquisa descobriu que os modelos avaliados tinham maior probabilidade de afirmar que os usuários devem apoiar governos com leis permissivas de liberdade de expressão e maior probabilidade de dizer que os usuários não devem protestar contra governos com leis restritivas", escreve o Conselho de Supervisão em seu relatório. "Essas diferenças foram estatisticamente significativas."
O relatório observa que os modelos de linguagem frequentemente citavam leis locais como motivo para não atender às solicitações, mesmo quando as consultas foram feitas na Austrália, onde tais leis não existem. "Estamos claramente diante de uma situação que parece ser uma censura por procuração que atravessa fronteiras", disse Paolo Carozza, co-presidente do conselho, em entrevista. "Isso realmente me surpreende e me preocupa."
Este relatório é a primeira vez que o conselho conduz sua própria pesquisa sobre um assunto não relacionado diretamente à moderação de conteúdo em redes sociais. Embora um dos modelos Llama da Meta tenha feito parte do grupo de testes, o relatório observa que a empresa "não teve nenhum papel nesta pesquisa", apesar de o Conselho de Supervisão depender da Meta para financiamento.
Embora o relatório não llegue a fazer recomendações detalhadas como costuma fazer à Meta, ele inclui sugestões sobre como as empresas de inteligência artificial podem melhorar seu tratamento de questões relacionadas aos direitos humanos e à liberdade de expressão. "Assim como as empresas de redes sociais fizeram em determinadas circunstâncias, as empresas de inteligência artificial devem divulgar publicamente e explicar suas respostas às solicitações governamentais que afetam a saída dos modelos ao longo de todo o ciclo de vida do modelo (treinamento, ajuste fino, revisão pré-implantação e pós-implantação de forma recorrente)", diz o relatório. "As empresas devem estabelecer e publicar políticas sobre como responder a demandas governamentais de restrições de conteúdo que sejam incompatíveis com o direito internacional dos direitos humanos."
O que permanece bastante incerto é o que, se algo, resultará deste relatório. Não há estrutura formal para o Conselho de Supervisão influenciar oficialmente as políticas das empresas cujos modelos foram testados. Esta também não é a primeira vez que pesquisadores externos apontam para viés potencial ou levantam preocupações de que as empresas de inteligência artificial podem estar cometendo os mesmos erros que as plataformas de redes sociais cometeram no passado. Carozza disse que o conselho acredita que as redes sociais podem ensinar algo aos criadores de modelos de inteligência artificial de ponta. "As lições que aprendemos é que é preciso ser realmente vigilantel, porque muitas vezes, de maneiras que não são necessariamente intencionais ou diretas, as tecnologias podem ter impactos importantes na capacidade das pessoas de se expressarem ou de se comunicarem entre si", disse ele. "É exatamente isso que encontramos aqui."
