A plataforma de design gráfico Canva emitiu um pedido de desculpas formal após uma de suas novas funcionalidades de inteligência artificial, o Magic Layers, ter sido flagrada substituindo automaticamente a palavra 'Palestina' em criações de usuários. A descoberta gerou repercussão e levantou questionamentos sobre o funcionamento e os vieses da tecnologia.
O Funcionamento Inesperado do Magic Layers
O Magic Layers é uma ferramenta projetada para aprimorar a edição de imagens, separando elementos planos em componentes individuais e editáveis. No entanto, em uma ocorrência inesperada, a funcionalidade demonstrou fazer alterações visíveis no conteúdo dos designs, algo que não deveria ocorrer. Um usuário da plataforma X (anteriormente Twitter), identificado como @ros_ie9, relatou que a frase 'cats for Palestine' (gatos pela Palestina) foi automaticamente convertida para 'cats for Ukraine' (gatos pela Ucrânia) ao utilizar o recurso.
Especificidade do Problema e Resposta da Empresa
A investigação do caso indicou que a falha parecia estar especificamente ligada à palavra 'Palestina'. Conforme observado por @ros_ie9, termos relacionados como 'Gaza' não apresentaram o mesmo comportamento, permanecendo inalterados pela ferramenta. Diante da situação, o Canva comunicou que já solucionou o problema e está implementando medidas para evitar que incidentes semelhantes ocorram no futuro, reforçando seu compromisso com a precisão e a imparcialidade de suas ferramentas.
Compromisso com a Correção e Prevenção Futura
Em resposta ao ocorrido, a empresa declarou: 'Tornou-se-nos ciente de um problema…'. A declaração sugere um reconhecimento da falha e um indicativo de que ações corretivas foram e continuam sendo tomadas. A agilidade na resolução e a promessa de reforçar os mecanismos de controle demonstram a preocupação da Canva em manter a confiança de seus usuários e a integridade de suas ferramentas de inteligência artificial.
Fonte: https://www.theverge.com
