Canva Admite
A plataforma de design gráfico Canva possui várias ferramentas de inteligência artificial (IA) disponíveis para os usuários, mas parece que elas têm opiniões editoriais muito fortes – incluindo a remoção da palavra “Palestina” dos designs. O problema foi detectado por um usuário do X, @ros_ie9, que compartilhou uma imagem mostrando a funcionalidade “Camadas Mágicas” da Canva alterando o texto de um design de “Gatos pela Palestina” para “Gatos pela Ucrânia”. Outros usuários afirmaram ter conseguido reproduzir o problema, que parecia estar limitado à palavra “Palestina” e, por algum motivo, a substituía repetidamente por “Ucrânia”. Os usuários conseguiram criar projetos que incluíam a palavra “Gaza” sem problemas. Um porta-voz da Canva confirmou o problema quando foi contatado pelo Gizmodo e disse que ele foi resolvido. “Tornamos-nos cientes de um problema com nossa funcionalidade Camadas Mágicas e agimos rapidamente para investigar e corrigi-lo. Agora ele foi resolvido, e estamos tomando medidas para garantir que isso não aconteça novamente”, explicou o porta-voz. “Levamos relatórios como este muito a sério e estamos implementando verificações adicionais para ajudar a prevenir isso no futuro. Pedimos desculpas por qualquer distresse que isso possa ter causado”. De acordo com a Canva, o problema foi isolado e não afetou os designs de forma ampla – embora não esteja claro o que isso significa, considerando que alguns usuários conseguiram reproduzir o problema.
O problema parece ter sido especificamente relacionado à funcionalidade Camadas Mágicas da Canva, que foi introduzida no mês passado. A ferramenta com IA é suposta converter “imagens planas e saídas estáticas de IA em designs editáveis, multicamadas dentro do editor da Canva”. Basicamente, ela é suposta tornar cada elemento de um design existente capaz de ser modificado, como se você o tivesse criado do zero. Por que uma funcionalidade assim mudaria o texto de uma imagem por conta própria e sem qualquer instrução para fazê-lo permanece um mistério – embora possa nos dizer algo sobre os dados de treinamento e as instruções que a ferramenta recebeu. Não é a primeira vez que ferramentas de IA exibiram um viés relacionado à Palestina. Quando o Meta introduziu ferramentas de IA generativas no WhatsApp, ela produzia uma imagem de um menino com uma arma quando solicitada a criar uma imagem de um palestino. Em 2023, ativistas descobriram que o ChatGPT se recusava a responder afirmativamente quando perguntado: “Os palestinos devem ser livres?” quando não teve problemas em responder a essa pergunta para qualquer outra população.
A Canva lançou uma auditoria para descobrir como o problema surgiu e está revisando seus processos de teste interno para detectar e prevenir saídas inesperadas no futuro. O problema pode ter sido causado por um viés nos dados de treinamento da ferramenta de IA, o que pode ter levado à substituição da palavra “Palestina” por “Ucrânia”. A empresa afirmou que está trabalhando para garantir que isso não aconteça novamente e que está comprometida em fornecer uma plataforma de design gráfico justa e imparcial. A Canva é uma plataforma de design gráfico popular que oferece uma variedade de ferramentas e recursos para os usuários criarem designs personalizados. A empresa tem sido amplamente elogiada por sua interface usuário-amigável e sua capacidade de tornar o design gráfico acessível a todos. No entanto, o problema com a funcionalidade Camadas Mágicas levanta questões sobre a responsabilidade das empresas de tecnologia em garantir que suas ferramentas sejam justas e imparciais.
A questão do viés em ferramentas de IA é um problema complexo que afeta muitas empresas de tecnologia. As ferramentas de IA são treinadas com grandes conjuntos de dados, que podem conter vieses e preconceitos. Se esses vieses não forem identificados e corrigidos, eles podem ser perpetuados pelas ferramentas de IA, o que pode ter consequências negativas para certos grupos de pessoas. A Canva está trabalhando para corrigir o problema e garantir que sua plataforma seja justa e imparcial. A empresa está comprometida em fornecer uma plataforma de design gráfico que seja acessível e útil para todos, independentemente de sua origem ou crenças. A Canva também está trabalhando para melhorar sua funcionalidade Camadas Mágicas e garantir que ela seja mais precisa e confiável no futuro.
A questão do viés em ferramentas de IA é um problema que afeta muitas empresas de tecnologia e é importante que as empresas tomem medidas para garantir que suas ferramentas sejam justas e imparciais. A Canva está trabalhando para corrigir o problema e garantir que sua plataforma seja justa e imparcial. A empresa está comprometida em fornecer uma plataforma de design gráfico que seja acessível e útil para todos, independentemente de sua origem ou crenças. A Canva também está trabalhando para melhorar sua funcionalidade Camadas Mágicas e garantir que ela seja mais precisa e confiável no futuro. Além disso, a empresa está trabalhando para garantir que sua plataforma seja mais transparente e que os usuários sejam informados sobre como as ferramentas de IA são treinadas e como elas funcionam.
A transparência é fundamental para garantir que as ferramentas de IA sejam justas e imparciais. As empresas de tecnologia devem ser transparentes sobre como as ferramentas de IA são treinadas e como elas funcionam. Isso inclui fornecer informações sobre os dados de treinamento, os algoritmos usados e os processos de teste. Além disso, as empresas devem ser transparentes sobre os vieses e preconceitos que podem existir nas ferramentas de IA e como eles estão sendo corrigidos. A Canva está trabalhando para garantir que sua plataforma seja mais transparente e que os usuários sejam informados sobre como as ferramentas de IA
