Plug-ins de navegador de IA para ajudar

 

Notas dos editores

Este artigo foi revisado de acordo com a Science X's processo editorial e políticas. Editores destacaram os seguintes atributos garantindo a credibilidade do conteúdo: verificado fonte confiável revisar

por Brandi Wampler, Universidade de Notre Dame

O plug-in do navegador Dark Pita detecta designs de padrões escuros, notifica o usuário e permite que ele personalize sua experiência online. Crédito: Toby Li/Universidade de Notre Dame

Pesquisadores da Universidade de Notre Dame estão desenvolvendo ferramentas de inteligência artificial que ajudam os consumidores a entender como estão sendo explorados enquanto navegam em plataformas online. O objetivo é aumentar a literacia digital dos utilizadores finais para que possam controlar melhor a forma como interagem com estes websites.   Em um estudo recente aparecendo em Anais da Conferência CHI sobre Fatores Humanos em Sistemas Computacionais, os participantes foram convidados a experimentar configurações de privacidade online sem consequências. Para testar como funcionam as diferentes configurações de privacidade de dados, os pesquisadores criaram um plug-in para o navegador Chrome chamado Privacy Sandbox, que substituiu os dados dos participantes por personas geradas pelo GPT-4, um grande modelo de linguagem da OpenAI. Com o Privacy Sandbox, os participantes puderam interagir com diferentes sites, como plataformas de mídia social ou meios de comunicação. À medida que navegavam em vários sites, o plug-in do navegador aplicava dados gerados por IA, tornando mais óbvio para os participantes ver como foram segmentados com base na suposta idade, raça, localização, renda, tamanho da família e muito mais. "Do ponto de vista do usuário, permitir o acesso da plataforma a dados privados pode ser atraente porque você poderia obter melhor conteúdo com isso, mas depois de ativá-lo, você não poderá recuperar esses dados. Depois de fazer isso, o site já saberá onde você está. live", disse Toby Li, professor assistente de ciência da computação e engenharia e docente afiliado do Lucy Family Institute for Data & Society em Notre Dame, que liderou a pesquisa. “Isso é algo que queríamos que os participantes entendessem, descobrissem se o ambiente vale a pena em um ambiente livre de riscos e lhes permitisse tomar decisões informadas”. Outro estudoeste em Procedimentos da ACM sobre Interação Humano-Computador, analisou padrões obscuros – ou os recursos de design em plataformas digitais que sutilmente estimulam os usuários a realizar ações específicas – e como eles são usados ​​em sites para manipular clientes. Para o estudo, Li e sua equipe analisaram como os padrões escuros são aplicados pelos designers de interface para incentivar as pessoas a consumir mais conteúdo ou a tomar decisões de compra impulsivas. Os pesquisadores desenvolveram um plug-in para navegador Chrome chamado Dark Pita para identificar padrões escuros em cinco plataformas online populares: Amazon, YouTube, Netflix, Facebook e X. Usando aprendizado de máquina, o plug-in primeiro notificaria os participantes do estudo de que um padrão escuro foi detectado. Identificaria então a susceptibilidade à ameaça do padrão obscuro e explicaria o impacto do padrão obscuro – perda financeira, invasão de privacidade ou carga cognitiva. Dark Pita daria então aos participantes a opção de “agir” modificando o código do site por meio de uma interface fácil de usar para alterar os recursos de design enganosos do site e explicar o efeito da modificação. Os pesquisadores planejam eventualmente disponibilizar ao público os dois plug-ins de navegador, Privacy Sandbox e Dark Pita. Li acredita que essas ferramentas são ótimos exemplos de como o uso da IA ​​pode ser democratizado para usuários regulares, em benefício da sociedade. “As empresas usarão cada vez mais a IA em seu benefício, o que continuará a ampliar a lacuna de poder entre elas e os usuários. Portanto, com nossa pesquisa, estamos explorando como podemos devolver o poder ao público, permitindo-lhes usar as ferramentas de IA da melhor maneira possível. interesse contra os algoritmos opressivos existentes Esta abordagem de 'combater fogo com fogo' deve nivelar um pouco o campo de jogo", disse Li. "Uma abordagem sandbox baseada em empatia para preencher a lacuna de privacidade entre atitudes, objetivos, conhecimentos e comportamentos" foi apresentada no Conferência CHI da Associação de Máquinas de Computação de 2024. Liderados por Li, os co-autores do estudo incluem Chaoran Chen e Yanfang (Fanny) Ye de Notre Dame, Weijun Li da Universidade de Zhejiang, Wenxin Song da Universidade Chinesa de Hong Kong e Yaxing Yao da Virginia Tech. O estudo "From Awareness to Action: Exploring End-User Empowerment Interventions For Dark Patterns in UX", liderado por Li, foi publicado no Procedimentos da ACM sobre Interação Humano-Computador (CSCW 2024). Os co-autores incluem Yuwen Lu da Notre Dame, Chao Zhang da Cornell University, Yuewen Yang da Cornell Tech e Yao da Virginia Tech.  

Mais Informações: Chaoran Chen et al, Uma abordagem de sandbox baseada em empatia para preencher a lacuna de privacidade entre atitudes, objetivos, conhecimento e comportamentos, Anais da Conferência CHI sobre Fatores Humanos em Sistemas Computacionais (2024). DOI: 10.1145/3613904.3642363 Yuwen Lu et al, Da Conscientização à Ação: Explorando Intervenções de Empoderamento do Usuário Final para Padrões Escuros em UX, Procedimentos da ACM sobre Interação Humano-Computador (2024). DOI: 10.1145/3637336

Citação: Plug-ins de navegador de IA para ajudar os consumidores a melhorar a alfabetização em privacidade digital e combater o design manipulador (2024, 29 de maio) recuperado em 29 de maio de 2024 em https://techxplore.com/news/2024-05-ai-browser-ins-consumers- digital.html Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.

 

---

---

  https://w3b.com.br/plug-ins-de-navegador-de-ia-para-ajudar/?feed_id=11173&_unique_id=665fb36d3f462