Chatbots: Será que eles deveriam ser um pouco mais “combativos”?

Picture of Maurício "o Estagiario"

Maurício "o Estagiario"

Textos otimizado com nossa IA

Published on maio 11, 2024, 1:15 am

Conversas com chatbots podem se tornar entediantes. Não há perguntas instigantes que estimulem respostas mais interessantes e, mesmo quando tentamos iniciar um diálogo diferente, recebemos apenas frases genéricas projetadas para suavizar a interação.

No entanto, um estudo recente realizado por pesquisadores da Universidade de Harvard e da Universidade de Montreal está questionando se essa abordagem monótona é realmente a melhor. De acordo com Alice Cai, pesquisadora da Universidade de Harvard, “há algo estranho no tom e nos valores sendo incorporados aos grandes modelos de linguagem. Tudo soa muito paternalista”.

Além disso, os modelos atuais são excessivamente americanizados e baseiam suas interações em normas excessivamente amigáveis que nem sempre são compartilhadas em todo o mundo. Isso levanta a questão de se estamos considerando as diferentes culturas e contextos ao desenvolver esses chatbots.

A pesquisa também revelou que muitos participantes imaginaram os chatbots como funcionários do setor de atendimento ao cliente – brancos, de classe média, com sorrisos forçados e atitudes inabaláveis. Essa não necessariamente é a melhor opção para todos os usuários.

De acordo com Ian Arawjo, professor assistente de interação humano-computador na Universidade de Montreal, “nós humanos não valorizamos apenas a cordialidade. Em muitos aspectos, o antagonismo pode ser benéfico”. Os pesquisadores sugerem que uma IA programada para ser um pouco “do contra”, ao invés de ser excessivamente conciliatória, poderia ajudar os usuários a questionar suas suposições e desenvolver resiliência.

Uma possível aplicação para uma IA mais “combativa” seria ajudar as pessoas a se livrarem de maus hábitos. Por exemplo, um sistema desenvolvido pelos pesquisadores reconhece quando o usuário está agindo de forma prejudicial e adota uma abordagem confrontadora, semelhante ao que vemos em esportes ou na autoajuda.

No entanto, é importante ressaltar que o uso dessas inteligências artificiais precisaria ser cuidadosamente supervisionado e regulamentado, especialmente em áreas sensíveis. A equipe de pesquisa ficou surpresa com a resposta positiva à sugestão de tornar as IAs um pouco menos gentis.

“Acho que chegou a hora de testar esse tipo de ideia e explorar esses sistemas”, defende Arawjo. “Gostaria de ver mais pesquisas empíricas para entender como implementá-las na prática, em quais circunstâncias isso pode ser benéfico ou não, e quais são as implicações.”

Essa abordagem desafiadora da IA generativa pode abrir novas possibilidades no campo do atendimento ao cliente e no desenvolvimento pessoal dos usuários. Cabe aos pesquisadores e profissionais da área explorarem esses caminhos com responsabilidade e cautela para obterem resultados eficazes.

Compartilhe

Facebook
Twitter
LinkedIn
WhatsApp
Email
Print

Leia mais sobre este assunto:

Conteudize