Executivo do Google faz alerta: “Chatbots podem causar alucinação”

Entenda o que um dos executivos do Google quis dizer quando falou que o chatbot é capaz de gerar ilusões nos internautas que os utilizam.



Um dos assuntos mais comentados dos últimos dias é a utilização do ChatGPT e de outras tecnologias de chatbot disponíveis no mercado. Recentemente, o Google informou que esse tipo de inteligência artificial pode produzir “alucinações” nos usuários. Isso acontece porque as respostas dadas são realmente convincentes, mas podem ser bem fictícias.

Veja também: Vilão ou mocinho: por que a chegada do ChatGPT ameaça tantas profissões?

Novo chatbot do Google também produziu “alucinações”

A fala do chefe do mecanismo de busca Google, Prabhakar Raghavan, diz que o próprio Bard – chatbot em desenvolvimento da empresa, produziu alucinações. Ao ser questionado sobre o telescópio espacial James Webb, a ferramenta teria dado uma resposta errada. No entanto, os dados soavam como bastante convincentes.

O Bard é o chatbot que deve ser integrado ao sistema de buscas do Google, da mesma forma que a Microsoft planeja fazer com o seu buscador Bing.

“Os enormes modelos de linguagem por trás dessa tecnologia tornam impossível para os humanos monitorarem todos os comportamentos concebíveis do sistema. Mas queremos testá-lo em uma escala grande o suficiente para, no final, ficarmos satisfeitos com as métricas que usamos para verificar a factualidade das respostas”, disse Raghavan.

O Bard ainda não possui data de lançamento, mas a empresa afirma que trabalha em regime de urgência para alcançar o que os concorrentes andam planejando e fazendo. O chatbot ChatGPT movimentou bastante as coisas no mercado da tecnologia mundial.

Quais as características esperadas para o Bard

O Google já revelou o seguinte sobre o seu futuro chatbot:

  • Terá capacidade de responder perguntas e integrar conversas;
  • Já está em fase de testes dentro de um grupo específico;
  • Serviço será alimentado por várias informações da internet;
  •  O Bard será capaz de dar respostas sobre eventos recentes, algo que o ChatGPT não costuma ter capacidade de fazer.

Em breve, usuários do mundo inteiro poderão usufruir do recurso. Ele promete ter a maior parte de suas aplicações gratuitas, o que é outro ponto de destaque.




Voltar ao topo

Deixe um comentário