Nos últimos meses, o ChatGPT ganhou destaque na mídia por sua capacidade de realizar diversas tarefas que estão ajudando profissionais e estudantes do mundo todo a otimizar as atividades e s economizarem tempo. Ao mesmo tempo em que a ferramenta deixa tudo mais fácil, também complica a vida de muitas pessoas por fornecer informações falsas. Não é à toa que está rendendo uma boa dor de cabeça à empresa criadora.
Leia mais: IA do TikTok vaza online: espécie de “ChatGPT” substituirá “for you”
Quem é usuário atento do chatbot já sabe que a ferramenta não é 100% confiável, mas o problema está na OpenAI, desenvolvedora do assistente virtual, visto que ela não deixa claro aos consumidores que há diversas limitações em sua criação. Entenda isso melhor ao longo do texto.
Usuários estão enfrentando problemas por conta do ChatGPT
O caso mais recente que gerou uma problemática aconteceu com um advogado. Ele usou a ferramenta em um processo jurídico e, preocupado com a veracidade das informações, até perguntou ao chatbot se os dados eram reais. O recurso logo respondeu afirmativamente e ainda forneceu a fonte. Ao chegar ao Tribunal, foi pego na mentira, pois nenhuma informação era verdadeira. O homem teve que responder pelo uso indevido do dispositivo!
Não é possível negar que o advogado teve uma parcela considerável de culpa neste caso, mas a empresa não faz nenhum trabalho de divulgação para deixar claro aos usuários que o ChatGPT ainda exibe algumas funções limitadas. Nas redes sociais, muitos usuários declaram não recomendar o chatbot para fazer trabalhos acadêmicos, por exemplo, pois a máquina inventa notícias e livros como fontes.
Apesar de os especialistas do setor, incluindo o CEO da OpenAI, Sam Altman, expressarem preocupação sobre os riscos que a inteligência artificial pode trazer para a humanidade, a empresa não está fazendo muito para alertar os usuários no geral. Muitas pessoas estão usando a IA como mecanismo de busca justamente porque ainda não ficou esclarecido que a ferramenta, até o momento, atua como um assistente virtual.
Além do advogado que passou por problemas, podemos citar uma turma do Texas, nos Estados Unidos, que passou por maus bocados. Os estudantes foram reprovados porque usaram a tecnologia para escreverem redações.
O problema aconteceu quando o professor checou as informações e recebeu a resposta de que os alunos teriam usado o chatbot indevidamente, contudo a ferramenta não consegue realizar esse tipo de verificação e, por isso, inventou a resposta que acabou prejudicando todos. Complicado!
