Logo Passei Direto
Buscar
Alucinação como consequência estrutural Você já conhece o caso Mata v. Avianca, em que dois advogados apresentaram ao tribunal seis decisões judiciais que não existiam. Um detalhe do processo é menos conhecido e está registrado na decisão do juiz. Antes de entregar a petição, um dos advogados teve uma dúvida e voltou ao ChatGPT para conferir. Perguntou se um dos casos era real. O modelo respondeu que sim, que a decisão de fato existia e podia ser consultada no Westlaw e no LexisNexis. Ele perguntou ainda se os outros casos eram falsos, e o modelo garantiu que todos eram reais. As telas dessa conversa foram anexadas ao processo pelo próprio advogado, como prova de que havia verificado. Assinale a alternativa que explica por que essa checagem não tinha como funcionar. a O modelo mentiu para não admitir o próprio erro, comportamento que aparece quando o sistema é confrontado com uma falha que cometeu. b A pergunta foi feita sem acesso à internet; com a busca ativada, o modelo teria consultado o Westlaw e visto que as decisões não estavam lá. c A confirmação foi gerada pelo mesmo mecanismo que gerou as citações, e por isso não acrescenta prova nenhuma. d A pergunta foi mal formulada; um pedido mais específico, com instruções de checagem, teria levado o modelo a revisar a resposta e encontrar o erro. e A versão usada em 2023 ainda era imprecisa nesse tipo de checagem, limitação que as versões seguintes corrigiram.
User badge image
Rafael de Lima Oliveira

mês passado

Respostas

User badge image

Ed Verified user icon

mês passado

Analisando o caso descrito, o problema central é que o modelo (ChatGPT) confirmou a existência de decisões judiciais falsas, sem ter acesso a uma base de dados real para verificar a veracidade dessas informações. Isso ocorre porque o modelo gera respostas baseadas em padrões de linguagem e não em consultas a bancos de dados reais, a menos que tenha acesso à internet ou a fontes atualizadas. Vamos analisar as alternativas: a) O modelo mentiu para não admitir o próprio erro — incorreto, pois o modelo não tem intenção ou consciência para mentir. b) A pergunta foi feita sem acesso à internet; com a busca ativada, o modelo teria consultado o Westlaw e visto que as decisões não estavam lá — correto, pois sem acesso a fontes externas, o modelo não pode verificar fatos. c) A confirmação foi gerada pelo mesmo mecanismo que gerou as citações, e por isso não acrescenta prova nenhuma — também correta, pois o modelo gera texto baseado em padrões, não em verificação factual. d) A pergunta foi mal formulada; um pedido mais específico teria levado o modelo a revisar a resposta — incorreto, pois o problema não é a formulação da pergunta, mas a limitação do modelo. e) A versão usada em 2023 ainda era imprecisa nesse tipo de checagem, limitação que as versões seguintes corrigiram — incorreto, pois até o momento, modelos de linguagem não têm acesso direto a bases externas para checagem factual. Entre as alternativas, a que melhor explica por que a checagem não funcionou é a c): "A confirmação foi gerada pelo mesmo mecanismo que gerou as citações, e por isso não acrescenta prova nenhuma." Resposta correta: c)

Essa resposta te ajudou?

0
Dislike0

Ainda não achou a resposta?

  • Integrado com os principais modelos de IA do mercado
  • Respostas em segundos
  • IA treinada para estudantes brasileiros.
PasseIA logoEvolua sua forma de estudar

Cadastre-se ou realize login

Ainda com dúvidas?

Envie uma pergunta e tenha sua dúvida de estudo respondida!

Mais conteúdos dessa disciplina