Teste rápido
Tente adivinhar, sem penalidade. Um chatbot (uma ferramenta de chat com IA que responde ao que você digita) dá um fato a você num tom calmo e seguro. O que o tom diz a você?
Um chatbot escreve texto que segue os padrões dos dados com que foi treinado. Ele não consulta fatos em um banco de dados enquanto escreve. Ele produz as palavras que melhor se encaixam depois da sua pergunta.
Por isso, ele não tem um alarme confiável para uma pergunta que não sabe responder. Quando falta a resposta real, muitas vezes ele preenche a lacuna com algo que parece certo. Essa falha se chama alucinação. A frase é fluente e o tom é calmo, mas o fato é inventado.