大模型，幻觉，PUA

OpenAI论文提出，大模型“幻觉”的根源可能在于人类的训练方式。模型天性倾向于预测下一个词，但有时会忽略事实准确性。同时，当前的评估机制鼓励模型“瞎猜”以获得高分，而非诚实地承认“不知道”。然而，一味消除幻觉可能削弱模型的创造力，用户对AI的“人性化”表达也存在需求，因此如何在可信赖与创造力间取得平衡，仍是待解的难题。