LLM在推理时，基于已经输出的句子，从词汇表中预测下一个词。预测时，为词汇表中的每个词分配一个概率，通过采样得到预测输出，如图1所示。例如，模型在输出"My name is"后，仅有0.62的概率输出自己的名字"Tang"，即使我们在提示词中告诉了模型自己的名字是"Tang"，模型也有0.38的概率输出别的名字。

编辑：编辑部 HYZ 【新智元导读】ChatGPT搜索重磅登场！OpenAI官宣，ChatGPT从此正式变成AI搜索产品，要革了谷歌的命。而谷歌早在一分钟前，就官宣自家的AI搜索也来了。巨头开战，硝烟四起，搜索引擎果然被AI彻底改写。 Ch ...