Token
Token 是大语言模型处理文本的基本单位,可以是单词、子词或字符。模型的上下文窗口、计费额度都以 Token 计。理解 Token 有助于估算模型能力边界、控制提示词长度与成本。
Transformer
Transformer是基于注意力机制、可并行处理序列的深度学习架构,是大语言模型与当前主流 AI 技术的基石。
Tree of Thoughts
思维树指让模型同时探索多条推理路径并择优的技术:分支搜索、自我评估、回溯选择,服务复杂推理任务。
Test-Time Compute
推理时计算(Test-Time Compute)指在模型推理(回答问题)阶段增加额外计算量来提升答案质量的技术:让模型在给出最终答案前先进行多步思考、自我纠错或搜索验证,是推理模型(如 o1、DeepSeek-R1)的核心机制。