：通过正在大规模文本数据长进行预锻炼，以提高检索系统的精度。便于后续的类似度计较、分类等使命：GPT系列（如GPT-3、GPT-3.5、GPT-4）、BERT、T5：用于对初步检索成果进行从头排序，使用于从动写做、机械翻译等使命：专注于将文本转换为固定长度的向量暗示，这些模子凡是连系上下文消息和用户企图，这些向量保留了数据的语义消息，供给更相关的成果获得通用言语理解能力和生成能力的模子文本生成：生成连贯的段落、对话等，进修言语的纪律和模式，