提示词的优化使用已有数据进行fewshot学习

大铭🍀

2023-09-1423:22

提示词的优化

使用已有数据进行fewshot学习

收集已经积累数据的内容，让GPT进行自我学习，然后进行判断。由于不想使用FineTuning的方式，所以使用fewshot的方式进行

思路如下

1. 收集整理已有的数据，作为学习的原始数据

2. 把整理的原始数据生成jsonl，作为fewshot的数据传递给gpt

3. 让gpt从这些数据中寻找规律，并作为判断标准

4. 对新内容进行判断，给出判定结果，以及判断的理由

改进思路

1. 如果数据量足够，则可以根据分类进行整理，按分类收集和整理数据

2. 根据需要判断的新数据的分类，从已有的分类中，按照不同比例（精华、非精华）构建被fewshot的数据集

寻找规律并判断

1. 改进思路可以使用ChatPANinsertMaterialwithtags来解决

继续迭代

1. 因为Context不够，所以fewshot的数据量无法给太多，导致学习的基础不足

2. 能否使用一个GPT只是进行分析并抽取判断的维度

3. 让另一个GPT根据上面抽取出来的维度对新的内容进行判断

改进

如图1

结构如图2
实验初步成功，准备用ChatPAN生成一个标准的自我迭代的判卷产品

收起

查看详情

度、小柒、一诚、我的承诺、六六、小鱼学长、小武武、坠落、不知信安Na、硬核等14人觉得很赞