如何从 GPTNeo 中生成的文本中删除输入？

Question

我正在编写一个程序来生成文本...... 我需要从生成的文本中删除输入。我该怎么做？ 代码：

input_ids = tokenizer(context, return_tensors="pt").input_ids
gen_tokens = model.generate(
    input_ids,
    do_sample=True,
    temperature=0.8,
    top_p=0.9)
strs = tokenizer.batch_decode(gen_tokens)[0]

这里的 strs 包含我给出的输入...... 如何删除它？

Answer 1

Transformers 库没有为您提供执行此操作的方法，但您可以通过一行代码轻松实现：

strs = strs.replace(context,"")

这实际上是我在 NLP Cloud API，因为它在后台使用 Transformer。