代码之家 › 专栏 › 技术社区 › Minions

强制转换器模型仅从vocb生成一些令牌

language-model huggingface-transformers nlp deep-learning python

Minions · 技术社区 · 2 年前

我训练了一个语言模型(编码器-解码器)来生成文本。我想将此模型的生成vocb限制为特定vocb。我该怎么做?

我在中找到 generate ( model.generate )函数,我可以传递一个名为 force_words_ids 其中模型将被强制生成此列表中的“所有”令牌。我正在寻找类似的东西,但相反,生成列表中的一些令牌。

0 回复 | 直到 2 年前

Daniel Paleka 1 年前

截至 transformers 版本 4.26.0 ,您可以编写自定义 LogitsProcessor 并将其作为 logits_processor 关键字参数到 model.generate 。只要您执行 __call__ 的方法 LogitsProcessor 作为工作PyTorch代码。

也建议通过 renormalize_logits=True 如果您使用例如波束搜索生成更长的输出序列,并对logits向量进行重要编辑。

推荐文章

July · 如何定义数字间隔,然后四舍五入

1 年前

Community wiki · 对象名称前的单下划线和双下划线的含义是什么?

1 年前

Brian Johnson · 为什么在Python中列出字典列表会引发TypeError?[已关闭]

1 年前

user026 · 如何根据特定窗口的平均值(行数)创建新列?

1 年前

Ashok Shrestha · 需要追踪特定的颜色线并获取坐标

1 年前

Nicote Ool · 在FastApi和Vue3中获得422

1 年前

NeoExceptCodeBad · 如果我有很多垂直线,我如何找到它们的边缘?

1 年前

Abdulaziz · 如何对集合内的列表进行排序[重复]

1 年前

user2743931 · 带有src目录的Python setup.py

1 年前

asmgx · 为什么合并数据帧不能按照python中的预期方式工作

1 年前