kafka connect＆＃x27; extractfield $ key＆＃x27; SMT结果在未知字段中＆＃x27;错误

Question

我有一个Debezium Connector（在KSQLDB-Server上运行）的设置，该设置是从SQL Server CDC表流到KAFKA主题的流动值。我正在尝试将消息的键从JSON转换为整数值。我收到的示例密钥看起来像这样：{“ internationId”：11117}，我想将其表示为数字11117。根据kafka connect文档，对于。但是，当我将连接器配置为使用此转换时，我会收到一个错误是由以下原因引起的：java.lang.illegalargumentException：未知字段：InternalID。

连接器配置：

CREATE SOURCE CONNECTOR properties_sql_connector WITH (
'connector.class'= 'io.debezium.connector.sqlserver.SqlServerConnector', 
'database.hostname'= 'propertiessql', 
'database.port'= '1433', 
'database.user'= 'XXX', 
'database.password'= 'XXX', 
'database.dbname'= 'Properties', 
'database.server.name'= 'properties', 
'table.exclude.list'= 'dbo.__EFMigrationsHistory', 
'database.history.kafka.bootstrap.servers'= 'kafka:9091', 
'database.history.kafka.topic'= 'dbhistory.properties',
'key.converter.schemas.enable'= 'false',
'transforms'= 'unwrap,extractField',
'transforms.unwrap.type'= 'io.debezium.transforms.ExtractNewRecordState',
'transforms.unwrap.delete.handling.mode'= 'none',
'transforms.extractField.type'= 'org.apache.kafka.connect.transforms.ExtractField$Key',
'transforms.extractField.field'= 'InternalID',
'key.converter'= 'org.apache.kafka.connect.json.JsonConverter');

错误详细信息：

--------------------------------------------------------------------------------------------------------------------------------------
 0       | FAILED | org.apache.kafka.connect.errors.ConnectException: Tolerance exceeded in error handler
        at org.apache.kafka.connect.runtime.errors.RetryWithToleranceOperator.execAndHandleError(RetryWithToleranceOperator.java:223) 
        at org.apache.kafka.connect.runtime.errors.RetryWithToleranceOperator.execute(RetryWithToleranceOperator.java:149)
        at org.apache.kafka.connect.runtime.TransformationChain.apply(TransformationChain.java:50)
        at org.apache.kafka.connect.runtime.WorkerSourceTask.sendRecords(WorkerSourceTask.java:355)
        at org.apache.kafka.connect.runtime.WorkerSourceTask.execute(WorkerSourceTask.java:258)
        at org.apache.kafka.connect.runtime.WorkerTask.doRun(WorkerTask.java:188)
        at org.apache.kafka.connect.runtime.WorkerTask.run(WorkerTask.java:243)
        at java.base/java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:515)
        at java.base/java.util.concurrent.FutureTask.run(FutureTask.java:264)
        at java.base/java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1128)
        at java.base/java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:628)
        at java.base/java.lang.Thread.run(Thread.java:829)
Caused by: java.lang.IllegalArgumentException: Unknown field: InternalID
        at org.apache.kafka.connect.transforms.ExtractField.apply(ExtractField.java:65)
        at org.apache.kafka.connect.runtime.TransformationChain.lambda$apply$0(TransformationChain.java:50)
        at org.apache.kafka.connect.runtime.errors.RetryWithToleranceOperator.execAndRetry(RetryWithToleranceOperator.java:173)       
        at org.apache.kafka.connect.runtime.errors.RetryWithToleranceOperator.execAndHandleError(RetryWithToleranceOperator.java:207) 
        ... 11 more

为什么此转换失败的任何想法？我是否缺少一些配置？ 当ExtractField转换被删除时，我的消息的键看起来如上：{“ internationId”：11117}

Answer 1

默认情况下，当您为任何连接器（包括Debezium）配置SMT时，将将转换应用于连接器发出的每个记录。其中包括可能没有检索到的数据并且可能没有必要字段的更改事件消息。
要解决此问题，您需要选择性地将SMT应用于使用SMT Predicates生成的更改事件消息的特定子集。

官方文档位于在这里。

在您的特定情况下，您只能将SMT应用于该特定数据库表的输出主题，它看起来像这样：

# Create a predicate that matches your output 
predicates: topicNameMatch
predicates.topicNameMatch.type: org.apache.kafka.connect.transforms.predicates.TopicNameMatches
predicates.topicNameMatch.pattern: *output topic name goes here*

# Your logic to extract the field from the key
transforms.extractField.type: org.apache.kafka.connect.transforms.ExtractField$Key
transforms.extractField.field: InternalID

# This references the predicate above
transforms.extractField.predicate: topicNameMatch

如果主题名称匹配对您不起作用，则上面列出的文档中还有其他谓词。

Answer 2

为了从JSON中提取一个命名字段，您需要schemas.enable ='true'该转换器的

任何数据未从Debezium采购的数据，这将需要JSON的架构为活动的一部分。

或者，如果您使用的是模式注册表，请切换到使用该架构的其他转换器，并且应该可以工作。

Answer 3

extractNewRecordState提取有效载荷从SMT信封中，并将此数据作为值。当您需要使用valuetokey转换将internId从值复制到键。 extractfield $ key从键结构提取字段，默认情况下，该结构仅具有表的主键，可能不是internalID。

如果是InternalID是您的主要键，则阅读@dynamitem答案。