Kafka Connect BigQuery Sink Connector запрашивает несуществующие имена ключевых субъектов из реестра схем.

Это дополнительный вопрос к следующему: Kafka Connect BigQuery Sink Connector запрашивает неверные имена субъектов из реестра схем

При попытке использовать confluentinc/kafka-connect-bigquery на нашем Kafka (Avro) события, я столкнулся со следующей ошибкой:

org.apache.kafka.connect.errors.DataException: Failed to deserialize data for topic domain.rating.annotated to Avro: 
    at io.confluent.connect.avro.AvroConverter.toConnectData(AvroConverter.java:125)
[...]
Caused by: org.apache.kafka.common.errors.SerializationException: Error retrieving Avro key schema version for id 619
Caused by: io.confluent.kafka.schemaregistry.client.rest.exceptions.RestClientException: Subject 'domain.rating.annotated-com.acme.message_schema.type.domain.key.DefaultKey' not found.; error code: 40401
    at io.confluent.kafka.schemaregistry.client.rest.RestService.sendHttpRequest(RestService.java:295)
    at io.confluent.kafka.schemaregistry.client.rest.RestService.httpRequest(RestService.java:355)
    at io.confluent.kafka.schemaregistry.client.rest.RestService.lookUpSubjectVersion(RestService.java:440)
[...]

Субъекты, которые существуют, это

curl --silent -X GET http://avro-schema-registry.core-kafka.svc.cluster.local:8081/subjects | jq .
[...]
  "domain.rating.annotated-com.acme.message_schema.domain.rating.annotated.Key",
  "domain.rating.annotated-com.acme.message_schema.domain.rating.annotated.RatingTranslated",
[...]

Почему вместо этого он ищет ...DefaultKey и как я могу заставить его работать правильно?

Мой properties/standalone.properties (я использую быстрый старт папка.) выглядит следующим образом:

bootstrap.servers=kafka.core-kafka.svc.cluster.local:9092
key.converter=io.confluent.connect.avro.AvroConverter
key.converter.schema.registry.url=http://avro-schema-registry.core-kafka.svc.cluster.local:8081
value.converter=io.confluent.connect.avro.AvroConverter
value.converter.schema.registry.url=http://avro-schema-registry.core-kafka.svc.cluster.local:8081
internal.key.converter=org.apache.kafka.connect.json.JsonConverter
internal.value.converter=org.apache.kafka.connect.json.JsonConverter
internal.key.converter.schemas.enable=false
internal.value.converter.schemas.enable=false
offset.storage.file.filename=/tmp/connect.offsets
key.converter.key.subject.name.strategy=io.confluent.kafka.serializers.subject.TopicRecordNameStrategy
value.converter.value.subject.name.strategy=io.confluent.kafka.serializers.subject.TopicRecordNameStrategy

person Tobias Hermann    schedule 04.05.2021    source источник


Ответы (1)


А, мне нужно следующее:

key.converter.key.subject.name.strategy=io.confluent.kafka.serializers.subject.RecordNameStrategy
value.converter.value.subject.name.strategy=io.confluent.kafka.serializers.subject.TopicRecordNameStrategy

С этим работает. :)

Я действительно борюсь с навигацией по документации. Извините за лишний вопрос.

person Tobias Hermann    schedule 04.05.2021