Настройка плагина Kafka connect Postgress Debezium CDC

Я пытаюсь использовать kafka connect для чтения изменений в базе данных postgress. У меня Kafka работает в моей локальной системе, и я хочу использовать API подключения Kafka в автономном режиме для чтения изменений БД сервера postgress.

connect-standalone.sh connect-standalone.properties dbezium.properties

я был бы признателен, если бы кто-нибудь мог помочь мне с настройкой свойств конфигурации для CDC postgress debezium connector

https://www.confluent.io/connector/debezium-postgresql-cdc-connector/

Я следую нижеприведенному, чтобы построить свойства

https://debezium.io/docs/connectors/postgresql/#how-the-postgresql-connector-works

Имя тем Kafka по умолчанию принимает форму serverName.schemaName.tableName, где serverName - логическое имя коннектора, указанное в свойстве конфигурации database.server.name.

и вот что я придумал для dbezium.properties

name=cdc_demo
connector.class=io.debezium.connector.postgresql.PostgresConnector
tasks.max=1
plugin.name=wal2json
slot.name=debezium
slot.drop_on_stop=false
database.hostname=localhost
database.port=5432
database.user=postgress
database.password=postgress
database.dbname=test
time.precision.mode=adaptive
database.sslmode=disable

Допустим, я создаю имя схемы PG в качестве демонстрации и имя таблицы в качестве поставщиков.

Итак, мне нужно создать тему с именем test.demo.suppliers, чтобы этот плагин мог отправлять данные в?

Также может кто-нибудь предложить образ докера с сервером postgress + с подходящим плагином репликации, таким как wal2json и т. Д.? Мне сложно настроить postgress и плагин CDC.


person user1697113    schedule 11.04.2019    source источник


Ответы (1)


Ознакомьтесь с руководством со связанным Docker Compose и образец конфигурации.

Тема, которую вы придумали, звучит правильно, но если ваш брокер Kafka настроен на автоматическое создание тем (что является поведением по умолчанию IIRC), тогда он будет создан для вас, и вам не нужно создавать его заранее. .

person Robin Moffatt    schedule 12.04.2019