Re: row filtering for logical replication

От

Alexey Zagarin

Тема

Дата

1 сентября 2019 г. в 05:25:41

Msg-id

66546be6-3daf-4918-9466-07bbc22c212c@Spark

обсуждение

Ответ на

Re: row filtering for logical replication (Euler Taveira)

Список

pgsql-hackers

Дерево обсуждения

row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 марта 2018 г. в 02:03:02

Re: row filtering for logical replication David Fetter <david@fetter.org> 1 марта 2018 г. в 03:47:52

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 марта 2018 г. в 18:41:04

Re: row filtering for logical replication David Fetter <david@fetter.org> 1 марта 2018 г. в 19:06:42

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 1 марта 2018 г. в 18:27:11

Re: row filtering for logical replication Andres Freund <andres@anarazel.de> 2 марта 2018 г. в 00:27:56

Re: row filtering for logical replication David Steele <david@pgmasters.net> 2 марта 2018 г. в 00:51:39

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 2 марта 2018 г. в 02:00:37

Re: row filtering for logical replication David Steele <david@pgmasters.net> 2 марта 2018 г. в 02:16:17

Re: row filtering for logical replication Michael Paquier <michael@paquier.xyz> 2 октября 2018 г. в 08:03:15

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 2 марта 2018 г. в 00:25:02

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 2 марта 2018 г. в 02:03:42

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 ноября 2018 г. в 00:29:59

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 1 ноября 2018 г. в 07:56:48

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 1 ноября 2018 г. в 08:30:36

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 2 ноября 2018 г. в 01:59:36

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 2 ноября 2018 г. в 06:55:05

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 22 ноября 2018 г. в 23:03:27

Re: row filtering for logical replication David Fetter <david@fetter.org> 23 ноября 2018 г. в 16:39:14

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 17:53:42

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 23 ноября 2018 г. в 16:15:08

Re: row filtering for logical replication Alvaro Herrera <alvherre@2ndquadrant.com> 23 ноября 2018 г. в 16:19:33

Re: row filtering for logical replication Andres Freund <andres@anarazel.de> 3 февраля 2019 г. в 10:14:39

Re: row filtering for logical replication a.kondratov@postgrespro.ru 27 августа 2019 г. в 21:10:47

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 сентября 2019 г. в 00:31:52

Re: row filtering for logical replication Alexey Zagarin <zagarin@gmail.com> 1 сентября 2019 г. в 05:25:41

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 сентября 2019 г. в 00:28:16

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 1 сентября 2019 г. в 09:09:11

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 сентября 2019 г. в 23:43:57

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 2 сентября 2019 г. в 23:08:25

Re: row filtering for logical replication Alexey Zagarin <zagarin@gmail.com> 3 сентября 2019 г. в 03:15:44

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 3 сентября 2019 г. в 03:32:12

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 3 сентября 2019 г. в 05:50:29

Re: row filtering for logical replication Alexey Zagarin <zagarin@gmail.com> 4 сентября 2019 г. в 01:21:27

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 4 сентября 2019 г. в 13:11:14

Re: row filtering for logical replication movead li <movead.li@highgo.ca> 23 сентября 2019 г. в 04:59:02

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 25 сентября 2019 г. в 11:08:40

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 25 сентября 2019 г. в 23:20:32

Re: row filtering for logical replication Amit Langote <amitlangote09@gmail.com> 25 ноября 2019 г. в 02:38:51

Re: row filtering for logical replication Amit Langote <amitlangote09@gmail.com> 25 ноября 2019 г. в 02:48:29

Re: row filtering for logical replication Michael Paquier <michael@paquier.xyz> 28 ноября 2019 г. в 02:32:01

Re: row filtering for logical replication Tomas Vondra <tomas.vondra@2ndquadrant.com> 16 января 2020 г. в 21:57:30

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 16 января 2020 г. в 23:58:24

Re: row filtering for logical replication Craig Ringer <craig@2ndquadrant.com> 21 января 2020 г. в 07:32:45

Re: row filtering for logical replication David Steele <david@pgmasters.net> 3 марта 2020 г. в 17:39:03

Re: row filtering for logical replication David Steele <david@pgmasters.net> 16 марта 2020 г. в 13:58:27

Re: row filtering for logical replication "Euler Taveira" <euler@eulerto.com> 1 февраля 2021 г. в 00:23:04

Re: row filtering for logical replication japin <japinli@hotmail.com> 1 февраля 2021 г. в 09:11:33

Re: row filtering for logical replication "Euler Taveira" <euler@eulerto.com> 1 февраля 2021 г. в 19:11:50

Re: row filtering for logical replication japin <japinli@hotmail.com> 2 февраля 2021 г. в 05:37:31

Re: row filtering for logical replication Michael Paquier <michael@paquier.xyz> 2 февраля 2021 г. в 05:02:53

Re: row filtering for logical replication japin <japinli@hotmail.com> 2 февраля 2021 г. в 11:16:23

Re: row filtering for logical replication japin <japinli@hotmail.com> 2 февраля 2021 г. в 11:38:12

Re: row filtering for logical replication "Euler Taveira" <euler@eulerto.com> 2 февраля 2021 г. в 12:34:34

Re: row filtering for logical replication Önder Kalacı <onderkalaci@gmail.com> 17 декабря 2020 г. в 06:43:30

Re: row filtering for logical replication Andres Freund <andres@anarazel.de> 28 января 2021 г. в 02:20:32

Re: row filtering for logical replication Masahiko Sawada <sawada.mshk@gmail.com> 29 декабря 2020 г. в 08:08:11

Re: row filtering for logical replication Önder Kalacı <onderkalaci@gmail.com> 4 января 2021 г. в 13:37:39

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 17:54:58

Re: row filtering for logical replication Fabrízio de Royes Mello <fabriziomello@gmail.com> 23 ноября 2018 г. в 18:05:21

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 18:13:53

Re: row filtering for logical replication Fabrízio de Royes Mello <fabriziomello@gmail.com> 23 ноября 2018 г. в 18:29:16

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 23 ноября 2018 г. в 19:03:30

Re: row filtering for logical replication Tomas Vondra <tomas.vondra@2ndquadrant.com> 23 ноября 2018 г. в 20:00:46

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 14 декабря 2018 г. в 15:56:45

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 15 декабря 2018 г. в 14:23:39

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 27 декабря 2018 г. в 19:19:25

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 27 декабря 2018 г. в 23:36:25

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 19:14:12

Re: row filtering for logical replication Tomas Vondra <tomas.vondra@2ndquadrant.com> 23 ноября 2018 г. в 20:02:15

Re: row filtering for logical replication Hironobu SUZUKI <hironobu@interdb.jp> 21 ноября 2018 г. в 05:51:34

Re: row filtering for logical replication Craig Ringer <craig@2ndquadrant.com> 1 марта 2018 г. в 03:54:58

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 2 марта 2018 г. в 02:15:37

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 23 ноября 2018 г. в 02:02:35

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 14:40:18

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 23 ноября 2018 г. в 15:17:12

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 14 декабря 2018 г. в 15:38:36

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 15 декабря 2018 г. в 14:13:41

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 27 декабря 2018 г. в 19:05:11

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 27 декабря 2018 г. в 23:15:10

I think that I also have found one shortcoming when using the setup described by Alexey Kondratov. The problem that I face is that if both (cloud and remote) tables already have data the moment I add the subscription, then the whole table is copied in both directions initially. Which leads to duplicated data and broken replication because COPY doesn't take into account the filtering condition. In case there are filters in a publication, the COPY command that is executed when adding a subscription (or altering one to refresh a publication) should also filter the data based on the same condition, e.g. COPY (SELECT * FROM ... WHERE ...) TO ...

The current workaround is to always use WITH copy_data = false when subscribing or refreshing, and then manually copy data with the above statement.

Alexey Zagarin

On 1 Sep 2019 12:11 +0700, Euler Taveira <euler@timbira.com.br>, wrote:

Em ter, 27 de ago de 2019 às 18:10, <a.kondratov@postgrespro.ru> escreveu:

Do you have any plans for continuing working on this patch and
submitting it again on the closest September commitfest? There are only
a few days left. Anyway, I will be glad to review the patch if you do
submit it, though I didn't yet dig deeply into the code.

Sure. See my last email to this thread. I appreciate if you can review it.

Although almost all new tests are passed, there is a problem with DELETE
replication, so 1 out of 10 tests is failed. It isn't replicated if the
record was created with is_cloud=TRUE on cloud, replicated to remote;
then updated with is_cloud=FALSE on remote, replicated to cloud; then
deleted on remote.

That's because you don't include is_cloud in PK or REPLICA IDENTITY. I
add a small note in docs.

--
Euler Taveira Timbira -
http://www.timbira.com.br/
PostgreSQL: Consultoria, Desenvolvimento, Suporte 24x7 e Treinamento

В списке pgsql-hackers по дате отправления

Предыдущее

От: Michael Paquier

Дата: 1 сентября 2019 г. в 05:15:10

Сообщение: Commit fest 2019-09

Следующее

От: Alexander Korotkov

Дата: 1 сентября 2019 г. в 08:07:31

Сообщение: Write visibility map during CLUSTER/VACUUM FULL