Re: row filtering for logical replication

От

Euler Taveira

Тема

Дата

1 сентября 2021 г. в 14:58:50

Msg-id

43d30940-eb95-4c98-aa60-5e0a50ec9993@www.fastmail.com

обсуждение

Ответ на

Re: row filtering for logical replication (Amit Kapila)

Список

pgsql-hackers

Дерево обсуждения

row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 марта 2018 г. в 02:03:02

Re: row filtering for logical replication David Fetter <david@fetter.org> 1 марта 2018 г. в 03:47:52

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 марта 2018 г. в 18:41:04

Re: row filtering for logical replication David Fetter <david@fetter.org> 1 марта 2018 г. в 19:06:42

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 1 марта 2018 г. в 18:27:11

Re: row filtering for logical replication Andres Freund <andres@anarazel.de> 2 марта 2018 г. в 00:27:56

Re: row filtering for logical replication David Steele <david@pgmasters.net> 2 марта 2018 г. в 00:51:39

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 2 марта 2018 г. в 02:00:37

Re: row filtering for logical replication David Steele <david@pgmasters.net> 2 марта 2018 г. в 02:16:17

Re: row filtering for logical replication Michael Paquier <michael@paquier.xyz> 2 октября 2018 г. в 08:03:15

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 2 марта 2018 г. в 00:25:02

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 2 марта 2018 г. в 02:03:42

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 ноября 2018 г. в 00:29:59

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 1 ноября 2018 г. в 07:56:48

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 1 ноября 2018 г. в 08:30:36

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 2 ноября 2018 г. в 01:59:36

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 2 ноября 2018 г. в 06:55:05

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 22 ноября 2018 г. в 23:03:27

Re: row filtering for logical replication David Fetter <david@fetter.org> 23 ноября 2018 г. в 16:39:14

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 17:53:42

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 23 ноября 2018 г. в 16:15:08

Re: row filtering for logical replication Alvaro Herrera <alvherre@2ndquadrant.com> 23 ноября 2018 г. в 16:19:33

Re: row filtering for logical replication Andres Freund <andres@anarazel.de> 3 февраля 2019 г. в 10:14:39

Re: row filtering for logical replication a.kondratov@postgrespro.ru 27 августа 2019 г. в 21:10:47

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 сентября 2019 г. в 00:31:52

Re: row filtering for logical replication Alexey Zagarin <zagarin@gmail.com> 1 сентября 2019 г. в 05:25:41

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 сентября 2019 г. в 00:28:16

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 1 сентября 2019 г. в 09:09:11

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 1 сентября 2019 г. в 23:43:57

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 2 сентября 2019 г. в 23:08:25

Re: row filtering for logical replication Alexey Zagarin <zagarin@gmail.com> 3 сентября 2019 г. в 03:15:44

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 3 сентября 2019 г. в 03:32:12

Re: row filtering for logical replication Erik Rijkers <er@xs4all.nl> 3 сентября 2019 г. в 05:50:29

Re: row filtering for logical replication Alexey Zagarin <zagarin@gmail.com> 4 сентября 2019 г. в 01:21:27

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 4 сентября 2019 г. в 13:11:14

Re: row filtering for logical replication movead li <movead.li@highgo.ca> 23 сентября 2019 г. в 04:59:02

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 25 сентября 2019 г. в 11:08:40

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 25 сентября 2019 г. в 23:20:32

Re: row filtering for logical replication Amit Langote <amitlangote09@gmail.com> 25 ноября 2019 г. в 02:38:51

Re: row filtering for logical replication Amit Langote <amitlangote09@gmail.com> 25 ноября 2019 г. в 02:48:29

Re: row filtering for logical replication Michael Paquier <michael@paquier.xyz> 28 ноября 2019 г. в 02:32:01

Re: row filtering for logical replication Tomas Vondra <tomas.vondra@2ndquadrant.com> 16 января 2020 г. в 21:57:30

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 16 января 2020 г. в 23:58:24

Re: row filtering for logical replication Craig Ringer <craig@2ndquadrant.com> 21 января 2020 г. в 07:32:45

Re: row filtering for logical replication David Steele <david@pgmasters.net> 3 марта 2020 г. в 17:39:03

Re: row filtering for logical replication David Steele <david@pgmasters.net> 16 марта 2020 г. в 13:58:27

Re: row filtering for logical replication "Euler Taveira" <euler@eulerto.com> 1 февраля 2021 г. в 00:23:04

Re: row filtering for logical replication japin <japinli@hotmail.com> 1 февраля 2021 г. в 09:11:33

Re: row filtering for logical replication "Euler Taveira" <euler@eulerto.com> 1 февраля 2021 г. в 19:11:50

Re: row filtering for logical replication japin <japinli@hotmail.com> 2 февраля 2021 г. в 05:37:31

Re: row filtering for logical replication Michael Paquier <michael@paquier.xyz> 2 февраля 2021 г. в 05:02:53

Re: row filtering for logical replication japin <japinli@hotmail.com> 2 февраля 2021 г. в 11:16:23

Re: row filtering for logical replication japin <japinli@hotmail.com> 2 февраля 2021 г. в 11:38:12

Re: row filtering for logical replication "Euler Taveira" <euler@eulerto.com> 2 февраля 2021 г. в 12:34:34

Re: row filtering for logical replication Önder Kalacı <onderkalaci@gmail.com> 17 декабря 2020 г. в 06:43:30

Re: row filtering for logical replication Andres Freund <andres@anarazel.de> 28 января 2021 г. в 02:20:32

Re: row filtering for logical replication Masahiko Sawada <sawada.mshk@gmail.com> 29 декабря 2020 г. в 08:08:11

Re: row filtering for logical replication Önder Kalacı <onderkalaci@gmail.com> 4 января 2021 г. в 13:37:39

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 17:54:58

Re: row filtering for logical replication Fabrízio de Royes Mello <fabriziomello@gmail.com> 23 ноября 2018 г. в 18:05:21

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 18:13:53

Re: row filtering for logical replication Fabrízio de Royes Mello <fabriziomello@gmail.com> 23 ноября 2018 г. в 18:29:16

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 23 ноября 2018 г. в 19:03:30

Re: row filtering for logical replication Tomas Vondra <tomas.vondra@2ndquadrant.com> 23 ноября 2018 г. в 20:00:46

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 14 декабря 2018 г. в 15:56:45

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 15 декабря 2018 г. в 14:23:39

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 27 декабря 2018 г. в 19:19:25

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 27 декабря 2018 г. в 23:36:25

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 19:14:12

Re: row filtering for logical replication Tomas Vondra <tomas.vondra@2ndquadrant.com> 23 ноября 2018 г. в 20:02:15

Re: row filtering for logical replication Hironobu SUZUKI <hironobu@interdb.jp> 21 ноября 2018 г. в 05:51:34

Re: row filtering for logical replication Craig Ringer <craig@2ndquadrant.com> 1 марта 2018 г. в 03:54:58

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 2 марта 2018 г. в 02:15:37

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 23 ноября 2018 г. в 02:02:35

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 23 ноября 2018 г. в 14:40:18

Re: row filtering for logical replication Euler Taveira <euler@timbira.com.br> 23 ноября 2018 г. в 15:17:12

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 14 декабря 2018 г. в 15:38:36

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 15 декабря 2018 г. в 14:13:41

Re: row filtering for logical replication Stephen Frost <sfrost@snowman.net> 27 декабря 2018 г. в 19:05:11

Re: row filtering for logical replication Petr Jelinek <petr.jelinek@2ndquadrant.com> 27 декабря 2018 г. в 23:15:10

On Wed, Sep 1, 2021, at 9:36 AM, Amit Kapila wrote:

I think this or any other similar solution for row filters (on
updates) won't work till we solve the problem reported by Hou-San [1].
The main reason is that we don't have data for unchanged toast columns
in WAL. For that, we have discussed some probable solutions in email
[2], however, that also required us to solve one of the existing
bugs[3].

I didn't mention but I'm working on it in parallel.

I agree with you that including TOAST values in the WAL is a possible solution

for this issue. This is a popular request for wal2json [1][2][3] and I think

other output plugins have the same request too. It is useful for CDC solutions.

I'm experimenting 2 approaches: (i) always include unchanged TOAST values to

new tuple if a GUC is set and (ii) include unchanged TOAST values to new tuple

iif it wasn't include in the old tuple. The advantage of the first option is

that you fix the problem adjusting a parameter in your configuration file.

However, the disadvantage is that, depending on your setup -- REPLICA IDENTITY

FULL, you might have the same TOAST value for a single change twice in the WAL.

The second option solves the disadvantage of (i) but it only works if you have

REPLICA IDENTITY FULL and Dilip's patch applied [4] (I expect to review it