51.6. Модули вывода логического декодирования
Пример модуля вывода можно найти в подкаталоге contrib/test_decoding
в дереве исходного кода Postgres Pro.
51.6.1. Функция инициализации
Модуль вывода загружается в результате динамической загрузки разделяемой библиотеки (при этом в качестве имени библиотеки задаётся имя модуля). Для нахождения библиотеки применяется обычный путь поиска библиотек. В этой библиотеке должна быть функция _PG_output_plugin_init
, которая показывает, что библиотека на самом деле представляет собой модуль вывода, и устанавливает требуемые обработчики модуля вывода. Этой функции передаётся структура, в которой должны быть заполнены указатели на функции-обработчики отдельных действий.
typedef struct OutputPluginCallbacks { LogicalDecodeStartupCB startup_cb; LogicalDecodeBeginCB begin_cb; LogicalDecodeChangeCB change_cb; LogicalDecodeTruncateCB truncate_cb; LogicalDecodeCommitCB commit_cb; LogicalDecodeAbortCB abort_cb; LogicalDecodeMessageCB message_cb; LogicalDecodeFilterPrepareCB filter_prepare_cb; LogicalDecodePrepareCB prepare_cb; LogicalDecodeCommitPreparedCB commit_prepared_cb; LogicalDecodeAbortPreparedCB abort_prepared_cb; LogicalDecodeFilterByOriginCB filter_by_origin_cb; LogicalDecodeShutdownCB shutdown_cb; } OutputPluginCallbacks; typedef void (*LogicalOutputPluginInit) (struct OutputPluginCallbacks *cb);
Обработчики begin_cb
, change_cb
и commit_cb
должны устанавливаться обязательно, а startup_cb
, filter_by_origin_cb
, truncate_cb
и shutdown_cb
могут отсутствовать. Если truncate_cb
не установлен, но потребуется декодировать операцию TRUNCATE
, она будет проигнорирована.
51.6.2. Возможности
Для декодирования, форматирования и вывода изменений модули вывода могут использовать практически всю обычную инфраструктуру сервера, включая вызов функций вывода типов. К отношениям разрешается доступ только на чтение, если только эти отношения были созданы программой initdb
в схеме pg_catalog
, либо помечены как пользовательские таблицы каталогов командами
ALTER TABLE user_catalog_table SET (user_catalog_table = true); CREATE TABLE another_catalog_table(data text) WITH (user_catalog_table = true);
Любые действия, которые требуют присваивания идентификатора транзакции, запрещаются. В частности, к этим действиям относятся операции записи в таблицы, изменения DDL и вызов pg_current_xact_id()
.
51.6.3. Режимы вывода
Обработчики в модуле вывода могут передавать данные потребителю в практически любых форматах. Для некоторых вариантов использования, например, просмотра изменений через SQL, вывод информации в типах, которые могут содержать произвольные данные (например, bytea
), может быть неудобоваримым. Если модуль вывода выводит только текстовые данные в кодировке сервера, он может объявить это, установив в OutputPluginOptions.output_type
значение OUTPUT_PLUGIN_TEXTUAL_OUTPUT
вместо OUTPUT_PLUGIN_BINARY_OUTPUT
в обработчике запуска. В этом случае все данные должны быть в кодировке сервера, чтобы их можно было передать в значении типа text
. Это контролируется в сборках с включёнными проверочными утверждениями.
51.6.4. Обработчики в модуле вывода
Модуль вывода уведомляется о происходящих изменениях через различные обработчики, которые он должен установить.
Параллельные транзакции декодируются в порядке фиксации, при этом между обработчиками begin
и commit
декодируются только изменения, относящиеся к определённой транзакции. Транзакции, которые были прерваны явно или неявно, не проходят декодирование. Успешные точки сохранения заворачиваются в транзакцию, содержащую их, в порядке их выполнения в этой транзакции. Транзакция, подготавливаемая к двухфазной фиксации с использованием PREPARE TRANSACTION
, будет также декодироваться, если были подключены обработчики, необходимые для этого. Если в процессе декодирования текущей транзакции она отменяется параллельной командой ROLLBACK PREPARED
, логическое декодирование прерывается.
Примечание
Декодироваться будут только те транзакции, которые уже успешно сброшены на диск. Вследствие этого, COMMIT
может не декодироваться в следующем сразу за ним вызове pg_logical_slot_get_changes()
, когда synchronous_commit
имеет значение off
.
51.6.4.1. Обработчик запуска
Необязательный обработчик startup_cb
вызывается, когда слот репликации создаётся или через него запрашивается передача изменений, независимо от того, в каком количестве изменения готовы к передаче.
typedef void (*LogicalDecodeStartupCB) (struct LogicalDecodingContext *ctx, OutputPluginOptions *options, bool is_init);
Параметр is_init
будет равен true, когда слот репликации создаётся, и false в противном случае. Параметр options
указывает на структуру параметров, которые могут устанавливать модули вывода:
typedef struct OutputPluginOptions { OutputPluginOutputType output_type; bool receive_rewrites; } OutputPluginOptions;
В поле output_type
должно быть значение OUTPUT_PLUGIN_TEXTUAL_OUTPUT
или OUTPUT_PLUGIN_BINARY_OUTPUT
. См. также Подраздел 51.6.3. Если поле receive_rewrites
равно true, модуль вывода также будет вызываться для изменений, связанных с перезаписью кучи при определённых операциях DDL. Эти изменения представляют интерес для модулей, осуществляющих репликацию DDL, но для их обработки может потребоваться особый подход.
Обработчик запуска должен проверить параметры, представленные в ctx->output_plugin_options
. Если модулю вывода требуется поддерживать состояние, он может сохранить его в ctx->output_plugin_private
.
51.6.4.2. Обработчик выключения
Необязательный обработчик shutdown_cb
вызывается, когда ранее активный слот репликации перестаёт использоваться, так что ресурсы, занятые модулем вывода, можно освободить. При этом слот не обязательно удаляется, прекращается только потоковая передача через него.
typedef void (*LogicalDecodeShutdownCB) (struct LogicalDecodingContext *ctx);
51.6.4.3. Обработчик начала транзакции
Обязательный обработчик begin_cb
вызывается, когда декодируется начало зафиксированной транзакции. Прерванные транзакции и их содержимое никогда не декодируется.
typedef void (*LogicalDecodeBeginCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn);
Параметр txn
содержит метаинформацию о транзакции, в частности её идентификатор и время её фиксирования.
51.6.4.4. Обработчик завершения транзакции
Обязательный обработчик commit_cb
вызывается, когда декодируется фиксирование транзакции. Перед этим обработчиком будет вызываться обработчик change_cb
для всех изменённых строк (если строки были изменены).
typedef void (*LogicalDecodeCommitCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn, XLogRecPtr commit_lsn);
51.6.4.5. Обработчик подготовки транзакции
Необязательный обработчик prepare_cb
вызывается при декодировании транзакции, подготовленной к двухфазной фиксации. Перед этим обработчиком будет вызываться обработчик change_cb
для всех изменённых строк (если строки были изменены).
typedef void (*LogicalDecodePrepareCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn, XLogRecPtr prepare_lsn);
51.6.4.6. Обработчик фиксации подготовленной транзакции
Необязательный обработчик commit_prepared_cb
вызывается при декодировании фиксации подготовленной транзакции. В этом обработчике можно обратиться к полю gid
, входящему в структуру txn
.
typedef void (*LogicalDecodeCommitPreparedCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn, XLogRecPtr commit_lsn);
51.6.4.7. Обработчик отмены подготовленной транзакции
Необязательный обработчик abort_prepared_cb
вызывается при декодировании отмены подготовленной транзакции. В этом обработчике можно обратиться к полю gid
, входящему в структуру txn
.
typedef void (*LogicalDecodeAbortPreparedCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn, XLogRecPtr abort_lsn);
51.6.4.8. Обработчик прерывания транзакции
Обязательный обработчик abort_cb
вызывается в случае прерывания транзакции. Это может происходить при декодировании транзакции, которая была подготовлена для двухфазной фиксации, а затем прерывается в параллельном процессе. В таких ситуациях имеет смысл проверить, не была ли транзакция прервана до того, как начался просмотр внесённых ей изменений, чтобы не декодировать такую транзакцию вовсе.
typedef void (*LogicalDecodeAbortCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn, XLogRecPtr abort_lsn);
51.6.4.9. Обработчик изменения
Обязательный обработчик change_cb
вызывается для каждого отдельного изменения строки в транзакции, производимого командами INSERT
, UPDATE
или DELETE
. Даже если команда изменила несколько строк сразу, этот обработчик будет вызываться для каждой отдельной строки.
typedef void (*LogicalDecodeChangeCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn, Relation relation, ReorderBufferChange *change);
Параметры ctx
и txn
имеют то же содержимое, что и для обработчиков begin_cb
и commit_cb
; дополнительный дескриптор отношения relation
указывает на отношение, к которому принадлежит строка, а структура change
описывает передаваемое изменение строки.
Примечание
В процессе логического декодирования могут быть обработаны изменения только в таблицах, не являющихся нежурналируемыми (см. описание UNLOGGED
) или временными (см. описание TEMPORARY
или TEMP
).
51.6.4.10. Обработчик опустошения
Обработчик truncate_cb
вызывается для команды TRUNCATE
.
typedef void (*LogicalDecodeTruncateCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn, int nrelations, Relation relations[], ReorderBufferChange *change);
Он получает те же параметры, что и change_cb
. Но так как операции TRUNCATE
в таблицах, связанных внешними ключами, должны выполняться одновременно, данный обработчик получает на вход не одно отношение, а массив отношений. За подробностями обратитесь к описанию оператора TRUNCATE.
51.6.4.11. Обработчик фильтрации источника
Необязательный обработчик filter_by_origin_cb
вызывается, чтобы отметить, интересуют ли модуль вывода изменения, воспроизводимые из указанного источника (origin_id
).
typedef bool (*LogicalDecodeFilterByOriginCB) (struct LogicalDecodingContext *ctx, RepOriginId origin_id);
В параметре ctx
передаётся та же информация, что и для других обработчиков. Чтобы отметить, что изменения, поступающие из переданного узла, не представляют интереса, модуль должен вернуть true, вследствие чего эти изменения будут фильтроваться; в противном случае он должен вернуть false. Другие обработчики для фильтруемых транзакций и изменений вызываться не будут.
Это полезно при реализации каскадной или разнонаправленной репликации. Фильтрация по источнику в таких конфигурациях позволяет предотвратить передачу взад-вперёд одних и тех же изменений. Хотя информацию об источнике можно также извлечь из транзакций и изменений, фильтрация с помощью этого обработчика гораздо более эффективна.
51.6.4.12. Обработчик фильтра подготовки
Необязательный обработчик filter_prepare_cb
позволяет определить, должны ли данные, относящиеся к текущей транзакции с двухфазной фиксацией, проходить декодирование на стадии подготовки транзакции, или они будут декодироваться позднее как с обычной однофазной транзакцией, в момент COMMIT PREPARED
.
typedef bool (*LogicalDecodeFilterPrepareCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn, TransactionId xid, const char *gid);
В параметре ctx
передаётся то же содержимое, что и для других обработчиков. Параметр txn
содержит метаинформацию о транзакции. В xid
передаётся идентификатор транзакции (XID), так как txn
в некоторых случаях может быть равен NULL. В gid
передаётся идентификатор, по которому позднее эта транзакция будет идентифицирована командами COMMIT PREPARED
или ROLLBACK PREPARED
. Данный обработчик должен выдавать один и тот же результат для определённой комбинации xid
и gid
при каждом вызове. Чтобы показать, что раннее декодирование следует пропустить, возвратите true; иначе — false.
51.6.4.13. Обработчик произвольных сообщений
Необязательный обработчик message_cb
вызывается при получении сообщения логического декодирования.
typedef void (*LogicalDecodeMessageCB) (struct LogicalDecodingContext *ctx, ReorderBufferTXN *txn, XLogRecPtr message_lsn, bool transactional, const char *prefix, Size message_size, const char *message);
Параметр txn
содержит метаинформацию о транзакции, включая время её фиксации и её XID. Заметьте, однако, что в нём может передаваться NULL, когда сообщение нетранзакционное и транзакции, в которой было выдано сообщение, ещё не назначен XID. В параметре lsn
отмечается позиция сообщения в WAL. Параметр transactional
показывает, было ли сообщение передано как транзакционное. В параметре prefix
передаётся некоторый префикс (завершающийся нулём), по которому текущий модуль может выделять интересующие его сообщения. И наконец, параметр message
содержит само сообщение размером message_size
байт.
Необходимо дополнительно позаботиться о том, чтобы префикс, определяющий интересующие модуль вывода сообщения, был уникальным. Удачным выбором обычно будет имя расширения или самого модуля вывода.
51.6.5. Функции для формирования вывода
Чтобы действительно вывести данные, модули вывода могут записывать их в буфер StringInfo
через ctx->out
, внутри обработчиков begin_cb
, commit_cb
или change_cb
. Прежде чем записывать данные в этот буфер, необходимо вызвать OutputPluginPrepareWrite(ctx, last_write)
, а завершив запись в буфер, нужно вызвать OutputPluginWrite(ctx, last_write)
, чтобы собственно произвести запись. Параметр last_write
указывает, была ли эта определённая операция записи последней в данном обработчике.
Следующий пример показывает, как вывести данные для потребителя модуля вывода:
OutputPluginPrepareWrite(ctx, true); appendStringInfo(ctx->out, "BEGIN %u", txn->xid); OutputPluginWrite(ctx, true);