pg_basebackup
pg_basebackup — создать резервную копию кластера Postgres Pro
Синтаксис
pg_basebackup [параметр...]
Описание
Программа pg_basebackup предназначена для создания базовых копий работающего кластера баз данных Postgres Pro. Процедура создания копии не влияет на работу других клиентов базы. Полученные копии могут использоваться и для восстановления на момент времени (см. Раздел 25.3), и в качестве базового состояния ведомого сервера при реализации трансляции журнала или потоковой репликации (см. Раздел 26.2).
pg_basebackup может выполнять полное или инкрементальное базовое резервное копирование базы данных. При полном резервном копировании создаётся точная копия файлов кластера баз данных. При инкрементальном резервном копировании некоторые файлы, которые были бы включены в полную резервную копию, могут заменяться инкрементальными версиями тех же файлов, содержащими только те блоки, которые были изменены с момента исходной резервной копии. Инкрементальную копию нельзя восстановить напрямую: сначала необходимо использовать pg_combinebackup, чтобы объединить её с предыдущими резервными копиями, от которых она зависит. См. Подраздел 25.3.3 для получения дополнительной информации об инкрементальных резервных копиях и Подраздел 25.3.5 для пошагового восстановления из резервной копии.
В любом режиме pg_basebackup резервное копирование включается и завершается автоматически. Резервные копии всегда создаются для кластера целиком; создать копию отдельных баз данных или объектов базы данных нельзя. Для выборочного копирования нужно использовать другие средства, например pg_dump.
Копия создаётся через обычное подключение к Postgres Pro, и при этом используется протокол репликации. Соединение с сервером должен устанавливать пользователь с правом REPLICATION (см. Раздел 21.2) или суперпользователь, а в pg_hba.conf должно разрешаться подключение для репликации. Кроме того, на сервере должно быть установлено достаточно большое значение max_wal_senders, чтобы мог запуститься минимум один передатчик WAL для резервного копирования и ещё один для потоковой трансляции WAL (если она применяется).
Можно запустить одновременно несколько команд pg_basebackup, но с точки зрения производительности обычно эффективнее делать всего одну копию одновременно, а затем копировать получаемый результат.
С помощью pg_basebackup можно получить базовую копию не только с ведущего, но и с ведомого сервера. Чтобы сделать копию с ведомого, настройте его, чтобы он мог принимать подключения репликации (для этого нужно установить подходящие значения max_wal_senders, hot_standby и подкорректировать pg_hba.conf). При этом на ведущем необходимо также включить full_page_writes.
Заметьте, что при копировании с ведомого сервера есть некоторые ограничения:
Файл истории резервного копирования в целевом кластере баз данных не создаётся.
pg_basebackup не может принудительно переключить ведомый сервер на новый файл WAL в конце копирования. Поэтому, если используется режим
-X noneи активность записи на ведущем сервере низкая, pg_basebackup может довольно долго ждать переключения и архивирования последнего файла WAL, необходимого для полноты копии. В этом случае может иметь смысл выполнить на ведущем сервереpg_switch_walдля немедленного переключения файла WAL.Если ведомый сервер повышается и становится ведущим в процессе копирования, копирование прерывается.
Все необходимые для резервной копии WAL-записи должны содержать полные страницы, для чего нужно включить режим
full_page_writesна ведущем сервере.
Когда pg_basebackup создаёт базовую копию, в представлении pg_stat_progress_basebackup отображается состояние этого процесса. За подробностями обратитесь к Подразделу 28.4.6.
Параметры
Следующие аргументы командной строки задают расположение и формат вывода:
-Dкаталог--pgdata=каталогЦелевой каталог, куда будет записана копия. Если он не существует, pg_basebackup создаст его, а также отсутствующие родительские каталоги, при необходимости. Если он существует, он должен быть пустым.
Если копия создаётся в формате tar, в качестве целевого каталога можно задать
-(минус), и тогда файл tar будет записан вstdout.Этот флаг является обязательным.
-Fформат--format=форматУстанавливает формат вывода.
форматможет принимать следующие значения:pplainЗаписывает выводимые данные в обычные файлы, сохраняя структуру каталогов данных и табличных пространств как на исходном сервере. Если в кластере нет дополнительных табличных пространств, вся база будет помещена в заданный каталог. Иначе основной каталог хранения данных будет помещён в целевой каталог, а все остальные табличные пространства — в те же абсолютные пути, в которых они располагаются на исходном сервере. (Чтобы изменить эти пути, воспользуйтесь параметром
--tablespace-mapping).Это формат по умолчанию.
ttarЗаписывает в целевой каталог файлы в формате tar. Содержимое основного каталога данных будет записано в файл
base.tar, а каждое дополнительное табличное пространство — в отдельный файл, содержащий в имени OID этого пространства.Если в качестве имени целевого каталога задано
-(минус), содержимое tar будет записано в устройство стандартного вывода, что позволяет, например, передать его программе gzip. Это возможно, только если в кластере нет дополнительных табличных пространств и не используется трансляция WAL.
-iold_manifest_file--incremental=old_manifest_fileВыполнять инкрементальное резервное копирование. Должен быть предоставлен манифест резервной копии, на основе которой будет выполняться инкрементальное копирование; этот манифест будет загружен на сервер, который затем отправит запрошенную инкрементальную резервную копию.
-R--write-recovery-confСоздать файл
standby.signalи добавить параметры конфигурации в файлpostgresql.auto.confв целевом каталоге (или внутри архива, если используется формат tar). Это упрощает настройку ведомого сервера при восстановлении этой копии.В файл
postgresql.auto.confбудут записаны параметры соединения и слот репликации, если его использует pg_basebackup, так что впоследствии при потоковой репликации и синхронизации слотов логической репликации будут использоваться те же параметры. Имя базы данных будет записано, только если оно явно указано в строке подключения или в переменной среды.-tполучатель--target=получательУказывает серверу, куда отправлять созданную копию. Получателем по умолчанию является
client, то есть резервная копия будет отправлена на компьютер, где работает pg_basebackup. Если же в качестве получателя установленоserver:/some/path, резервная копия будет сохранена на компьютере, где работает сервер, в каталоге/some/path. Для сохранения резервной копии на сервере требуются права суперпользователя или ролиpg_write_server_files. Если в качестве получателя указатьblackhole, содержимое копии отправляется в «чёрную дыру» и нигде не сохраняется. Этот вариант следует использовать только в целях тестирования, так как собственно резервной копии вы не получите.Так как приём потока WAL реализован в pg_basebackup, а не на стороне сервера, этот параметр нельзя использовать вместе с
-Xstream. Так как режим-Xstreamиспользуется по умолчанию, указывая данный параметр, необходимо также указать либо-Xfetch, либо-Xnone.-Tстарый_каталог=новый_каталог--tablespace-mapping=старый_каталог=новый_каталогПереместить табличное пространство из
старого_каталогавновый_каталогв процессе копирования. Чтобы перемещение произошло, в параметрестарый_каталогпуть табличного пространства должен задаваться в точности так, как он определён на исходном сервере. (Но не будет ошибкой, если на исходном сервере не окажется табличного пространства, на которое указываетстарый_каталог.) В то же время,новый_каталогзадаёт путь в файловой системе получающего сервера. Как и основной целевой каталог,новый_каталогможет не существовать, но если он существует, он должен быть пустым. Истарый_каталог, иновый_каталогдолжны задаваться абсолютными путями. Если в пути встречается символ=, его необходимо экранировать обратной косой чертой. Этот параметр можно добавить несколько раз для нескольких табличных пространств.Если табличное пространство перемещается таким способом, символические ссылки внутри основного каталога хранения данных также приводятся в соответствие с новым местоположением. Таким образом, для экземпляра сервера подготавливается новый каталог данных, в котором все табличные пространства оказываются в новом расположении.
В настоящее время этот параметр работает только с обычным форматом вывода; если выбран формат tar, параметр игнорируется.
--waldir=каталог_walЗадать каталог, в который будут записаны файлы WAL (журнал предзаписи). По умолчанию файлы WAL будут записываться в подкаталог
pg_walцелевого каталога, но с помощью этого параметра их можно поместить в любое место. Путькаталог_walдолжен быть абсолютным. Как и основной целевой каталог,каталог_walможет не существовать, но если он существует, он должен быть пустым. Этот параметр можно задать, только если копия создаётся в простом формате.-Xметод--wal-method=методВключает в резервную копию все необходимые файлы журнала предзаписи (файлы WAL). В том числе включаются все файлы журнала, сгенерированные в процессе создания резервной копии. Любой метод, кроме
none, позволяет запустить сервер с восстановленным каталогом, не используя архив WAL; таким образом будет получена полностью самодостаточная резервная копия.Поддерживаются следующие
методыполучения журналов предзаписи:nnoneНе включать журналы предзаписи в резервную копию.
ffetchФайлы журнала предзаписи собираются в конце процесса копирования. Таким образом необходимо установить достаточно большое значение параметра wal_keep_size, чтобы избежать преждевременного удаления нужных данных журнала. В случае переработки этих данных до завершения процесса копирования возникнет ошибка, а копия будет непригодной к использованию.
Когда используется формат tar, файлы журнала предзаписи включаются в архив
base.tar.sstreamПередавать журнал предзаписи в процессе создания резервной копии. При выборе этого метода открывается второе соединение к серверу, через которое будет передаваться журнал предзаписи параллельно с созданием копии. Таким образом, этот метод требует использования не одного, а двух соединений репликации, но если клиент будет успевать получать данные журнала предзаписи, на исходном сервере не потребуется сохранять дополнительные журналы.
Когда используется формат tar, файлы журнала предзаписи сохраняются в отдельном архиве с именем
pg_wal.tar(если версия сервера ниже 10, файл будет называтьсяpg_xlog.tar).Это значение по умолчанию.
-z--gzipВключает gzip-сжатие выводимого tar-файла с уровнем компрессии по умолчанию. Сжатие поддерживается только для формата tar, при этом ко всем именам файлов tar добавляется суффикс
.gz.-Zуровень-Z [{client|server}-]метод[:дополнительная_информация]--compress=уровень--compress=[{client|server}-]метод[:дополнительная_информация]Запрашивает сжатие резервной копии. Если добавляется префикс
clientилиserver, он указывает, где должно выполняться сжатие. Когда сжатие выполняет сервер, объём передаваемых данных уменьшается, но увеличивается нагрузка на процессор сервера. По умолчанию используетсяclient, за исключением случаев, когда используется ключ--target. В этих случаях резервная копия не передаётся клиенту, поэтому смысл имеет только сжатие на стороне сервера. В режиме-Xstream(выбираемом по умолчанию) сжатие на стороне сервера не распространяется на WAL. Чтобы WAL сжимался, примените сжатие на стороне клиента или используйте режим-Xfetch.В качестве метода сжатия можно выбрать
gzip,lz4,zstd,noneбез сжатия или целое число (если задать 0 — без сжатия, если больше нуля —gzip). В качестве дополнительной информации можно передать параметры сжатия. Если в строке информации передаётся целое число, оно задаёт уровень сжатия. В противном случае она должна содержать список элементов, разделённых запятыми, в формеключевое_словоилиключевое_слово=значение. На данный момент поддерживаются ключевые словаlevel,longиworkers. Если метод сжатия задан целым числом, строку информации использовать нельзя.Если уровень сжатия не указан, будет выбран уровень сжатия по умолчанию. Если указан только уровень сжатия, но не указан метод, будет применяться метод сжатия
gzip, когда уровень больше 0, а когда уровень равен 0, сжатие не будет выполняться.Когда формат tar сжимается методом
gzip,lz4илиzstd, ко всем именам файлов tar автоматически добавляется суффикс.gz,.lz4или.zstсоответственно. Когда используется простой формат, сжатие на стороне клиента выполнить нельзя, но при этом можно запросить сжатие на стороне сервера. В таком случае сервер будет сжимать копию для передачи, а клиент будет распаковывать и извлекать из неё данные.Когда этот параметр используется в сочетании с
-Xstream,pg_wal.tarбудет сжат методомgzip, если выбрано сжатие gzip на стороне клиента, и не будет сжат, если выбран любой другой алгоритм сжатия или выбрано сжатие на стороне сервера.
Описанные далее аргументы командной строки управляют формированием резервной копии и вызовом программы:
-c {fast|spread}--checkpoint={fast|spread}Устанавливает режим контрольных точек: fast (быстрый) или spread (протяжённый, по умолчанию). Подробнее см. Подраздел 25.3.4.
-C--create-slotУказывает, что до начала копирования должен быть создан слот репликации с именем, заданным в
--slot. Если такой слот уже существует, выдаётся ошибка.-lметка--label=меткаУстанавливает метку для созданной резервной копии. Если не указана, то по умолчанию будет использовано значение «
pg_basebackup base backup».-n--no-cleanПо умолчанию, когда программа
pg_basebackupпрерывается с ошибкой, она удаляет все каталоги, которые она могла создать, прежде чем обнаружила, что не может завершить задание (например, целевой каталог и каталог журнала предзаписи). Данный ключ отключает эту очистку и тем самым полезен для отладки.Заметьте, что каталоги табличных пространств не очищаются в любом случае.
-N--no-syncПо умолчанию
pg_basebackupждёт, пока все файлы не будут надёжно записаны на диск. С данным параметромpg_basebackupзавершается немедленно, то есть выполняется быстрее, но в случае неожиданного сбоя операционной системы резервная копия может оказаться испорченной. Вообще этот параметр предназначен прежде всего для тестирования, для производственной среды он не подходит.-P--progressВключает отчёт о прогрессе. Если этот режим включён, то во время создания копии будет передаваться примерный процент выполнения. Так как данные в базе могут меняться во время копирования, это значение будет лишь приближённым и может достигать не точно
100%. В частности, когда в копию включается журнал WAL, конечный размер невозможно предсказать заранее, и в этом случае ожидаемый конечный размер будет увеличиваться, превысив ориентировочный полный размер без WAL.-rскорость_передачи--max-rate=скорость_передачиЗадаёт максимальную скорость, с которой данные будут загружаться с исходного сервера. Это может быть полезно для ограничения влияния pg_basebackup на сервер. Значение параметра задаётся в килобайтах в секунду. Для указания мегабайт в секунду нужно добавить к числу суффикс
M. Так же принимается суффиксk, но он ничего не меняет. Допустимые значения лежат в диапазоне от 32 КБ/с до 1024 МБ/с.Этот параметр всегда оказывает влияние на передачу каталога данных, а на передачу файлов WAL он влияет, только если выбран метод передачи
fetch.-Sимя_слота--slot=имя_слотаЭтот параметр может применяться только вместе с
-X stream. Он выбирает слот репликации, который будет использоваться для передачи WAL. Если базовая копия предназначена для использования на ведомом сервере с потоковой репликацией через слот, это же имя слота должно задаваться на ведомом в качестве primary_slot_name. Тем самым гарантируется, что ведущий сервер не удалит никакие необходимые данные WAL после того, как базовая копия будет получена, и до того, как начнётся потоковая репликация на новом ведомом.В случае отсутствия ключа
-Cтребуется, чтобы указанный слот репликации уже существовал.Если этот ключ не указан и сервер поддерживает временные слоты репликации (они появились в версии 10), для трансляции WAL автоматически используется временный слот репликации.
--sync-method=методСо значением
fsync(по умолчанию)pg_basebackupбудет рекурсивно открывать и синхронизировать все файлы в каталоге резервных копий. При использовании простого формата поиск файлов будет осуществляться по символическим ссылкам для каталога WAL и каждого настроенного табличного пространства.В Linux возможен вариант
syncfs, когда от ОС требуется синхронизировать целиком файловую систему, содержащую каталог резервных копий. При использовании простого форматаpg_basebackupтакже синхронизирует файловые системы, содержащие файлы WAL и табличные пространства. Более подробно особенности использованияsyncfsописаны в recovery_init_sync_method.В режиме
--no-syncэтот параметр не оказывает никакого влияния.-v--verboseВключает режим подробного вывода. Будет выводится некоторая дополнительная информация при начале и завершении, а также имена обрабатываемых файлов, если включён отчёт о прогрессе.
--manifest-checksums=алгоритмЗадаёт алгоритм контрольных сумм, которые будут рассчитываться для всех файлов, описанных в манифесте копии. В настоящее время поддерживаются алгоритмы
NONE(отсутствует),CRC32C,SHA224,SHA256,SHA384иSHA512. По умолчанию применяетсяCRC32C.Если выбран вариант
NONE, манифест копии не будет содержать контрольные суммы. С любым другим вариантом в манифест будет записана контрольная сумма каждого файла в копии, рассчитанная по выбранному алгоритму. Помимо этого, в манифесте всегда сохраняется контрольная сумма его содержимого, рассчитанная по алгоритмуSHA256. Алгоритмы семействаSHAтребуют значительно больше процессорных ресурсов, чемCRC32C, поэтому выбор такого алгоритма может повлечь увеличение времени создания копии.Функции хеширования SHA обеспечивают криптографическую стойкость хеша каждого файла, и таким образом полезны, когда нужны гарантии, что резервная копия не была модифицирована. С другой стороны, алгоритм CRC32C вычисляет контрольную сумму гораздо быстрее и вполне подходит для выявления изменений, внесённых не злонамеренно, а случайно. Заметьте, что такая защита от злоумышленника, имеющего доступ к сохранённой копии, будет эффективна, только если манифест копии хранится отдельно в безопасном месте или ещё каким-то образом проверяется, что манифест не был изменён с момента создания копии.
Для проверки целостности копии по созданному манифесту можно воспользоваться программой pg_verifybackup.
--manifest-force-encodeПринудительно включает шестнадцатеричное кодирование всех имён файлов в манифесте. Если этот параметр не задаётся, в шестнадцатеричном виде кодируются только имена файлов не в кодировке UTF-8. Этот параметр в первую очередь предназначен для проверки того, что средства чтения манифеста могут правильно разобрать такие имена.
--no-estimate-sizeОтключает расчёт примерного объёма данных, которые будут передаваться в процессе копирования, в результате чего столбец
backup_totalв представленииpg_stat_progress_basebackupбудет содержатьNULL.Без этого указания процесс копирования начнётся с перечисления файлов для подсчёта размера всей базы данных, а затем продолжится отправкой непосредственно данных. Это может немного увеличить общую длительность процесса, в частности, пройдёт больше времени до начала передачи данных. Данный параметр полезен, когда время расчёта объёма оказывается слишком большим.
Этот параметр нельзя использовать вместе с параметром
--progress.--no-manifestОтключает создание манифеста копии. Если этот флаг не указан, сервер будет формировать и передавать в составе копии манифест, который может быть проверен с использованием pg_verifybackup. Манифест представляет собой список всех файлов, включённых в копию, за исключением файлов WAL, которые могут быть в неё добавлены. Также в нём сохраняется размер, дата последнего изменения и, возможно, контрольная сумма каждого файла.
--no-slotПредотвращает создание временного слота репликации для резервного копирования.
По умолчанию, если выбрана передача журнала, но имя слота в
-Sне задано, создаётся временный слот репликации (при условии, что это поддерживает исходный сервер).Основное предназначение этого ключа в том, чтобы можно было сделать базовую резервную копию, когда на сервере нет свободных слотов репликации. Использование слота репликации почти всегда предпочтительнее, так как при этом предотвращается удаление сервером необходимых файлов WAL во время резервного копирования.
--no-verify-checksumsОтключает проверку контрольных сумм, если они включены на сервере, с которого делается резервная копия.
По умолчанию контрольные суммы проверяются, и при выявлении их несоответствия выдаётся ненулевой код завершения. Однако базовая резервная копия в этом случае не удаляется, как и с ключом
--no-clean. Ошибки контрольных сумм также можно просмотреть в представленииpg_stat_database.
Далее описаны параметры, управляющие подключением к исходному серверу:
-dстрока_подключения--dbname=строка_подключенияУказывает параметры подключения к серверу в формате строки подключения; они будут переопределять любые одноимённые параметры, заданные в командной строке.
Этот параметр называется
--dbnameдля согласованности с другими клиентскими приложениями, но так как pg_receivewal не подключается к какой-либо конкретной базе данных, любое имя базы данных в строке подключения игнорируется сервером. Тем не менее переданное таким образом имя базы данных переопределяет имя по умолчанию (replication) для поиска пароля соединения репликации в~/.pgpass. Подобным образом это имя может использоваться при подключении через средний слой или прокси-сервер для, например, маршрутизации соединения. Имя базы данных также может использоваться при синхронизации слотов логической репликации.-hсервер--host=серверУказывает имя компьютера, на котором работает сервер. Если значение начинается с косой черты, оно определяет каталог Unix-сокета. Значение по умолчанию берётся из переменной окружения
PGHOST, если она установлена. В противном случае выполняется подключение к Unix-сокету.-pпорт--port=портУказывает TCP-порт или расширение файла локального Unix-сокета, через который сервер принимает подключения. Значение по умолчанию определяется переменной окружения
PGPORT, если она установлена, либо числом, заданным при компиляции.-sinterval--status-interval=intervalУказывает интервал в секундах между сообщениями о состоянии, передаваемыми исходному серверу. Чем меньше указанное значение, тем точнее будет информация о процессе резервного копирования на сервере. Нулевое значение полностью отключает периодическое обновление состояния, хотя эти сообщения будут всё равно посылаться по запросу сервера во избежание отключения по тайм-ауту. Значение по умолчанию — 10 секунд.
-Uимя_пользователя--username=имя_пользователяЗадаёт имя пользователя для подключения.
-w--no-passwordНе выдавать запрос на ввод пароля. Если сервер требует аутентификацию по паролю и пароль нельзя получить другими средствами, например из файла
.pgpass, попытка соединения не удастся. Этот параметр может быть полезен в пакетных заданиях и скриптах, где нет пользователя, который вводит пароль.-W--passwordПринудительно запрашивать пароль перед подключением к исходному серверу.
Это несущественный параметр, так как pg_basebackup запрашивает пароль автоматически, если сервер проверяет подлинность по паролю. Однако чтобы понять это, pg_basebackup лишний раз подключается к серверу. Поэтому иногда имеет смысл ввести
-W, чтобы исключить эту ненужную попытку подключения.
Другие флаги:
-V--versionВывести версию pg_basebackup и завершиться.
-?--helpВывести справку по аргументам командной строки pg_basebackup и завершиться.
Переменные окружения
Как и большинство других утилит Postgres Pro, приложение также использует переменные окружения, поддерживаемые libpq (см. Раздел 36.15).
Переменная окружения PG_COLOR выбирает вариант использования цвета в диагностических сообщениях. Возможные значения: always (всегда), auto (автоматически) и never (никогда).
Примечания
До начала копирования на исходном сервере необходимо выполнить контрольную точку. И если копирование запускается без ключа --checkpoint=fast, это может занять некоторое время, в течение которого pg_basebackup не будет проявлять никакой активности.
Резервная копия будет включать в себя все файлы каталога хранения данных и табличных пространств, а также конфигурационные файлы и прочие файлы, размещённые в каталоге данных, за исключением определённых временных файлов, принадлежащих Postgres Pro, и файлов операционной системы. Однако копируются лишь простые файлы и каталоги, кроме них, сохраняются только символические ссылки на табличные пространства. Символические ссылки, указывающие на определённые каталоги, известные Postgres Pro, копируются как пустые каталоги. Другие символические ссылки и файлы спецустройств игнорируются. За дополнительными подробностями обратитесь к Разделу 57.4.
Если не указан параметр --tablespace-mapping, в простом формате табличные пространства будут копироваться в тот же путь, который они имеют на исходном сервере. Поэтому при наличии табличных пространств создать базовую копию в простом формате на том же сервере не удастся, так как копия будет направлена в те же каталоги, где располагаются исходные табличные пространства.
Когда применяется формат tar, пользователь должен позаботиться о том, чтобы все архивы tar были распакованы до запуска сервера Postgres Pro, который будет работать с этими данными. Если имеются дополнительные табличные пространства, архивы tar для них должны быть распакованы в правильные каталоги. В таком случае для этих табличных пространств сервером будут созданы символические ссылки согласно содержимому файла tablespace_map, включённого в архив base.tar.
pg_basebackup совместим с серверами той же или более младших версий, но не ниже версии 9.1. Однако режим трансляции WAL (-X stream) работает только с серверами версии 9.3 и новее, формат tar (--format=tar) поддерживается только с версиями не ниже 9.5, а инкрементальное резервное копирование (--incremental) поддерживается только с версиями 17 и новее.
pg_basebackup сохранит разрешения для группы, установленные для файлов данных, если такие разрешения были включены в исходном кластере.
Примеры
Создание резервной копии сервера mydbserver и сохранение её в локальном каталоге /usr/local/pgsql/data:
$pg_basebackup -h mydbserver -D /usr/local/pgsql/data
Создание резервной копии локального сервера в отдельных сжатых файлах tar для каждого табличного пространства и сохранение их в каталоге backup с индикатором прогресса в процессе выполнения:
$pg_basebackup -D backup -Ft -z -P
Создание резервной копии локальной базы данных с одним табличным пространством и сжатие её с помощью bzip2:
$pg_basebackup -D - -Ft -X fetch | bzip2 > backup.tar.bz2
(Эта команда прервётся с ошибкой, если в базе данных будет несколько табличных пространств.)
Создание резервной копии локальной базы данных с перемещением табличного пространства /opt/ts в ./backup/ts:
$pg_basebackup -D backup/data -T /opt/ts=$(pwd)/backup/ts
Создание резервной копии локального сервера в отдельных сжатых файлах tar для каждого табличного пространства (при этом используется метод сжатия gzip и уровень сжатия 9) и сохранение их в каталоге backup:
$pg_basebackup -D backup -Ft --compress=gzip:9
См. также
pg_dump, Подраздел 28.4.6pg_basebackup
pg_basebackup — take a base backup of a Postgres Pro cluster
Synopsis
pg_basebackup [option...]
Description
pg_basebackup is used to take a base backup of a running Postgres Pro database cluster. The backup is taken without affecting other clients of the database, and can be used both for point-in-time recovery (see Section 25.3) and as the starting point for a log-shipping or streaming-replication standby server (see Section 26.2).
pg_basebackup can take a full or incremental base backup of the database. When used to take a full backup, it makes an exact copy of the database cluster's files. When used to take an incremental backup, some files that would have been part of a full backup may be replaced with incremental versions of the same files, containing only those blocks that have been modified since the reference backup. An incremental backup cannot be used directly; instead, pg_combinebackup must first be used to combine it with the previous backups upon which it depends. See Section 25.3.3 for more information about incremental backups, and Section 25.3.5 for steps to recover from a backup.
In any mode, pg_basebackup makes sure the server is put into and out of backup mode automatically. Backups are always taken of the entire database cluster; it is not possible to back up individual databases or database objects. For selective backups, another tool such as pg_dump must be used.
The backup is made over a regular Postgres Pro connection that uses the replication protocol. The connection must be made with a user ID that has REPLICATION permissions (see Section 21.2) or is a superuser, and pg_hba.conf must permit the replication connection. The server must also be configured with max_wal_senders set high enough to provide at least one walsender for the backup plus one for WAL streaming (if used).
There can be multiple pg_basebackups running at the same time, but it is usually better from a performance point of view to take only one backup, and copy the result.
pg_basebackup can make a base backup from not only a primary server but also a standby. To take a backup from a standby, set up the standby so that it can accept replication connections (that is, set max_wal_senders and hot_standby, and configure its pg_hba.conf appropriately). You will also need to enable full_page_writes on the primary.
Note that there are some limitations in taking a backup from a standby:
The backup history file is not created in the database cluster backed up.
pg_basebackup cannot force the standby to switch to a new WAL file at the end of backup. When you are using
-X none, if write activity on the primary is low, pg_basebackup may need to wait a long time for the last WAL file required for the backup to be switched and archived. In this case, it may be useful to runpg_switch_walon the primary in order to trigger an immediate WAL file switch.If the standby is promoted to be primary during backup, the backup fails.
All WAL records required for the backup must contain sufficient full-page writes, which requires you to enable
full_page_writeson the primary.
Whenever pg_basebackup is taking a base backup, the server's pg_stat_progress_basebackup view will report the progress of the backup. See Section 28.4.6 for details.
Options
The following command-line options control the location and format of the output:
-Ddirectory--pgdata=directorySets the target directory to write the output to. pg_basebackup will create this directory (and any missing parent directories) if it does not exist. If it already exists, it must be empty.
When the backup is in tar format, the target directory may be specified as
-(dash), causing the tar file to be written tostdout.This option is required.
-Fformat--format=formatSelects the format for the output.
formatcan be one of the following:pplainWrite the output as plain files, with the same layout as the source server's data directory and tablespaces. When the cluster has no additional tablespaces, the whole database will be placed in the target directory. If the cluster contains additional tablespaces, the main data directory will be placed in the target directory, but all other tablespaces will be placed in the same absolute path as they have on the source server. (See
--tablespace-mappingto change that.)This is the default format.
ttarWrite the output as tar files in the target directory. The main data directory's contents will be written to a file named
base.tar, and each other tablespace will be written to a separate tar file named after that tablespace's OID.If the target directory is specified as
-(dash), the tar contents will be written to standard output, suitable for piping to (for example) gzip. This is only allowed if the cluster has no additional tablespaces and WAL streaming is not used.
-iold_manifest_file--incremental=old_manifest_filePerforms an incremental backup. The backup manifest for the reference backup must be provided, and will be uploaded to the server, which will respond by sending the requested incremental backup.
-R--write-recovery-confCreates a
standby.signalfile and appends connection settings to thepostgresql.auto.conffile in the target directory (or within the base archive file when using tar format). This eases setting up a standby server using the results of the backup.The
postgresql.auto.conffile will record the connection settings and, if specified, the replication slot that pg_basebackup is using, so that streaming replication and logical replication slot synchronization will use the same settings later on. The dbname will be recorded only if the dbname was specified explicitly in the connection string or environment variable.-ttarget--target=targetInstructs the server where to place the base backup. The default target is
client, which specifies that the backup should be sent to the machine where pg_basebackup is running. If the target is instead set toserver:/some/path, the backup will be stored on the machine where the server is running in the/some/pathdirectory. Storing a backup on the server requires superuser privileges or having privileges of thepg_write_server_filesrole. If the target is set toblackhole, the contents are discarded and not stored anywhere. This should only be used for testing purposes, as you will not end up with an actual backup.Since WAL streaming is implemented by pg_basebackup rather than by the server, this option cannot be used together with
-Xstream. Since that is the default, when this option is specified, you must also specify either-Xfetchor-Xnone.-Tolddir=newdir--tablespace-mapping=olddir=newdirRelocates the tablespace in directory
olddirtonewdirduring the backup. To be effective,olddirmust exactly match the path specification of the tablespace as it is defined on the source server. (But it is not an error if there is no tablespace inolddiron the source server.) Meanwhilenewdiris a directory in the receiving host's filesystem. As with the main target directory,newdirneed not exist already, but if it does exist it must be empty. Botholddirandnewdirmust be absolute paths. If either path needs to contain an equal sign (=), precede that with a backslash. This option can be specified multiple times for multiple tablespaces.If a tablespace is relocated in this way, the symbolic links inside the main data directory are updated to point to the new location. So the new data directory is ready to be used for a new server instance with all tablespaces in the updated locations.
Currently, this option only works with plain output format; it is ignored if tar format is selected.
--waldir=waldirSets the directory to write WAL (write-ahead log) files to. By default WAL files will be placed in the
pg_walsubdirectory of the target directory, but this option can be used to place them elsewhere.waldirmust be an absolute path. As with the main target directory,waldirneed not exist already, but if it does exist it must be empty. This option can only be specified when the backup is in plain format.-Xmethod--wal-method=methodIncludes the required WAL (write-ahead log) files in the backup. This will include all write-ahead logs generated during the backup. Unless the method
noneis specified, it is possible to start a postmaster in the target directory without the need to consult the WAL archive, thus making the output a completely standalone backup.The following
methods for collecting the write-ahead logs are supported:nnoneDon't include write-ahead logs in the backup.
ffetchThe write-ahead log files are collected at the end of the backup. Therefore, it is necessary for the source server's wal_keep_size parameter to be set high enough that the required log data is not removed before the end of the backup. If the required log data has been recycled before it's time to transfer it, the backup will fail and be unusable.
When tar format is used, the write-ahead log files will be included in the
base.tarfile.sstreamStream write-ahead log data while the backup is being taken. This method will open a second connection to the server and start streaming the write-ahead log in parallel while running the backup. Therefore, it will require two replication connections not just one. As long as the client can keep up with the write-ahead log data, using this method requires no extra write-ahead logs to be saved on the source server.
When tar format is used, the write-ahead log files will be written to a separate file named
pg_wal.tar(if the server is a version earlier than 10, the file will be namedpg_xlog.tar).This value is the default.
-z--gzipEnables gzip compression of tar file output, with the default compression level. Compression is only available when using the tar format, and the suffix
.gzwill automatically be added to all tar filenames.-Zlevel-Z [{client|server}-]method[:detail]--compress=level--compress=[{client|server}-]method[:detail]Requests compression of the backup. If
clientorserveris included, it specifies where the compression is to be performed. Compressing on the server will reduce transfer bandwidth but will increase server CPU consumption. The default isclientexcept when--targetis used. In that case, the backup is not being sent to the client, so only server compression is sensible. When-Xstream, which is the default, is used, server-side compression will not be applied to the WAL. To compress the WAL, use client-side compression, or specify-Xfetch.The compression method can be set to
gzip,lz4,zstd,nonefor no compression or an integer (no compression if 0,gzipif greater than 0). A compression detail string can optionally be specified. If the detail string is an integer, it specifies the compression level. Otherwise, it should be a comma-separated list of items, each of the formkeywordorkeyword=value. Currently, the supported keywords arelevel,long, andworkers. The detail string cannot be used when the compression method is specified as a plain integer.If no compression level is specified, the default compression level will be used. If only a level is specified without mentioning an algorithm,
gzipcompression will be used if the level is greater than 0, and no compression will be used if the level is 0.When the tar format is used with
gzip,lz4, orzstd, the suffix.gz,.lz4, or.zst, respectively, will be automatically added to all tar filenames. When the plain format is used, client-side compression may not be specified, but it is still possible to request server-side compression. If this is done, the server will compress the backup for transmission, and the client will decompress and extract it.When this option is used in combination with
-Xstream,pg_wal.tarwill be compressed usinggzipif client-side gzip compression is selected, but will not be compressed if any other compression algorithm is selected, or if server-side compression is selected.
The following command-line options control the generation of the backup and the invocation of the program:
-c {fast|spread}--checkpoint={fast|spread}Sets checkpoint mode to fast (immediate) or spread (the default) (see Section 25.3.4).
-C--create-slotSpecifies that the replication slot named by the
--slotoption should be created before starting the backup. An error is raised if the slot already exists.-llabel--label=labelSets the label for the backup. If none is specified, a default value of “
pg_basebackup base backup” will be used.-n--no-cleanBy default, when
pg_basebackupaborts with an error, it removes any directories it might have created before discovering that it cannot finish the job (for example, the target directory and write-ahead log directory). This option inhibits tidying-up and is thus useful for debugging.Note that tablespace directories are not cleaned up either way.
-N--no-syncBy default,
pg_basebackupwill wait for all files to be written safely to disk. This option causespg_basebackupto return without waiting, which is faster, but means that a subsequent operating system crash can leave the base backup corrupt. Generally, this option is useful for testing but should not be used when creating a production installation.-P--progressEnables progress reporting. Turning this on will deliver an approximate progress report during the backup. Since the database may change during the backup, this is only an approximation and may not end at exactly
100%. In particular, when WAL log is included in the backup, the total amount of data cannot be estimated in advance, and in this case the estimated target size will increase once it passes the total estimate without WAL.-rrate--max-rate=rateSets the maximum transfer rate at which data is collected from the source server. This can be useful to limit the impact of pg_basebackup on the server. Values are in kilobytes per second. Use a suffix of
Mto indicate megabytes per second. A suffix ofkis also accepted, and has no effect. Valid values are between 32 kilobytes per second and 1024 megabytes per second.This option always affects transfer of the data directory. Transfer of WAL files is only affected if the collection method is
fetch.-Sslotname--slot=slotnameThis option can only be used together with
-X stream. It causes WAL streaming to use the specified replication slot. If the base backup is intended to be used as a streaming-replication standby using a replication slot, the standby should then use the same replication slot name as primary_slot_name. This ensures that the primary server does not remove any necessary WAL data in the time between the end of the base backup and the start of streaming replication on the new standby.The specified replication slot has to exist unless the option
-Cis also used.If this option is not specified and the server supports temporary replication slots (version 10 and later), then a temporary replication slot is automatically used for WAL streaming.
--sync-method=methodWhen set to
fsync, which is the default,pg_basebackupwill recursively open and synchronize all files in the backup directory. When the plain format is used, the search for files will follow symbolic links for the WAL directory and each configured tablespace.On Linux,
syncfsmay be used instead to ask the operating system to synchronize the whole file system that contains the backup directory. When the plain format is used,pg_basebackupwill also synchronize the file systems that contain the WAL files and each tablespace. See recovery_init_sync_method for information about the caveats to be aware of when usingsyncfs.This option has no effect when
--no-syncis used.-v--verboseEnables verbose mode. Will output some extra steps during startup and shutdown, as well as show the exact file name that is currently being processed if progress reporting is also enabled.
--manifest-checksums=algorithmSpecifies the checksum algorithm that should be applied to each file included in the backup manifest. Currently, the available algorithms are
NONE,CRC32C,SHA224,SHA256,SHA384, andSHA512. The default isCRC32C.If
NONEis selected, the backup manifest will not contain any checksums. Otherwise, it will contain a checksum of each file in the backup using the specified algorithm. In addition, the manifest will always contain aSHA256checksum of its own contents. TheSHAalgorithms are significantly more CPU-intensive thanCRC32C, so selecting one of them may increase the time required to complete the backup.Using a SHA hash function provides a cryptographically secure digest of each file for users who wish to verify that the backup has not been tampered with, while the CRC32C algorithm provides a checksum that is much faster to calculate; it is good at catching errors due to accidental changes but is not resistant to malicious modifications. Note that, to be useful against an adversary who has access to the backup, the backup manifest would need to be stored securely elsewhere or otherwise verified not to have been modified since the backup was taken.
pg_verifybackup can be used to check the integrity of a backup against the backup manifest.
--manifest-force-encodeForces all filenames in the backup manifest to be hex-encoded. If this option is not specified, only non-UTF8 filenames are hex-encoded. This option is mostly intended to test that tools which read a backup manifest file properly handle this case.
--no-estimate-sizePrevents the server from estimating the total amount of backup data that will be streamed, resulting in the
backup_totalcolumn in thepg_stat_progress_basebackupview always beingNULL.Without this option, the backup will start by enumerating the size of the entire database, and then go back and send the actual contents. This may make the backup take slightly longer, and in particular it will take longer before the first data is sent. This option is useful to avoid such estimation time if it's too long.
This option is not allowed when using
--progress.--no-manifestDisables generation of a backup manifest. If this option is not specified, the server will generate and send a backup manifest which can be verified using pg_verifybackup. The manifest is a list of every file present in the backup with the exception of any WAL files that may be included. It also stores the size, last modification time, and an optional checksum for each file.
--no-slotPrevents the creation of a temporary replication slot for the backup.
By default, if log streaming is selected but no slot name is given with the
-Soption, then a temporary replication slot is created (if supported by the source server).The main purpose of this option is to allow taking a base backup when the server has no free replication slots. Using a replication slot is almost always preferred, because it prevents needed WAL from being removed by the server during the backup.
--no-verify-checksumsDisables verification of checksums, if they are enabled on the server the base backup is taken from.
By default, checksums are verified and checksum failures will result in a non-zero exit status. However, the base backup will not be removed in such a case, as if the
--no-cleanoption had been used. Checksum verification failures will also be reported in thepg_stat_databaseview.
The following command-line options control the connection to the source server:
-dconnstr--dbname=connstrSpecifies parameters used to connect to the server, as a connection string; these will override any conflicting command line options.
This option is called
--dbnamefor consistency with other client applications, but because pg_basebackup doesn't connect to any particular database in the cluster, any database name included in the connection string will be ignored by the server. However, a database name supplied that way overrides the default database name (replication) for purposes of looking up the replication connection's password in~/.pgpass. Similarly, middleware or proxies used in connecting to Postgres Pro might utilize the name for purposes such as connection routing. The database name can also be used by logical replication slot synchronization.-hhost--host=hostSpecifies the host name of the machine on which the server is running. If the value begins with a slash, it is used as the directory for a Unix domain socket. The default is taken from the
PGHOSTenvironment variable, if set, else a Unix domain socket connection is attempted.-pport--port=portSpecifies the TCP port or local Unix domain socket file extension on which the server is listening for connections. Defaults to the
PGPORTenvironment variable, if set, or a compiled-in default.-sinterval--status-interval=intervalSpecifies the number of seconds between status packets sent back to the source server. Smaller values allow more accurate monitoring of backup progress from the server. A value of zero disables periodic status updates completely, although an update will still be sent when requested by the server, to avoid timeout-based disconnects. The default value is 10 seconds.
-Uusername--username=usernameSpecifies the user name to connect as.
-w--no-passwordPrevents issuing a password prompt. If the server requires password authentication and a password is not available by other means such as a
.pgpassfile, the connection attempt will fail. This option can be useful in batch jobs and scripts where no user is present to enter a password.-W--passwordForces pg_basebackup to prompt for a password before connecting to the source server.
This option is never essential, since pg_basebackup will automatically prompt for a password if the server demands password authentication. However, pg_basebackup will waste a connection attempt finding out that the server wants a password. In some cases it is worth typing
-Wto avoid the extra connection attempt.
Other options are also available:
-V--versionPrints the pg_basebackup version and exits.
-?--helpShows help about pg_basebackup command line arguments, and exits.
Environment
This utility, like most other Postgres Pro utilities, uses the environment variables supported by libpq (see Section 36.15).
The environment variable PG_COLOR specifies whether to use color in diagnostic messages. Possible values are always, auto and never.
Notes
At the beginning of the backup, a checkpoint needs to be performed on the source server. This can take some time (especially if the option --checkpoint=fast is not used), during which pg_basebackup will appear to be idle.
The backup will include all files in the data directory and tablespaces, including the configuration files and any additional files placed in the directory by third parties, except certain temporary files managed by Postgres Pro and operating system files. But only regular files and directories are copied, except that symbolic links used for tablespaces are preserved. Symbolic links pointing to certain directories known to Postgres Pro are copied as empty directories. Other symbolic links and special device files are skipped. See Section 57.4 for the precise details.
In plain format, tablespaces will be backed up to the same path they have on the source server, unless the option --tablespace-mapping is used. Without this option, running a plain format base backup on the same host as the server will not work if tablespaces are in use, because the backup would have to be written to the same directory locations as the original tablespaces.
When tar format is used, it is the user's responsibility to unpack each tar file before starting a Postgres Pro server that uses the data. If there are additional tablespaces, the tar files for them need to be unpacked in the correct locations. In this case the symbolic links for those tablespaces will be created by the server according to the contents of the tablespace_map file that is included in the base.tar file.
pg_basebackup works with servers of the same or older major version, down to 9.1. However, WAL streaming mode (-X stream) only works with server version 9.3 and later, the tar format (--format=tar) only works with server version 9.5 and later, and incremental backup (--incremental) only works with server version 17 and later.
pg_basebackup will preserve group permissions for data files if group permissions are enabled on the source cluster.
Examples
To create a base backup of the server at mydbserver and store it in the local directory /usr/local/pgsql/data:
$pg_basebackup -h mydbserver -D /usr/local/pgsql/data
To create a backup of the local server with one compressed tar file for each tablespace, and store it in the directory backup, showing a progress report while running:
$pg_basebackup -D backup -Ft -z -P
To create a backup of a single-tablespace local database and compress this with bzip2:
$pg_basebackup -D - -Ft -X fetch | bzip2 > backup.tar.bz2
(This command will fail if there are multiple tablespaces in the database.)
To create a backup of a local database where the tablespace in /opt/ts is relocated to ./backup/ts:
$pg_basebackup -D backup/data -T /opt/ts=$(pwd)/backup/ts
To create a backup of the local server with one tar file for each tablespace compressed with gzip at level 9, stored in the directory backup:
$pg_basebackup -D backup -Ft --compress=gzip:9