P.3. Архитектура #

В чём отличие между секционированием и сегментированием в Postgres Pro Shardman?

Секционирование и сегментирование — это два разных уровня разделения данных в Postgres Pro Shardman:

Сегментирование — это распределение таблицы по узлам кластера. Данные физически разделяются между узлами кластера Postgres Pro Shardman.

Секционирование — это логическое разделение таблицы на одном сервере. Данные находятся на одном и том же сервере, просто разделены на несколько локальных файлов.

В чём отличие между мультиплексором в Postgres Pro Shardman и в postgres_fdw?

postgres_fdw использует один процесс для каждого клиента. В случае распределённой базы данных M соединений к N сегментам складываются в N*M соединений. Это создаёт значительные накладные расходы из-за переключения контекста процессора и использования памяти. Кроме того, postgres_fdw работал неэффективно — чтобы обработать простой запрос, последовательно отправлялось не менее пяти запросов и использовался неоптимальный текстовый формат для обмена данными.

Мультиплексор в Postgres Pro Shardman использует фиксированное количество рабочих процессов на узлах. Локальные обслуживающие процессы общаются со своим процессом маршрутизации/мультиплексора через быструю разделяемую память. Мультиплексоры разных серверов связаны между собой всего одним сетевым подключением. Таким образом, общее количество соединений в кластере сокращается до (N * (N - 1) + M). За дополнительной информацией обратитесь к Разделу 54.3.

Можно ли развернуть Postgres Pro Shardman в нескольких центрах обработки данных?

Развёртывание в нескольких ЦОД требует наличия высокоскоростной сети между ЦОД с задержкой менее 5 мс, предпочтительно с использованием «тёмного волокна».

Рекомендуется ли использовать балансировщик нагрузки между моим приложением и кластером Postgres Pro Shardman, например pgbouncer?

В общем случае рекомендуется использовать пул соединений для экономии ресурсов и соединений сервера. Использование пула соединений совместно с Postgres Pro Shardman возможно. Но учитывая, что Postgres Pro Shardman — это горизонтально масштабируемая система, применение пула соединений не всегда оправдано. Всё зависит от нагрузки.

Как Postgres Pro Shardman использует CSN для решения проблемы рассинхронизации времени?

Postgres Pro Shardman использует параметр csn_commit_delay, чтобы добавить искусственную задержку, в наносекундах. Если транзакция фиксируется на узле со спешащими системными часами, эта задержка заставляет узлы с отстающими часами ждать, пока их локальное время не сравняется со временем начала транзакции. Это гарантирует, что данная транзакция останется в прошлом для любого читателя, что предотвращает аномалию чтения неактуальных данных. Если рассинхронизация времени между серверами меньше скорости передачи сетевого пакета, искусственная задержка не требуется.

Какие уровни изоляции поддерживает Postgres Pro Shardman?

Postgres Pro Shardman поддерживает следующие уровни изоляции:

  • READ COMMITTED. В транзакции, работающей на этом уровне, запрос SELECT (без предложения FOR UPDATE/SHARE) видит только те данные, которые были зафиксированы до начала запроса; он никогда не увидит незафиксированных данных или изменений, внесённых параллельными транзакциями в процессе выполнения запроса.

  • REPEATABLE READ. Уровень изоляции по умолчанию. Этот уровень отличается от Read Committed тем, что запрос в транзакции данного уровня видит снимок данных на момент начала первого оператора в транзакции (не считая команд управления транзакциями), а не начала текущего оператора.

Поддерживает ли Postgres Pro Shardman уровень изоляции Serializable?

Postgres Pro Shardman не поддерживает уровень изоляции Serializable в операциях между сегментами.

Как работают двухфазные фиксации (2PC)?

Двухфазная фиксация в Postgres Pro Shardman работает следующим образом:

  • Стадия подготовки. Координатор запускает транзакцию во всех участвующих сегментах. Каждый сегмент выполняет требуемые операции и переходит в состояние готовности (PREPARE TRANSACTION), записывая изменения в свой локальный журнал предзаписи (WAL).

  • Стадия фиксации. Если все участники успешно завершили PREPARE TRANSACTION, координатор принимает решение фиксировать транзакцию. Сначала координатор записывает решение о фиксации в свой журнал (WAL/CLOG). Затем он даёт команду сегментам зафиксировать свои транзакции с помощью команды COMMIT PREPARED.

Обработка ошибок:

  • Если на координаторе происходит сбой после фиксации транзакции на его стороне, статус транзакции сохраняется в его журнале. После восстановления он использует эту информацию для восстановления статуса транзакции на своем узле.

  • Сегменты, чьи транзакции остаются в подготовленном состоянии (состоянии неопределённости), периодически запрашивают статус транзакции у координатора. Если координатор подтверждает, что транзакция была зафиксирована, они завершают её (COMMIT PREPARED). В противном случае они откатывают транзакцию (ROLLBACK PREPARED).

Этот механизм гарантирует атомарность и согласованность распределённых транзакций, если координатор может определить состояние незавершённых транзакций.

Как Postgres Pro Shardman решает проблему незавершённых распределённых транзакций при отказе одного из узлов во время двухфазной фиксации (2PC)?

В Postgres Pro Shardman на каждом сегменте запущен фоновый процесс — монитор. Он периодически сканирует кластер и проверяет статус подготовленных транзакций в состоянии InDoubt. Монитор автоматически завершает транзакцию (выполняет фиксацию или откат), как только отказавший узел возобновляет работу.

Что происходит с выполняющимися операциями вставки данных при перебалансировке нагрузки или добавлении сегмента?

Процесс перераспределения сегментов завершается изменением метаданных, которое атомарно переключает узел для хранения данных. До этого момента клиент не знает об изменении конфигурации и продолжает записывать данные на старый узел. Когда Postgres Pro Shardman изменяет метаданные, секция на короткое время блокируется для операций записи, и такие операции возвращают ошибку о том, что секция переносится. После изменения метаданных секция сразу же переносится на новый узел. Условие гонки не возникает.

Есть ли у Postgres Pro Shardman ограничение на количество запросов в секунду (RPS)?

В целом Postgres Pro Shardman хорошо справляется с сотнями тысяч запросов в секунду на десятках сегментов. Однако результат зависит от типа нагрузки.

Есть ли ограничение на количество сеансов на одном сегменте?

Теоретически для параметра max_connections можно установить значение вплоть до 262143. Однако на практике максимальное количество соединений с одним сегментом должно составлять около 10000.

FAQ