PostgreSQL: различия между версиями

Материал из ALT Linux Wiki
Строка 89: Строка 89:
su - postgres -s /bin/sh -c 'psql -f /tmp/posgresql postgres'</source>
su - postgres -s /bin/sh -c 'psql -f /tmp/posgresql postgres'</source>
== Continuous Archiving and Point-in-Time Recovery ==
== Continuous Archiving and Point-in-Time Recovery ==
Если в настройках сервера включено ведение журналов упреждающей записи (WAL), то появляется возможность резервного на уровне файловой системы с копированием журналов. В этом случае при сбое мы можем восстановить базу от контрольной точки до произвольного момента времени, после контрольной точки, с помощью файлов журналов.
Если в настройках сервера включено ведение журналов упреждающей записи (WAL), то появляется возможность резервного на уровне файловой системы с копированием журналов. В этом случае при сбое мы можем восстановить базу от контрольной точки до произвольного момента времени, после контрольной точки, с помощью файлов журналов. Подробнее об этом можно почитать [https://www.postgresql.org/docs/9.6/static/continuous-archiving.html здесь]
=== Настройка журналов WAL ===
=== Настройка журналов WAL ===
Для того, чтобы PostgreSQL начал писать файлы журналов необходимо изменить конфигурационный файл сервера {{path|/var/lib/pgsql/data/postgresql.conf}} следующим образом:
Для того, чтобы PostgreSQL начал писать файлы журналов необходимо изменить конфигурационный файл сервера {{path|/var/lib/pgsql/data/postgresql.conf}} следующим образом:
Строка 130: Строка 130:
-rw------- 1 postgres postgres 3977349 июл 12 18:26 000000010000001900000045</pre>
-rw------- 1 postgres postgres 3977349 июл 12 18:26 000000010000001900000045</pre>
Если они появляются значит журналирование настроены правильно.
Если они появляются значит журналирование настроены правильно.
=== Онлайн резервное копирование ===
==== Используя Low Level API ====
Использование низкоуровневого API подразумевает следующие шаги:
1. Убедитесь что журналирование включено и работает
2. Подключитесь к базе от имени суперпользователя:
<pre># su - postgres -s /bin/sh -c "psql"</pre>
Для начала резервного копирования выполните следующий запрос:
<pre>postgres=# select pg_start_backup('Full Backup - Testing');</pre>
Этот запрос может выполняться длительное время, так как создается контрольная точка и минимизируется влияние на текущие операции.<br>
Чтобы начать резервное копирование как можно быстрее (используя все ресурсы для создания контрольной точки) выполните команду с параметром {{cmd|true}}:
<pre>postgres=# select pg_start_backup('Full Backup - Testing',true);</pre>
Пример вывода команды <pre>pg_start_backup</pre>:
<pre>pg_start_backup
-----------------
1A/20000028
(1 строка)</pre>
3. Теперь можно делать файловое резервное копирование каталога с базой данных ({{path|/var/lib/pgsql/data}}) любыми удобными инструментами (cp, rsync и т.д.)<br>
4. После окончания резервирования подключитесь к базе снова и введите команду:
<pre>postgres=# select pg_stop_backup();</pre>
При этом сервер выйдет из режима резервного копирования и переключится на новый файл журнала (WAL). Переключение на новый файл журнала необходимо для того, чтобы все изменения произошедшие во время резервного копировоания сразу были доступны для архивирования.<br>
5. Теперь остается в дополнение к файловой резервной копии добавить файлы журналов, созданные во время резервирования. Для удобства в каталоге с журналами будет создан файл вида  {{path|000000010000001A00000020.00000028.backup}}, в котором находится информация о резервной копии. Первая часть имени этого файла <pre>000000010000001A00000020</pre> обозначает имя первого журнала WAL необходимого для востановления базы. Журналы с меньшим именем могут быть удалены.
==== С помощью команды pg_basebackup ====
Так же резервную копию можно создать использую команду '''pg_basebackup'''. Эта команда создает создает копию в виде файлов или архива tar.<br>
Для ее работы необходимо дополнительно настроить сервер базы данных ({{path|/var/lib/pgsql/data/postgresql.conf}}):
<pre>max_wal_senders = 1</pre>
И разрешить подсоединение пользователю postgres для репликации раскомментировать нужную строчку в файле {{path|/var/lib/pgsql/data/pg_hba.conf}}:
<pre>local  replication    postgres</pre>
Перезапустите сервер баз данных:
<pre># systemctl restart postgresql</pre>
Пример использования команды:
<pre># pg_basebackup -D /var/lib/pgsql/backup -F t -z -U postgres -w -c fast -l "pg_basebackup test backup"</pre>
Описание параметров команды:
*-D -- каталог для архивации (должен быть пустой)
*-F -- формат вывода (t - tar архив)
*-z -- сжимает выходной файл gzip
*-U -- пользователь для подключения к базе
*-w -- не запрашивать пароль
*-с -- режим создания контрольной точки (fast - быстрая)
*-l -- метка резервной копии
После выполнения команды в каталоге {{path|/var/lib/pgsql/backup}} появится архив {{path|base.tar.gz}}. А в каталоге с журналами будет создан файл с описанием резервной копии. В дополнение к резервной копии необходимо копировать архивы журналов.
[[Категория:СУБД]]
[[Категория:СУБД]]
[[Категория:Миграция]]
[[Категория:Миграция]]
{{Category navigation|title=HOWTO|category=HOWTO|sortkey={{SUBPAGENAME}}}}
{{Category navigation|title=HOWTO|category=HOWTO|sortkey={{SUBPAGENAME}}}}

Версия от 13:25, 13 июля 2017

Особенности работы с PostgreSQL в Альт.

Установка и начальный запуск

Вы можете выбрать сервер PostgreSQL определённой версии как обычный, так и предназначенный для работы 1С:Предприятие (содержит в имени 1C):

postgresql9.1-server
postgresql9.3-1C-server
postgresql9.3-server
postgresql9.4-1C-server
postgresql9.4-server
apt-get update
apt-get install postgresql9.4-server
Внимание! Перед запуском службы необходимо создать системные базы данных:
/etc/init.d/postgresql initdb
(через systemctl postgresql initdb не работает)


Запуск службы:

service postgresql start

Включение службы по умолчанию:

chkconfig postgresql on

Место расположения параметров настройки

PostgreSQL запускается в изолированном окружении (chroot, чрут): /var/lib/pgsql

Доступ по сети

По умолчанию доступ по сети выключен. Для того, чтобы включить, выполните:

echo "listen_addresses = 'localhost'" >> /var/lib/pgsql/data/postgresql.conf
Примечание: Обратите внимание, что доступ открыт только на localhost. Если хотите открыть на внешнем интерйесе, указывайте реальный адрес IP или имя узла.

Управление доступом

Для управления доступом, правьте файл /var/lib/pgsql/data/pg_hba.conf:

echo "host ПОЛЬЗОВАТЕЛЬ БАЗА 127.0.0.1/32 md5" >> /var/lib/pgsql/data/pg_hba.conf

не забудьте после всего этого перезапустить службу:

service postgresql restart

Работа под администратором

Для заведения пользователей и создания баз данных, переключитесь в учётную запись postgres:

su - postgres -s /bin/sh -c psql
# su - postgres -s /bin/sh -c psql
psql (9.4.5)
Введите "help", чтобы получить справку.

postgres=#
Примечание: Выход по Ctrl+D или командой quit


Создание пользователя

su - postgres -s /bin/sh -c 'createuser --no-superuser --no-createdb --no-createrole --encrypted --pwprompt ПОЛЬЗОВАТЕЛЬ'

Создание базы данных

su - postgres -s /bin/sh -c 'createdb -O ПОЛЬЗОВАТЕЛЬ БАЗА'

Просмотр доступных баз данных

# su - postgres -s /bin/sh -c 'psql -c "\l+"'                                                                          Список баз данных
    Имя     |  Владелец  | Кодировка | LC_COLLATE  |  LC_CTYPE   |     Права доступа     | Размер  | Табл. пространство |                  Описание                  
------------+------------+-----------+-------------+-------------+-----------------------+---------+--------------------+--------------------------------------------
 postfactor | postfactor | UTF8      | ru_RU.UTF-8 | ru_RU.UTF-8 |                       | 12 MB   | pg_default         | 
 postgres   | postgres   | UTF8      | ru_RU.UTF-8 | ru_RU.UTF-8 |                       | 6724 kB | pg_default         | default administrative connection database
 sogo       | sogo       | UTF8      | ru_RU.UTF-8 | ru_RU.UTF-8 | =Tc/sogo             +| 7572 kB | pg_default         | 
            |            |           |             |             | sogo=CTc/sogo         |         |                    | 
 template0  | postgres   | UTF8      | ru_RU.UTF-8 | ru_RU.UTF-8 | =c/postgres          +| 6601 kB | pg_default         | unmodifiable empty database
            |            |           |             |             | postgres=CTc/postgres |         |                    | 
 template1  | postgres   | UTF8      | ru_RU.UTF-8 | ru_RU.UTF-8 | =c/postgres          +| 6724 kB | pg_default         | default template for new databases
            |            |           |             |             | postgres=CTc/postgres |         |                    | 
(5 строк)

Имена баз в первом столбце.

Резервная копия всех баз данных

su - postgres -s /bin/sh -c 'pg_dumpall -f /tmp/posgresql'

Резервная копия будет в файле /tmp/posgresql.

Восстановление из резервной копии

Документация: https://www.postgresql.org/docs/9.0/static/migration.html

mv /var/lib/pgsql/data{,.old}
/etc/init.d/postgresql initdb
service postgresql start
su - postgres -s /bin/sh -c 'psql -f /tmp/posgresql postgres'

Continuous Archiving and Point-in-Time Recovery

Если в настройках сервера включено ведение журналов упреждающей записи (WAL), то появляется возможность резервного на уровне файловой системы с копированием журналов. В этом случае при сбое мы можем восстановить базу от контрольной точки до произвольного момента времени, после контрольной точки, с помощью файлов журналов. Подробнее об этом можно почитать здесь

Настройка журналов WAL

Для того, чтобы PostgreSQL начал писать файлы журналов необходимо изменить конфигурационный файл сервера /var/lib/pgsql/data/postgresql.conf следующим образом:

wal_level = archive # указывается уровень ведения журналов
archive_mode = on # разрешается ведение журналов
archive_command = '/var/lib/pgsql/bin/copy_wal.sh "%f" "%p"'

archive_command - это команда выполняемая сервером над журналом который надо архивировать. %p заменяется полным путем к файлу, %f заменяется именем файла. Простейшая команда это 'test ! -f /mnt/server/archivedir/%f && cp %p /mnt/server/archivedir/%f' она проверяет не был ли файл уже архивирован, и если не был то копирует его в каталог /mnt/server/archivedir/
Создадим каталог для архивных журналов и установим нужные права:

# mkdir /var/lib/pgsql/wals
# chown postgres:postgres /var/lib/pgsql/wals
# chmod 700 /var/lib/pgsql/wals

Также создадим каталог для нашего скрипта архивирования журналов:

# mkdir /var/lib/pgsql/bin
# chown postgres:postgres /var/lib/pgsql/bin
# chmod 700 /var/lib/pgsql/bin

Рассмотрим файл /var/lib/pgsql/bin/copy_wal.sh:

#!/bin/bash
DPATH=/var/lib/pgsql/wals
DATE=`date +"%b %d %T"`
if [ -e /var/lib/pgsql/backup_in_progress ]; then # По наличию файла проверяет не идет ли процесс резервного копирования журналов
 echo "${DATE} - идет процесс резервного копирования журналов" >> "${DPATH}/wal-c-log.log"
 exit 1
fi
if [ -e ${DPATH}/$1 ]; then # Проверяет скопирован ли журнал раннее
 echo "${DATE} - файл уже архивирован" >> "${PATH}/wal-c-log.log"
 exit 1
fi
echo "${DATE} - /bin/gzip $2 ${DEST}/$1" >> "${DPATH}/wal-c-log.log"
gzip < $2 > "${DPATH}/$1" # Архивирует файл журнала

Скрипт проверяет состояния резервного копирования журналов и архивирует журналы в каталог /var/lib/pgsql/wals, все свои действия он пишет в /var/lib/pgsql/wals/wal-c-log.log
Установим нужные права на скрипт:

# chown postgres:postgres /var/lib/pgsql/bin/copy_wal.sh
# chmod 700 /var/lib/pgsql/bin/copy_wal.sh

Теперь перезапустим сервер базы данных:

# systemctl restart postgresql

Со временем в каталоге /var/lib/pgsql/wals будут появляться файлы вида:

-rw------- 1 postgres postgres 3848185 июл 12 18:40 000000010000001900000048
-rw------- 1 postgres postgres 3830181 июл 12 18:33 000000010000001900000047
-rw------- 1 postgres postgres 4131659 июл 12 18:26 000000010000001900000046
-rw------- 1 postgres postgres 3977349 июл 12 18:26 000000010000001900000045

Если они появляются значит журналирование настроены правильно.

Онлайн резервное копирование

Используя Low Level API

Использование низкоуровневого API подразумевает следующие шаги: 1. Убедитесь что журналирование включено и работает 2. Подключитесь к базе от имени суперпользователя:

# su - postgres -s /bin/sh -c "psql"

Для начала резервного копирования выполните следующий запрос:

postgres=# select pg_start_backup('Full Backup - Testing');

Этот запрос может выполняться длительное время, так как создается контрольная точка и минимизируется влияние на текущие операции.
Чтобы начать резервное копирование как можно быстрее (используя все ресурсы для создания контрольной точки) выполните команду с параметром true:

postgres=# select pg_start_backup('Full Backup - Testing',true);

Пример вывода команды

pg_start_backup

:

pg_start_backup 
-----------------
 1A/20000028
 (1 строка)

3. Теперь можно делать файловое резервное копирование каталога с базой данных (/var/lib/pgsql/data) любыми удобными инструментами (cp, rsync и т.д.)
4. После окончания резервирования подключитесь к базе снова и введите команду:

postgres=# select pg_stop_backup();

При этом сервер выйдет из режима резервного копирования и переключится на новый файл журнала (WAL). Переключение на новый файл журнала необходимо для того, чтобы все изменения произошедшие во время резервного копировоания сразу были доступны для архивирования.

5. Теперь остается в дополнение к файловой резервной копии добавить файлы журналов, созданные во время резервирования. Для удобства в каталоге с журналами будет создан файл вида 000000010000001A00000020.00000028.backup, в котором находится информация о резервной копии. Первая часть имени этого файла

000000010000001A00000020

обозначает имя первого журнала WAL необходимого для востановления базы. Журналы с меньшим именем могут быть удалены.

С помощью команды pg_basebackup

Так же резервную копию можно создать использую команду pg_basebackup. Эта команда создает создает копию в виде файлов или архива tar.
Для ее работы необходимо дополнительно настроить сервер базы данных (/var/lib/pgsql/data/postgresql.conf):

max_wal_senders = 1

И разрешить подсоединение пользователю postgres для репликации раскомментировать нужную строчку в файле /var/lib/pgsql/data/pg_hba.conf:

local   replication     postgres

Перезапустите сервер баз данных:

# systemctl restart postgresql

Пример использования команды:

# pg_basebackup -D /var/lib/pgsql/backup -F t -z -U postgres -w -c fast -l "pg_basebackup test backup"

Описание параметров команды:

  • -D -- каталог для архивации (должен быть пустой)
  • -F -- формат вывода (t - tar архив)
  • -z -- сжимает выходной файл gzip
  • -U -- пользователь для подключения к базе
  • -w -- не запрашивать пароль
  • -с -- режим создания контрольной точки (fast - быстрая)
  • -l -- метка резервной копии

После выполнения команды в каталоге /var/lib/pgsql/backup появится архив base.tar.gz. А в каталоге с журналами будет создан файл с описанием резервной копии. В дополнение к резервной копии необходимо копировать архивы журналов.