PostgreSQL для 1С 8.3: ускоряем резервное копирование и восстановление для отдельной базы очень большого размера

22.01.2019 68 Comments

Администрирование, Производительность и оптимизация (HighLoad)

, , ,

В этой статье разберем оптимизацию работы с моментальным снимком отдельной базы 1С в кластере PostgreSQL средствами pg_dump.exe, pg_restore.exe, psql.exe в среде Windows Server 2008,2012,2024. А также разберем проблемные ситуации и неожиданные ограничения при работе 1С в связке с PostgreSQL. Для Linux все аналогично.

Копирование-восстановление с помощью моментального снимка базы может потребоваться в разных случаях:
— копирование в другую базу в пределах кластера
— копирование в другую базу на другом сервере с более высокой версией PostgreSQL
— восстановление текущей базы
— восстановление некоторых таблиц текущей базы в случае падения 1С и т.д.

Задача 1. Копирование базы 1С на лету во время работы пользователей с сохранением целостности с помощью команд pg_dump.exe, psql.exe

Для этого в общем случае алгоритм следующий:

Шаг 1. Выгружаем с помощью pg_dump.exe все таблицы из базы данных, кроме данных таблицы config (т.е. для config выгружаем только ее схему)

Шаг 2. Выгружаем с помощью psql.exe данные таблицы public.config с помощью COPY WITH BINARY

 

Итак,

— Шаг 1. Выгружаем с помощью pg_dump.exe все таблицы из базы данных, кроме данных таблицы config (т.е. для config  выгружаем только ее схему):

"<путь к pg_dump>pg_dump.exe" и далее параметры с комментариями

—host <ip адрес или имя хоста сервера>

—port <порт>

—username "postgres" – имя пользователя

—role "postgres" — роль

—no-password – не спрашивать пароль в пакетном режиме

—format directory – создавать архив в виде каталога для использования параметра —jobs. При этом каждая таблица копируется в отдельный файл в каталоге, что позволяет распараллелить процесс создания архива

—jobs=<количество параллельных потоков процессора> — подбирается примерно как <количество ядер процессора>*2, можно пробовать увеличение или уменьшение параметра, чтобы максимально загрузить систему, не мешая работе пользователей. Практически на каждый процесс запускается копирование одной таблицы из базы данных. Сколько процессов задействовано, столько таблиц и обрабатывается одновременно. С помощью этого параметра можно достигнуть ускорения резервного копирования в 4 раза и более в зависимости от мощности оборудования сервера.

—blobs – позволяет выгружать поля большого размера

—encoding UTF8 — кодировка

—verbose – включить подробное комментирование

—exclude-table-data=config — исключить из выгрузки данные таблицы config, т.е. выгрузить только ее схему (config содержит записи: конфигурация, конфигурации поставщиков, отличия основной конфигурации от конфигураций поставщиков). Это требуется, когда база находится на поддержке у двух и более конфигураций поставщика и (или) очень много изменений внесено в конфигурацию. При этом размер изменений основной конфигурации относительно конфигурации одного из поставщиков приближается к 1Гб, что является пределом для поля большого размера в PostgreSQL. А 1С хранит изменения только в одной из записей таблицы config. При небольшом размере конфигурации можно не использовать этот параметр. Но при критическом (если размер хотя бы одной записи таблицы public.config (конфигурации) после чтения и распаковки в стандартный поток вывода stdout превысит 1 Гб) pg_dump.exe завершится с ошибкой:

pg_dump: Ошибка выгрузки таблицы "config": сбой в PQgetResult().
pg_dump:  Сообщение  об ошибке с сервера: invalid memory alloc request size 11173708065
pg_dump: Выполнялась команда: COPY public.config (filename, creation, modified, attributes, datasize, binarydata) TO stdout;

Если используется —format custom, то архив выгружается в виде одного файла, и ошибка создания архива на таблице public.config обнаружится при выполнении команды pg_restore, что и есть самое неприятное:

pg_restore: обрабатываются данные таблицы "public._usersworkhistory" 
pg_restore: обрабатываются данные таблицы "public._yearoffset" 
pg_restore: обрабатываются данные таблицы "public.config" 
pg_restore: [внешний архиватор] не удалось прочитать входной файл: конец файла

(кроме того —format custom не позволит использовать —jobs — распараллеливание)

Наблюдается на больших конфигурациях KA 1.1-2.4, УПП 1.3, ERP 2.4.

—file "<имя каталога архива без таблицы config>"

"<имя базы данных>"

Шаг 2. Выгружаем с помощью psql.exe данные таблицы public.config с помощью COPY WITH BINARY:

md "<имя каталога архива только с таблицей config >" — создаем каталог для таблицы config

"<путь к psql>psql.exe" – далее параметры

—host <ip адрес или имя хоста сервера>

—port <порт>

—username "postgres" – имя пользователя

—no-password – не спрашивать пароль в пакетном режиме

—command "COPY public.config TO ‘<имя каталога архива только с таблицей config с разделителями \ для винды>’ WITH BINARY;"

—dbname="<имя базы данных>"

 

Задача 2. Восстановление базы 1С в копию во время работы пользователей с сохранением целостности с помощью команд pg_restore.exe, psql.exe. Для этого в общем случае алгоритм следующий:

Шаг 0. Создаем пустую копию базы средствами pgAdmin.exe или с помощью psql.exe, dropdb, createdb.

Шаг 1. Загружаем с помощью pg_restore.exe все таблицы из архива базы данных, кроме данных таблицы config (т.е. для config  загружаем только ее схему)

Шаг 2. Загружаем с помощью psql.exe данные таблицы public.config с помощью COPY WITH BINARY

 

Шаг 0. Создаем пустую копию базы средствами pgAdmin.exe или с помощью psql.exe, dropdb, createdb.

Если база данных существует, мы должны сначала удалить ее из кластера с помощью команды DROP DATABASE "<имя базы данных>", а затем создать заново с помощью команды CREATE DATABASE "<имя базы данных>". Проще всего это сделать через pgAdmin, так как в нем есть запрос на удаление базы и образец запроса на создание базы. При удалении базы необходимо закрыть все соединения с базой, иначе база не будет удалена. Для Windows запрос на создание базы выглядит так:

 

CREATE DATABASE "<имя базы данных>"

WITH

OWNER = postgres

ENCODING = ‘UTF8’

LC_COLLATE = ‘Russian_Russia.1251’

LC_CTYPE = ‘Russian_Russia.1251’

TABLESPACE = pg_default

CONNECTION LIMIT = -1;

 

Если мы время от времени хотим проверять, что база корректно достается из архива, то имеет cмысл автоматизировать шаг 0 в батнике командами psql, dropdb, createdb (добавлено по просьбам читателей):

 

0.1 Перед удалением закрываем все активные соединения с базой <имя базы данных>, кроме текущего:

"<путь к psql>psql.exe" – далее параметры

—host <ip адрес или имя хоста сервера>

—port <порт>

—username "postgres" – имя пользователя

—dbname="<имя базы данных>"

—no-password – не спрашивать пароль в пакетном режиме

—command "SELECT pg_terminate_backend(pg_stat_activity.pid) FROM pg_stat_activity WHERE pg_stat_activity.datname = ‘<имя базы данных>’ AND pid <> pg_backend_pid();"

 

0.2 Удаляем базу <имя базы данных>, если она существует без подтверждения об удалении.
"<путь к dropdb>dropdb.exe"

—host <ip адрес или имя хоста сервера>

—port <порт>

—username "postgres" – имя пользователя

—no-password – не спрашивать пароль в пакетном режиме

—if-exists — проверка существования базы

—echo — вывод команд SQL, которые выполнит postgreSQL при вызове

"<имя базы данных>" 

 

0.3 Создаем заново базу <имя базы данных> после удаления
"<путь к createdb>createdb.exe"

—host <ip адрес или имя хоста сервера>

—port <порт>

—username "postgres" – имя пользователя

—no-password – не спрашивать пароль в пакетном режиме

—echo — вывод команд SQL, которые выполнит postgreSQL при вызове

—owner="postgres" — владелец базы

—encoding="UTF8" — кодировка

—locale="Russian_Russia.1251" — устанавливает одновременно параметры LC_COLLATE и LC_CTYPE для базы данных.

—tablespace="pg_default" — указывает табличное пространство, используемое по умолчанию.

"<имя базы данных>"

Теперь уже не нужно даже лезть в pgAdmin и там корячиться.

Шаг 1. Загружаем с помощью pg_restore.exe все таблицы из архива базы данных, кроме данных таблицы config (т.е. для config  загружаем только ее схему):

"<путь к pg_restore>pg_restore.exe"

—host <ip адрес или имя хоста сервера>

—port <порт>

—username "postgres" – имя пользователя

—role "postgres" — роль

—no-password – не спрашивать пароль в пакетном режиме

—dbname "<имя базы данных в которую восстанавливаем>"

—jobs=<количество параллельных потоков процессора> — подбирается примерно как <количество ядер процессора>*2, можно пробовать увеличение или уменьшение параметра, чтобы максимально загрузить систему, не мешая работе пользователей. Практически на каждый процесс запускается восстановление одной таблицы базы данных. Сколько процессов задействовано, столько таблиц и индексов обрабатывается одновременно. С помощью этого параметра можно достигнуть ускорения восстановления базы в 2-3 раза и более в зависимости от мощности оборудования сервера.

—verbose – включить подробное комментирование

"<имя каталога архива без таблицы config>"

 

Шаг 2. Загружаем с помощью psql.exe данные таблицы public.config с помощью COPY WITH BINARY

"<путь к psql>psql.exe" – далее параметры

—host <ip адрес или имя хоста сервера>

—port <порт>

—username "postgres" – имя пользователя

—dbname="<имя базы данных>"

—no-password – не спрашивать пароль в пакетном режиме

—command "COPY public.config FROM ‘<имя каталога архива только с таблицей config с разделителями \ для винды>’ WITH BINARY;"

 

Обратите внимание на метакоманду COPY вместо просто COPY.

COPYоткрывает файл и передает содержимое на сервер, тогда как COPY сообщает серверу, что он сам открывает файл и читает его, что может быть проблематичным по разрешению или даже невозможно, если клиент и сервер работают на разных компьютерах без совместного доступа к файлам между ними.

Соответственно при использовании просто COPY может выскочить следующая ошибка:

Postgres ERROR: Permission denied (не удалось открыть файл для чтения)

Заметим, что архив базы может быть успешно восстановлен на последующих версиях  PostgreSQL. В моем случае, я переносил базу с сервера PostgreSQL 9.6 на PostgreSQL 10.3.

Все проходило гладко. Трудности теоретически могут возникнуть в команде  COPY, т.к. она является платформо-зависимой.

На реальной базе размером 380 Гб за счет распараллеливания было достигнуто ускорение при работе pg_dump — в 4 раза, при работе pg_restore — в 2,5 раза, что весьма существенно, когда процесс занимает несколько часов.

 

Было: 2 часа на копирование, стало 0,5 часа на копирование; было 10 ч на восстановление, стало 4 ч на восстановление.

После перехода на более мощный сервер получили еще более существенные результаты:
Было: 2 часа на копирование, стало 0,5 часа на копирование; было 10 ч на восстановление, стало 1 ч  40 мин на восстановление. То есть количество ядер процессора и более быстрые диски при тех же параметрах дают значительное ускорение. Теперь чтобы скопировать и развернуть нашу огромную базу требуется всего 2 часа!

 

Ниже привожу примеры bat-файлов (качайте) для создания архивной копии базы данных DO_PROBA и восстановления в другую базу данных DO_PROBA_COPY. При этом в названии каталогов архива используется дата и время начала архивации и выводятся замеры времени на создание-восстановление. При восстановлении из вновь созданного архива необходимо каждый раз менять дату и время в bat-файле для восстановления (ее можно скопировать из имени каталога архива по образцу). Теперь будьте очень осторожны при восстановлении базы. По просьбам читателей и пользователей в bat-файлы добавлены команды автоматического удаления и создания восстанавливаемой базы в случае ее существования. Не ошибитесь в наименовании базы в команде SET ar_base_to=<Имя базы, куда восстанавливаем> !!! Иначе можно легко порушить существующие базы. 

СОВЕТ 1: периодически проверяйте (хотя бы раз в неделю) загрузку бэкапа в какую-нибудь тестовую базу и запускайте для проверки работоспособности режим конфигуратора 1С и рабочий режим. Тогда всегда будете уверены в своей архивной копии!

СОВЕТ 2: после отладки копирования и восстановления можно настроить Планировщик заданий (для Windows) на запуск нашего bat-файла по выбранному расписанию. Например, в 3:00 ночи ежедневно, пока никто из пользователей не работает.

 

*********

 

С 4 по 6 февраля 2024 года в стенах Московского государственного университета состоится конференция по PostgreSQL – PGConf.Russia 2024. Ежегодно она собирает более 500 разработчиков, администраторов баз данных и IT-менеджеров для обмена опытом и профессионального общения.

На этот раз PGConf.Russia будет особенной. Инфостарт совместно с Postgres Pro организует на конференции секцию «Postgres+1C». Мы приглашаем участников сообщества посетить PGConf и даже выступить в качестве докладчика.

Related Posts

68 Comments

  1. PbI4

    02.11.18 14:48

    А ни у кого не случается иногда такая ошибка при ресторе?

    pg_restore: обрабатываются данные таблицы «public._usersworkhistory»

    pg_restore: обрабатываются данные таблицы «public._yearoffset»

    pg_restore: обрабатываются данные таблицы «public.config»

    pg_restore: [внешний архиватор] не удалось прочитать входной файл: конец файла

    Причём всегда после конфига и иногда рестор отрабатывает без ошибки на том же самом дампе

    месяц прошёл в старой теме (https://infostart.ru/article/rezervnoe-kopirovanie-i-vosstanovlenie-bazy-1s-sredstvami-postgresql-540298/), повторим — может есть адекватные ответчики, спасибо

    Reply ↓
  2. frkbvfnjh

    Спасибо, много нового узнал! И главное описано очень понятно и детально.

    Reply ↓
  3. vsasav

    (1) Это и есть грабли, которые описаны в статье, когда pg_dump не может выгрузить public.config. Для этого и применяется команда COPY в статье.

    Сам недавно наткнулся на них. Это означает — ваш архив базы — битый, но это вы не увидите, пока не используете pg_restore. Используйте мой вариант, когда отдельно выгружается public.config с помощью COPY WITH BINARY. Он будет работать всегда, т.к. конфигурация относительно редко меняется.

    Reply ↓
  4. vsasav

    (1) Теперь можете свой -1 поменять на +1 😉

    Reply ↓
  5. starik-2005

    + просто за то, что кто-то пишет про постгри.

    Reply ↓
  6. DonAlPatino

    Т.е. «просто» как в MS SQL бэкап во время работы пользователей на лету сделать нельзя? Это для всех версий postgress актуально?

    Reply ↓
  7. TarasovAV

    Т.е., если база небольшая, скажем до 500 МБ, то бэкапирование с помощью —format custom пройдет успешно? И при восстановлении не возникнет указанная ошибка?

    Reply ↓
  8. vsasav

    (6) pg_dump — это и есть бэкап на лету (моментальный снимок), актуально для PostgreSQL 9.Х и выше

    Reply ↓
  9. vsasav

    —format custom пройдет успешно на базе любого размера, только если размер ни одной из записей таблицы public.config (конфигурация) после чтения и распаковки в стандартный поток вывода stdout не превысит 1 Гб, то же самое касается формата —format directo

    Reply ↓
  10. TarasovAV

    Спасибо за развернутый ответ.

    Reply ↓
  11. DonAlPatino

    (8) «просто» — это по одной кнопке все-таки (простите человек, испорченного MS), а не набором скриптов, с последовательной выгрузкой отдельных таблиц. Вот это «спотыкание» на отдельных таблиц — это стандартная ситуация или просто «временами бывает»?

    Reply ↓
  12. starik-2005

    (11)

    «просто» — это по одной кнопке все-таки (простите человек, испорченного MS), а не набором скриптов

    ИМХО, любой скрипт плавно превращается в одну кнопку. Не?

    Reply ↓
  13. neyasytyf

    Спасибо за третий шаг

    Шаг 3. Загружаем с помощью psql.exe таблицу public.config с помощью COPY WITH BINARY

    Сам делал через:

    psql -c «COPY (select * from public.config where datasize < 629605263) TO ‘/var/lib/pgsql/arhiv/$filename.config'» db

    Но потом необходимо cf подгружать.

    Вместо —exclude-table можно использовать —exclude-table-data=config, тогда структура таблицы config выгрузится без данных, и можно в два шага выгружать.

    Reply ↓
  14. vsasav

    (13) Да, про —exclude-table-data=config — ценное замечание. Пожалуй, откорректирую статью. Во всем должна быть минимизация.

    Reply ↓
  15. TODD22

    (12)после 3х дней гугла и чтения мануалов. Набор запчастей превращается в автомобиль после трех дней сборки. А хотелось бы взять готовый, сесть и поехать сразу.

    Reply ↓
  16. Gavris

    Приветствую.

    Побилась база 1с.

    Есть бекап в виде выгрузки 1c из postgres 9.4 формат *.sql

    Весит 100 гигов.

    Обратно не загружается. Ввожу вот такую команду

    «C:Program FilesPostgresPro 1C9.4inpsql.exe» -U postgres gef_restore < E:BackUpgef201811300311.sql

    Выводит вот такое: http://joxi.ru/p27K7a9UoXZ332

    Посоветуйте что можно сделать. Готов заплатить.

    Reply ↓
  17. vsasav

    (13) Минимизировал статью в соответствии с указанным выше замечанием. СПАСИБО !

    Reply ↓
  18. vsasav

    (11) Тут ничего не поделаешь: ограничение PostgreSQL на 1 Гб в длине поля типа binary по чтению в stdout. Аналогичные грабли мы нашли бы, думаю, и в MSSQL на 1С, если бы размер изменений конфигурации приблизился к 2 Гб, но на практике никто такого еще видимо не испытывал. Так что все впереди. PostgreSQL тут ни при чем. Это особенность реализации от 1С. Можно было бы не в одну запись пихать изменения, а в несколько. К счастью ошибка обходится с помощью COPY WiTH BINARY.

    Reply ↓
  19. neyasytyf

    (17) Ну тогда еще стоит упоминуть, что создать базу можно командой createdb из консоли. Так удобней в скриптах для восстановления делать, чтобы не использовать psql.

    Reply ↓
  20. DonAlPatino

    (9)Спасибо большое — вот теперь все понятно.

    Reply ↓
  21. vsasav

    (16) В данном случае копия БД скорее всего не является целостной, т.к. использована сторонняя программа с неизвестной внутренней реализацией.

    Необходимо для создания архива использовать pg_dump, pg_restore. Вот что написано в документации: https://postgrespro.ru/docs/postgresql/9.4/app-pgdump

    pg_dump

    Название

    pg_dump — выгрузить базу данных PostgreSQL в формате скрипта в файл или архив

    Синтаксис

    pg_dump [ параметр-подключения …] [ параметр …] [ база_данных ]

    Описание

    pg_dump это приложение для резервирования баз PostgreSQL. Оно создаёт согласованные копии, в том числе и на работающих базах данных. pg_dump не блокирует других пользователей базы, ни на чтение, ни на запись.

    Приложение выводит данные либо в скрипты, либо в архивные форматы файлов. Скрипты представляют собой текстовые файлы, содержащие SQL-команды, необходимые для воссоздания базы данных до состояния на момент создания скрипта. Для восстановления из скрипта его содержимое можно передать утилите psql . Скрипты можно использовать для восстановления на других машинах, в том числе с иной архитектурой. Также скрипты с некоторыми изменениями можно использовать в других базах данных SQL.

    Для восстановления из архивных форматов файлов используется утилита pg_restore. Эти форматы позволяют указывать pg_restore какие объекты базы данных восстановить, а также позволяют изменить порядок следования восстанавливаемых объектов. Архивные форматы файлов спроектированы так, чтобы их можно были переносить на другие платформы с другой архитектурой.

    Применение архивных форматов в сочетании утилит pg_restore и pg_dump позволяет организовывать эффективный механизм архивации и переноса данных. pg_dump можно использовать для резервирования всей базы данных, а затем при применении pg_restore выбрать нужные объекты для восстановления. Наиболее гибкие форматы резервных файлов это «custom» (-Fc) и «directory» (-Fd). Они позволяют выбрать и изменить порядок объектов, поддерживают восстановление в несколько потоков, а также сжимаются по умолчанию. При этом формат «directory» единственный, позволяющий выгружать данные в несколько потоков.

    Во время работы pg_dump следует обращать внимание на предупреждения, которые печатаются в стандартный поток ошибок, особенно ввиду рассмотренных далее ограничений.

    Reply ↓
  22. vsasav

    (19) Хорошо, тогда уж и dropdb для кучи для удаления базы. Приведу примеры в следующей модификации статьи.

    Reply ↓
  23. starik-2005

    (16)

    Выводит вот такое: http://joxi.ru/p27K7a9UoXZ332

    По всей видимости в таблице Документ242 в одном из полей содержится что-то в поле флд6173, что делает уникальный индекс неуникальным. Можно в скульной выгрузке найти скрипт создания таблицы и удалить из него команды создания индексов. Ну а потом уже в 1С ТиИ с реструктуризацией.

    Reply ↓
  24. vsasav

    (23) Да, кроме копания в коде SQL ничего не остается. Скорее всего строка № 97413 таблицы документа 242 порушена, но я могу ошибаться, т.к. текст ошибки нечитабельный. Нужно искать по содержимому поля fld и пробовать удалять битые записи и связанные с ними записи других таблиц документа.

    Reply ↓
  25. vsasav

    Внимание!!! По просьбе (19) и к счастью для всех, кто хочет все одной кнопкой статья была доработана!!!

    Теперь будьте очень осторожны при восстановлении базы. По просьбам читателей и пользователей в bat-файлы добавлены команды автоматического удаления и создания восстанавливаемой базы в случае ее существования. Не ошибитесь в наименовании базы в команде SET ar_base_to=<Имя базы, куда восстанавливаем> !!! Иначе можно легко порушить существующие базы.

    Reply ↓
  26. trdm

    (24)

    Да, кроме копания в коде SQL ничего не остается.

    В 100 гиговом файле копаться — это не сахар.

    Надо бы какую нить утилиту придумать, которая шринкает этот файл на маленькие и загружает их частями.

    ПС. Какой-то из MS SQL рестореров так и делал: шринковал на кучу маленьких файлов.

    (23) А сколько в архиве весит файло?

    Reply ↓
  27. starik-2005

    (26) так ведь sed есть.

    Reply ↓
  28. user1105457

    Огромное спасибо за статью!

    Жаль не нашел её месяцем раньше, и вот почему.

    Столкнулся тут недавно с проблемой выгрузки таблицы config после обновления релиза 112,5 конфигурации УПП 1.3 на платформе 8.3

    Решил что таблица битая, нашёл и удалил строку на которой процесс дампа вылетал с ошибкой.

    Теперь наткнулся на эту статью и понимаю что скорее всего удалил нужные данные.

    У меня несколько вопросов.

    1. Можно как-то найти теперь данные что были удалены ?

    Есть дамп до обновления и текущая рабочая база.

    2. Размер таблицы config до обновления — 671 MB, а после обновления он разрастается до 5939 MB. Мне одному кажется это странным ?

    3. В чём профит использования формата выгрузки «directory» кроме возможности распараллеливания задачи?

    Дампы делаются ночью и времени на их выполнение вполне хватает при использовании формата «custom». Важнее быстро восстановить бэкап и формат «custom» позволяет использовать распараллеливание задач при восстановлении.

    Спасибо!

    Reply ↓
  29. vsasav

    (28) 1. Вы удалили данные конфигурации поставщика, или изменений. Я проверял — все так и есть. Вернуть — маловероятно, т.к. следующее обновление создает уже другие записи с изменениями.

    2. Я с той же проблемой тоже столкнулся месяц назад, пробовал удалять записи из config и проверять обновление, но вовремя остановился, т.к. следующее обновление пошло не совсем корректно. Странностей нет в таблице config: при обновлении подгружаются все изменения основной конфигурации от всех конфигураций поставщика, сама конфигурация поставщика.

    3. Если не критично время создания архива, можно использовать формат «custom». Кроме параллельности создания архива «directory» лишь обеспечивает хранение каждой таблицы в отдельном файле, соответственно можно просматривать содержимое для каждой таблицы отдельно, не загружая в бд. Скорость распаковки в «directory» также выше, поскольку чтение и распаковка идет в несколько потоков. Но потом, после чтения время уходит на создание индексов — оно одинаково, что для «custom», что и для «directory»

    Reply ↓
  30. user1105457

    1. Попутный вопрос. Насколько это критично и стоит ли заморачиваться с восстановлением ?

    2. Спасибо за разъяснение.

    3. Каждая таблица отдельно, но не с нормальными именами, а в виде номеров. Можно как-то вытащить соответствие этих номеров именам таблиц ?

    С использованием формата «custom» распаковка тоже возможна в несколько потоков(собственно так и делаю).

    Можно протестировать разницу, замерив скорость восстановления одной и той же базы из дампов разных форматов.

    Reply ↓
  31. acanta

    Согласно чьей-то мудрости «Ничто очень хорошее или очень плохое не может длиться очень долго». Если бакап и восстановление действительно слишком долго делаются, то как оно должно работать? Репликация/зеркалирование? Настройка периферийной базы средствами 1С?:

    Reply ↓
  32. vsasav

    (30) 1. Конфигурацию уже обновляли? Если конфигурация обновляется и работает нормально, то не стоит заморачиваться.

    3. Вероятно, можно, но зачем. На порченную таблицу все равно ругнется при восстановлении. Там уже будет нормальное наименование таблицы. Извлечь легко прямо в базу с помощью —table.

    Reply ↓
  33. vsasav

    (31) Вот что рекомендует фирма 1С (но это работает, насколько я понял, только для всего кластера целиком, а в нем может быть много разных довольно крупных баз):

    настроить резервное копирование с помощью утилиты pg_basebackup:

    https://www.postgresql.org/docs/9.4/static/app-pgbasebackup.html

    Подробно о настройке можно прочитать: https://its.1c.ru/db/metod8dev#content:5947:hdoc

    Reply ↓
  34. vsasav

    (30) 1. Конфигурацию уже обновляли? Если конфигурация обновляется и работает нормально, то не стоит заморачиваться.

    3. Вероятно, можно, но зачем. На порченную таблицу все равно ругнется при восстановлении. Там уже будет нормальное наименование таблицы. Извлечь легко прямо в базу с помощью —table.

    Reply ↓
  35. user1105457

    (32) 1. Попробовали обновить — не обновляется, пишет что не может сравнить, типа не с чем. Что можно сделать ?

    Reply ↓
  36. vsasav

    (35) Снять конфигурацию с поддержки и снова установить на поддержку. Но нужен полный релиз поставщика (не обновление). Но это может занять много времени. Поэтому если сохранился старый cf-ник, который содержал конфигурации поставщика, и ваша конфигурация за этот месяц не менялась, то проще попробовать Загрузить конфигурацию из этого cf-ника и проверить работосбособность наката обновлений и самой базы (естественно на копии рабочей базы)

    Reply ↓
  37. user1105457

    (36) Попробую. Спасибо!

    Reply ↓
  38. gni

    Здравствуйте!

    А для родственной проблемы с индексацией есть какое-то решение (кроме снять/поставить на поддержку)?

    Выходит такое сообщение при индексации:

    reindexdb: переиндексировать базу данных «upp» не удалось: ОШИБКА: could not open relation with OID 8159083

    Спасибо.

    Reply ↓
  39. vsasav

    (38) Такая ошибка у меня на базе не возникала, так что ничем помочь не смогу.

    Reply ↓
  40. starik-2005

    (38)

    Выходит такое сообщение при индексации:

    На просторах интернетов есть вот такой интересный тред…

    Reply ↓
  41. user619273_alevtina

    (36) Попробую. Спасибо!

    Reply ↓
  42. XOCTEP

    (39) Добрый день!

    Подскажите, УПП обновили на 114.1. После этого не смогли обновиться дальше, т.к. при попытке сравнения конфигурации с конфигурацией поставщика сразу же выпадает ошибка — «Недостаточно памяти для получения результата запроса к базе данных». У нас текущая связка ПГ-64бит и Сервер 1С 32бит.

    Было испробовано много разных вариантов, но все без толку. Затем обнаружили, что перестали выполняться дампы ПГ с ошибкой «pg_dump: Error message from server: ERROR: invalid memory alloc request size ‎1117677223».

    Теперь вроде как понятно, что это проблема с ПГ, НО остается такой вопрос — мы взяли эту базу и протестили ее на других серваках. Связка SQL и Сервер32, связка SQL и Сервер64 — работают без проблем. Связка PG64 + Сервер64 — тоже работает! Получается не работает только PG64 + Сервер32. У всех так? И при чем тут сервер 1С?

    Reply ↓
  43. ansh15

    (42)

    И при чем тут сервер 1С

    Потому что ему, как клиентскому приложению(с точки зрения СУБД), и не хватает памяти для получения результата, получаемого от СУБД. 32-х разрядное приложение использует ограниченное адресное пространство

    Reply ↓
  44. ansh15

    (29)

    Но потом, после чтения время уходит на создание индексов — оно одинаково, что для «custom», что и для «directory»

    Надо подождать 11-ю версию(подтверждения ее работоспособности с 1С), там предусмотрено параллельное создание индексов.

    Reply ↓
  45. XOCTEP

    (43) т.е. переход на сервер64 должен решить эту проблему?

    Reply ↓
  46. ansh15

    (45)

    Связка PG64 + Сервер64 — тоже работает!

    В Вашем случае — вполне возможно. В ряде случаев может помочь и установка 64-х разрядной клиентской части платформы 1С.

    Поиск в сервисе публикации ошибок(1С) по фразе «недостаточно памяти» показывает, что при работе в конкретных конфигурациях также может возникать такая ошибка, например, из-за большого объема получаемых(загружаемых) данных.

    По хорошему — все компоненты системы должны быть 64-х разрядными и самой памяти должно быть достаточно. Понятно, что это вопрос денег…

    Reply ↓
  47. vsasav

    (42) Не успел ответить из-за сильной занятости. Ваш вариант Связка PG64 + Сервер1С 64 — только так будет работать. Рекомендации. Вся архитектура должна быть однозначно 64-х разрядная и как минимум 32 Гб памяти для компа, который сервер. (если у вас PG и Сервер 1С на одном физическом сервере, то желательно 48 Гб, но лучше разнести PG и Сервер 1С по разным физическим серверам, конечно если имеется финансовая возможность).

    Reply ↓
  48. XOCTEP

    (47) и (46) — спасибо за ответы!

    Reply ↓
  49. mirco

    (0)

    pg_dump could not stat file unknown error

    И это при —exclude-table-data=public.config

    Подскажите куда копать

    Reply ↓
  50. mirco

    (49)

    ))))

    Вопрос отменяется… Просто не заметил еще одну большую табличку.

    Reply ↓
  51. user1032109

    —command «COPY public.config TO ‘<имя каталога архива только с таблицей config с разделителями \ для винды>’ WITH BINARY;»

    Кто может объяснить параметры?

    Reply ↓
  52. user1032109

    —command «COPY public.config TO ‘<имя каталога архива только с таблицей config с разделителями \ для винды>’ WITH BINARY;»

    Объясните пожалуйста параметры??

    <имя каталога архива только с таблицей config с разделител

    Reply ↓
  53. user1032109

    (25)Подскажите, как можно с вами связаться?

    Reply ↓
  54. tolkit

    Спасибо за решение.

    Ограничение Postgres в 1Гб также не дает обновить конфигурацию, которая находится на поддержке, из-за размера таблицы config.

    Я не силен во внутреннем устройстве 1С, но получается, что можно снять с поддержки, обновиться, поставить на поддержку и загрузить изменения конфигурации как-то. Я сейчас на уровне проектирования решения. Вообще не уверен, что можно как-то объединить config до обновления и после.

    Как вы обходите это? Или конфигурация на поддержке несовместима с Postgres, если размер больше 1ГБ?

    Reply ↓
  55. vsasav

    Обошел просто. Перестал обновлять одну из конфигураций (от 1С), т.к. конфигурация с модулем от БИТ.ФИНАНС при обновлении вносила нужные изменения, хотя и с задержкой для пользователей. С поддержки 1С при этом не снимал.

    В крайнем случае, можно попробовать накатить ваши изменения заново на свежий полный релиз от 1С, минимально снимая объекты с замка («Поддержка с возможностью изменений»). Результат не гарантирован. Если полученный после объединения cf загрузить в рабочую базу, то объекты, случайно снятые с замка в рабочей базе встанут обратно на замок. А те, которые были в статусе «Поддержка с возможностью изменений» будут минимизированы.

    Reply ↓
  56. vsasav

    (52)

    Вот пример ниже.

    1. копируем таблицу public.config в файл c:ackupconfig :

    —command «COPY public.config TO ‘c:\backup\config‘ WITH BINARY;»

    2. восстанавливаем таблицу public.config из файла c:ackupconfig :

    —command «COPY public.config FROM ‘c:\backup\config’ WITH BINARY;»

    Reply ↓
  57. gost370

    День добрый. Помогите, пожалуйста, разобраться с моей проблемой. По ошибке на шаге 1 вместо —exclude-table-data использовался ключ —exclude-table.

    Скорее всего из за этого на шаге 2 (копировании таблицы public.config из файла) получаю ошибку psql «ERROR: relation «public.config» does not exist».

    Что то с этим можно сделать? Оригинал базы потерян из за сбоя((

    Reply ↓
  58. vsasav

    Сообщение выше

    Reply ↓
  59. vsasav

    (57) Попробуйте выгрузить схему таблицы из какого-нибудь ближайшего старого архива и загрузить ее отдельно. Если архива нет, то из аналогичного релиза конфигурации — но это уже «как повезет» — потом возможны ошибки.

    Reply ↓
  60. 2tvad

    База поднялась из дампа кастом с опцией create. Размер базы 7 гигов конфигурация кастомная — небольшая. Появилась вот такая ошибка (точнее их море). После восстановления база работает.

    pg_restore: создаётся INDEX «public._task106_37»

    pg_restore: [архиватор (БД)] Ошибка из записи оглавления 4933; 1259 6986533 INDEX _task106_37 postgres

    pg_restore: [архиватор (БД)] could not execute query: ERROR: relation «_task106_37» already exists

    Выполнялась команда: CREATE UNIQUE INDEX _task106_37 ON public._task106 USING btree (_fld883, _idrref);

    Куда копать?

    Reply ↓
  61. vsasav

    Если конфигуратор запускается, то тестирование и исправление — реиндексация, а лучше все тесты прогнать, если время позволяет

    Reply ↓
  62. alexbur

    (14), спасибо за статью. Очень ценно.

    Подскажите, а можно предыдущий вариант, где был шаг 3 всё таки тоже изложить в статье? Дело в том, что в Postgres 9.1.Х на работает параметр —exclude-table-data=config. Он, похоже появился только в 9.3.Х. Но параметр —exclude-table работает.

    Reply ↓
  63. mangazone

    Здравствуйте.

    У нас используется Postgres 9.6.7-1C

    Попытался сделать резервное копирование с помощью pg_dumpall.

    У нас более разных 10 баз, поэтому довольно удобно.

    для проверки восстановления сделали сервер такой же версии на другом компьютере.

    Средствами 1С базы на нем создаются в кодировке ru_Ru.UTF8

    Но при попытке восстановить базы из архива восстанавливает в кодировке SQL_ASQII.

    Подскажите, пожалуйста, можно ли вообще выполнять архивирование баз 1С с помощью pg_dumpall, если можно, то как архивировать-восстанавливать в правильной кодировке?

    Reply ↓
  64. vsasav

    Сообщение выше к (63)

    Reply ↓
  65. vsasav

    (63) https://postgrespro.ru/docs/postgrespro/9.6/app-psql — копать надо в сторону параметра encoding, сам не пробовал использовать

    psql -f файл_дампа postgres

    Reply ↓
  66. MasterGlob

    Как победить ошибку при попытке выгрузить таблицу config (Второй шаг) ?

    c:Program FilespgAdmin 4v4
untime>psql.exe —host «192.168.0.52» —port «5432» —username «postgres» —no-password —command «COPY ublic.config TO ‘E:00config’ WITH BINARY;» —dbname=»1C_CustomMade»
ERROR:  invalid byte sequence for encoding «UTF8»: 0x00
    Reply ↓
  67. vsasav

    (66)

    invalid byte sequence for encoding «UTF8»

    Установите значение параметра standard_conforming_strings в конфигурационном файле postgresql.conf в значение off

    Reply ↓
  68. vsasav

    (66) https://infostart.ru/public/554213/ — про настройки postgresql.conf можно прочитать здесь

    Reply ↓

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *