Универсальный загрузчик XML-Uniloader

Этот универсальный инструмент обязан входить в джентельменский набор любого специалиста по обмену данными.
Он позволяет загрузить данные в базу из файла выгрузки, созданного типовой обработкой «Выгрузка-загрузка данных».
Он позволяет загрузить данные из файла выгрузки РИБ.
При этом используется развитая система работы с ошибками, ведется протокол, процесс загрузки не мешает работать другим пользователям.

История возникновения

Обработка возникла, когда в центральную базу РИБ не загружался файл обмена из периферийной. Метод ПрочитатьИзменения cпотыкался на каком-то объекте в загружаемых данных, вычислить его было невозможно. В результате была написана эта обработка, чтобы находить и пропускать неправильно выгруженные объекты.

Работа с обработкой

Форма обработки имеет вид:

 

Поле «Получение от узла» — показывает узел, от которого загружаются данные. Можно не указывать. Если узел указан, то в этом узле изменения не регистрируются при загрузке.

Галочка «Устанавливать № сообщения для узла» — если галочка установлена, то при чтении файла обмена определяется номер сообщения из тега v8msg:MessageNo, после завершения загрузки в выбранный узел обмена в качестве номера принятого сообщения устанавливается этот номер. Если номер не определился, то номер не устанавливается. Номер выводится в поле рядом с галочкой.

Поле «Имя файла» указывает имя файла, из которого производить загрузку. Обработка работает не только с XML, но и с ZIP-файлами. Для загрузки берется первый из файлов в архиве ZIP. При этом файл распаковывается во временный каталог, поэтому можно смело указывать сетевой ZIP-файл, обработка сначала распакует в быстрый локальный каталог и только потом начнет загрузку.

Галочка «Удалять исходный файл в конце загрузки» — если указано, то файл, указанный в поле «Имя файла» удаляется в конце загрузки.

Галочка «Выводить протокол» — если указана, то в конце загрузки в таблицу MXL выводится протокол с колонками «Время загрузки» и «Загруженный объект».

Поле «Прочитано объектов» информационное, только для чтения, сюда выводится количество прочитанных объектов.

Поле «Читать с объекта». Если указано, то чтение начинается только с указанного номера объекта. Предыдущие записи тоже читаются, но не записываются в базу. Удобно, если обработка прервалась по ошибке.

Поле «Повторять при ошибке секунд» — указывается количество секунд, в течении которого после ошибки записи делать повторную запись.

Поле «Пауза при ошибке секунд» — указывается, какую паузу делать между попытками записи при возникновении ошибок записи.

Поле «Тексты ошибок пропускаемые» — в каждой строке поля указывается подстрока. Если эта подстрока найдена в тексте ошибки записи, то по таким ошибкам не делается попытка повторной записи. Это позволяет отличить ошибки блокировки (которые могут быть устранены через некоторое время после снятия блокировки) от ошибок, которые нельзя исправить.

 

Обработка считывает данные из файлов XML полученных:

  1. Из типовой обработки «Выгрузка-загрузка данных XML». Чтение начинается с секции V8Exch:Data
  2. Из файла обмена РИБ. Чтение начинается с секции v8de:Data

 

Ошибочно записанные в файл выгрузки объекты пропускаются правильно – если возникла ошибка чтения XML, то пропускаются все теги, пока не будет найден закрывающий тег считываемого объекта. На практике с помощью этого метода было выявлено, что если выгружается объект, у которого есть битый реквизит типа «Хранилище значения», то возникает ошибка чтения из XML-файл. При выгрузке ошибок не возникает, поэтому это сложно диагностируемая ошибка.

 

Ход работы комментируется в окне сообщений:

Протокол выглядит так:

Первоначально я выводил протокол в форму, но большие таблицы вызывают слишком большие потери быстродействия на их отрисовку, поэтому перенес протокол в файл.

Вот пример выявленной в XML-файле ошибки и сообщения о ней:

 

Способы применения

  1. Проверка XML-файлов. Планируется доработать режим чтения без записи. Тогда можно безопасно диагностировать проблемы в XML-файлах.
  2. Загрузка битых XML-файлов с пропуском ошибок.
  3. Загрузка больших XML-файлов. Необходимо указывать большой период между попытками записи и бесконечный период по повторению записи. В отличии от метода ПрочитатьИзменения не возникает транзакция загрузки и другие пользователи могут спокойно работать.
  4. Удобно использовать в РИБ как альтернативу типовой загрузке. Процесс более контролируемый, в конце проставляется номер сообщения и удаляется файл загрузки, что полностью эквивалентно типовой загрузке. Можно использовать такой механизм и в автоматических обменах, чтобы не блокировать работу пользователей.

33 Comments

  1. Vladimir87

    Молодец! Такие обработки очень полезны. Я сам не понаслышке знаю, что такое обмен данными. Раньше самому приходилось постоянно помаленьку править стандартные обработки выгрузки и загрузки данных через XML, чтобы из-за ошибок не останавливался процесс обмена.

    Reply
  2. khaoos

    С проблемой, инициировавшей разработку, пока не сталкивался, но раз так бывает, то буду знать, чем вооружиться в случае чего :). Единственный минус, наверное, в том, что разрешение конфликтов не сработает? То есть для РИБ не запустятся обработчики событий узла плана обмена (ПриПолученииДанных…)?

    Reply
  3. fixin

    (2) да, при получении данных не запустятся, но теоретически можно прикрутить их вызов. Главное, чтобы они были экспортируемыми в модуле. Если это важно.

    Reply
  4. khaoos

    (3) сейчас под рукой только ЗУП имеется, там это не нужно, так как используется только событие при отправке. Думаю, что и в остальных типовых конфигурациях фильтр происходит на этапе отправки и разрешение коллизий идет в пользу главного узла по умолчанию. А так в принципе можно реализовать такой функционал в качестве опции, но только при условии экспортируемости соотв. обработчиков.

    Reply
  5. fixin

    (4) ну как-нибудь доделаю, да, замечание дельное. у меня в обработках по выгрузке начального образа и по проверке миграции есть учет этих обработчиков.

    Reply
  6. soba

    первые 3 картинки в тексте статьи не открываются.

    По клику на ней ( http://infostart.ru/public/144812/article__image003.jpg ) 404 Not Found

    Reply
  7. cubic

    Полезная штука. Как раз возникла проблема с РИБ, а тут и решение! (надеюсь)

    Буду тестить.

    Reply
  8. fixin

    (6) открываются.

    Reply
  9. krund

    Автор молодец! Очень нужная обработка.

    Reply
  10. fixin

    (9) ндык я сам офигел, когда осознал полезность.

    Reply
  11. cubic

    Потестил… Возможно у меня как у осьминога руки… Только в результате лишился нескольких документов. Движения по ним остались, а сами документы ушли в мир ненайденных объектов. Имею 2 узла: 1 с набором данных А, Б, В и 2 с набором А, Б, Г. Данные В и Г созданы за время отсутствия обменов. При загрузке файла обмена стандартым способом получаем ошибку чтения. При загрузке с помощью обработки получаем два одинаковых набора (либо А, Б, В, либо А, Б, Г). Набор А, Б, В, Г получить не удалось… Хорошо, что меня учили делать копии 🙂

    Reply
  12. fixin

    (11) ничего не понял из описания. обработка не удаляет объекты, если не было зарегистрировано удаления в плане обмена.

    смотрите файл обмена, что у вас там за данные прописаны. Как то так.

    Кстати да, это нюанс, думаю, что обработка не умеет удалять физически объекты. 😉

    Reply
  13. cubic

    Если конкретней то было так: Есть главный узел и подчиненный, в понедельник упали обмены, выгрузка проходит без ошибок, а загрузка с ошибками чтения. Обмен осуществлялся стандартными средствами РИБ. Сначала я взял файл выгрузки из подчиненного узла и стал грузить в главный узел (это было уже пятница). За период отсутствия обменов в главном узле появились документы установки цен и перемещения товаров. При загрузке файла обмена с помощью XML-Uniloader картина следующая: в регистре сведений «цены номенклатуры» есть записи, сделанные этими документами, но регистратор — «Объект не найден…». Тоже с доками перемещения.

    Если гружу в подчиненный узел из главного, то история повторяется: документы перемещения товаров, которые сделали в подчиненном узле исчезли, оставив после себя движения по регистрам и расходники.

    Reply
  14. fixin

    (13) что то у вас с руками не то, у меня в коде нет удаления. Даже если в файле и есть команды физического удаления, они не работают. У меня только метод Записать есть. думайте еще.

    Reply
  15. soba

    Картинки все же почему-то не открываются, ну да ладно. Вот бы еще расширить чуток обработку, чтобы файл загрузки из v7 (при конвертации баз) обрабатывался. А то 1с как обычно лаконична. ошибка. и все.

    Reply
  16. fixin

    (15) как вы себе это представляете? Загрузку из 77? Думаю это весьма специфичная задача, хотите — реализуйте! 😉

    Reply
  17. soba

    (16) Я имел ввиду загрузку сформированого в 7.7 файла выгруки (при переходе с 7) Структуры то данных по идее похожи. Загрузка через универсальную делается

    Reply
  18. fixin

    (18) через типовую универсальную? тогда и эта должна загрузить… потому что типовая загрузка-выгрузка работает…

    хотя нет, если вы имеете ввиду загрузку по правилам, то это не этот случай… это не поддерживается.

    Короче, обработка которая обменивается с 1с7 — это не ВыгрузкаЗагрузкаДанных, а ОБменДаннымиXML. Это слишком навороченная хрень из Конвертации Данных. Даже не просите ее повторить… Это пять человеко лет.

    Reply
  19. Zoba

    Замечательная обработка. давно искал такую.

    Reply
  20. khaoos

    (14) на самом деле если выполнить метод «Записать» объекта УдалениеОбъекта, то будет удален базовый объект. Другое дело, что обработка не виновата, что ей подсовывают такие объекты :). Давно РИБом не занимался, но, кажется, в Рознице было так: если в одном узле удаляется объект, то в других он только помечается на удаление. Помню, бесило, что в нескольких узлах приходилось чистить. Может быть предусмотреть и такую опцию в обработке: физическое удаление или пометка на удаление? Вполне возможно, что обращение к обработчикам событий обмена решило бы и эту проблему: пусть типовые механизмы решают, что делать.

    Reply
  21. fixin

    (20) ндык, возникла из практической потребности.

    (21) клево, я и не знал. а на физическое удаление обработчик передзаписью срабатывает?

    Reply
  22. khaoos

    (22) нет, не срабатывает. Сразу обработчик «ПередУдалением» базового объекта в дело вступает.

    Reply
  23. fixin

    (23) жаль, придется в двух местах прописывать… но с другой стороны, я просто обычно отключаю права на физ.удаление, а физ удаление прописываю, если нужно в привилегированном модуле.

    Reply
  24. mc1c80

    + автору

    Reply
  25. fixin

    (25) спасибо

    Reply
  26. papami

    Нужная обработка! Плюс

    Reply
  27. fixin

    (27) я сам от нее тащусь, чесслово.

    Reply
  28. pereligins

    Сейчас опробовал на копии базы. Тьфу тьфу… вроде сработало. Если все удачно пройдет — низкий поклон. Ситуация запутанная: центр обновили — обновление в периферийную базу отправили (файл огромный, канал слабый), там загрузили, сделали выгрузку из периферийной в центр. Но пока в центр выгружали файл из периферийной, в центральной базе поменяли косяк в форме (одна строчка). Из периферийной данные не загружаются — не совпадают конфигурации. Если выгружать из центра — снова в файл попадают все изменения конфигурации, включая обновление (снова грузить файл долго).

    Reply
  29. fixin

    (29) Я сам потрясен, как с помощью легкого «тыка пальцем» можно свернуть гору! Обычное чудо.

    Reply
  30. bes-kkm

    Кто-нибудь пробовал как обработка??????

    Reply
  31. bes-kkm

    ВОобще очень полезная обработка

    Reply
  32. fixin

    (31) я пробовал. сам. хорошая.

    Reply
  33. bes-kkm

    Спасибо!

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *