EnterpriseData – часть 2. Процесс выгрузки данных




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

27 Comments

  1. kembrik

    О, продолжение, отлично, спасибо. Отлично структурирован материал, хоть в книгу верстать.

    Реквестирую немного раскрыть тему наиболее элегантного кода программной выгрузки с использованием типовой обработки ВыгрузкаЗагрузкаEnterpriseData. УниверсальныйОбменДаннымиXML освоен, а тут пока не выходит каменная чаша с наскока

    Reply
  2. ids79

    Спасибо. Включу в план на будущее.

    Reply
  3. davdykin

    Спасибо за статью. Интересно, актуально и по делу.

    Reply
  4. ids79

    (3)Спасибо

    Reply
  5. MaxS

    Полезная статья. Правда как мне кажется многие в первую очередь пытаются использовать КД3 на практике и если не получается, особо настойчивые читают теорию. Если получается, доходят до описанного здесь методом проб и ошибок.

    Некоторые дополнения:

    >Основные элементы структуры «КомпонентыОбмена»

    >МенеджерОбмена – общий модуль, в котором находятся правила конвертации.

    Не только общий модуль, а ещё и модуль внешней обработки.

    >НаправлениеОбмена – одно из двух значений: «Выгрузка» или «Загрузка».

    «Отправка» или «Получение»

    Reply
  6. ids79

    (5)Спасибо за комментарий, Максим.

    Неточности поправил.

    Reply
  7. Восьмой

    Огромное спасибо за материал!

    Reply
  8. Vladimir Litvinenko

    (5) Такие материалы полезны в том числе после использования КД 3 на практике, для закрепления и систематизации знаний. И чтобы свои конспекты не писать. Схема в публикации отличная! Обязательно поможет вспомнить как работает система, когда снова придётся работать с КД 3. Дмитрий, спасибо за отличный материал.

    Reply
  9. ids79

    (8)Спасибо, Владимир

    Reply
  10. Rabot

    Спасибо за статью!

    Не могли бы вы пояснить как заставить работать произвольную выборку?

    «Для использования ПОД с произвольной выгрузкой, необходимо перед выгрузкой данных определить Сценарий выгрузки.»

    Куда именно приведённый код нужно вставить, в какую-то обработку общего модуля «ОбменДаннымиXDTOСервер» или в какой-то обработчик конвертации?

    Reply
  11. Rabot

    (10) сам спросил сам ответил)

    Что бы заработала произвольная выборка в КД3 нужно:

    1. Код вставить в обработчик КД «ПередКонвертацией»

    Если КомпонентыОбмена.НаправлениеОбмена = «Отправка» Тогда
    КомпонентыОбмена.СценарийВыгрузки = новый ТаблицаЗначений;
    КомпонентыОбмена.СценарийВыгрузки.Колонки.Добавить(«ИмяПОД»);
    НоваяСтрока = КомпонентыОбмена.СценарийВыгрузки.Добавить();
    НоваяСтрока.ИмяПОД = «СВОЁ_ИМЯ_ПОД»;
    КомпонентыОбмена.ЭтоОбменЧерезПланОбмена = Ложь;
    КонецЕсли;

    2. В конфигураторе КД3, в справочнике «ПравилаОбработкиДанных», в модуле формы «ФормаЭлемента», в процедурах «СпособВыборкиПриИзменении» и «УстановитьВидимость» — разрешить заполнять поле «ОбъектВыборки» так же и для способа выборки «Произвольный алгоритм».

    3. В нужном ПОД, помимо заполнения основных свойст:

    3.1 Вкладка «Основные сведения» — установить галку «Произвольный алгоритм»;

    3.2 Вкладка «Основные сведения» — заполнить поле «Объект выборки»;

    3.3 Вкладка «Выборка данных» — реализовать произвольный код, который возвращает массив ссылок, которые нужно выгрузить;

    Но есть нюанс: при произвольной выборке нужно самостоятельно производить «Выборку изменений», для регистрации номера сообщения у выгруженных данных.

    Reply
  12. Rabot

    (11) При такой реализации указанный объект выгружается, но:

    1. Номер отправленного в узле не проставляется;

    2. Остальные объекты перестали выгружаться.

    Вопрос остаётся: как реализовать для одного из документов/справочников свою произвольную выборку при выгрузке данных в КД3?

    Reply
  13. ids79

    (7)Пожалуйста

    Reply
  14. ids79

    (12)Добрый день. На сколько я знаю, так сделать не получится. Только или все объекты по правилам или все по произвольному алгоритму.

    Если найдете какой-нибуь способ, напишите, самому интересно.

    Reply
  15. Rabot

    (14) Мне кажется, что данный способ выгрузки противоречит логике разработчиков КД3. Мол, если не хотите что-то выгружать, ну так не регистрируйте, а значит создавайте нужные правила регистрации. В крайнем случае, в обработчике ПОД «ПриОбработке» определяйте выгружать данный объект или нет.

    Как мне нравилась КД2, и как мне не нравится КД3.

    Reply
  16. user778014

    КД3 мертворожденный механизм. За 4 года с момента появления он не смог занять хоть сколько нибудь значительного распространения кроме типовых конфигураций. Идея универсальности не совместима с необходимостью каждый раз изменять конфигурацию и усложнять ее поддержку. Обмен в типовых версиях на базе КД3 не гибкий и до сих пор полон ошибок. Непонятно зачем 1с упорно пытается цепляться за этот неудачный механизм

    Reply
  17. user778014

    И еще пару негатива о КД3. Так как он зависим от конфигурации типовых то очень часто есть несостыковки формата по релизам и выдаются ошибки при обмене. Это просто капец какой-то !

    Reply
  18. MaxS

    (16) Видимо Вы что-то не так поняли в механизме. ) Обслуживание упрощается, т.к. одни правила — одна конфигурация вместо одной конфигурации и массы правил для каждой пары обмениваемых баз. Независимость от версии конфигурации в другой базе. Отладка правил значительно упрощена по сравнению с КД2.

    Ошибки в основном связаны с некорректностью исходных данных. Формат ED не позволяет выгружать некорректные данные, тем самым распространяя бардак по другим базам.

    Знаю несколько клиентов, которые для обмена между производственной программой и УПП внедрили в УПП КД3, а не КД2 или какой-то другой механизм.

    Reply
  19. user778014

    (18) Возможно что вы чего то не поняли. Ошибки связаны с тем что для работы КД3 предполагается что механизм преобразования в формат ED через XDTO был идентичен в разных конфигурациях. Например в УПП, ЕРП, БП, ЗУП. Однако это возможно только в теории. На практике все эти конфигурации пишут разные команды и в разное время. Поэтому на каждый момент времени существует большая вероятность различий в формате преобразования в ED. Конкретно я столкнулся с ошибками в КА2. Да, следующий релиз пофиксил ошибку но это стоило мне несколько часов бесплодных поисков и несколько дней простоя проекта пока 1с не выпустила обновление. И так через раз

    Reply
  20. MaxS

    (19) Формат ED неизменный в рамках версии формата. Их всего 6. Активно используются последние две. Если данные выгружены в этом формате, значит они уже прошли проверку и удовлетворяют минимальным требованиям формата и другая база обязана принять эти данные.

    Сейчас все типовые поддерживают несколько форматов, в связи с чем практически всегда есть формат общий для обеих конфигураций. Похоже Вы путаете ошибки в правилах, которые могут быть и ошибки в реализации самой технологии универсального формата обмена.

    Грубо говоря если нетрезвый водитель электрокара въехал в столб, это не означает, что вся технология автомобилей на аккумуляторах ущербна, а на бензине и дизеле лучше.

    Т.е. если программист допустил ошибку в правилах, ошибка будет в любом варианте в КД3 и в КД2.

    Reply
  21. acanta

    (19) это слишком идеальный вариант, когда для двух разных приемников требуются одни и те же данные выгрузки.

    Пример характеристики или серии номенклатуры.

    Проблема не в отдельных ошибках, а в допущении, что данные из базы можно выгрузить по формату неизвестно кому, а там уже получатель разберётся что с этим делать.

    Выросло такое убеждение из совершенно невообразимого количества служебной информации в базе, не имеющей прикладной пользовательской значимости и напротив, нехватки прикладной информации в некоторых вопросах, вынесенной в код или метаданные.

    Необходимость этой служебной информации в свою очередь особенности платформы.

    Reply
  22. user778014

    (20) Нетрезвый водитель здесь это тот кто придумал эту схему. Я вот для примера открываю стандартную обработку по выгрузке правил синхронизации из комплекта КД3 в стандартной комплексной КА2.4.7.151 и получаю ошибку

    {ОбщийМодуль.ОбменДаннымиСервер.Модуль(7400)}: Метод объекта не обнаружен (ПриПолученииНастроек)

    ПланыОбмена[ИмяПланаОбмена].ПриПолученииНастроек(НастройкиПланаОбмена);

    Все конфигурации типовые без изменений. А ошибка эта связана с тем что не во всех планах обмена КА есть модуль менеджера ПриПолученииНастроек. Это что получается разработчики никогда не открывали в КА обработку выгрузки правил синхронизации ??? И они до сих пор этого не знают ???? Жесть

    Reply
  23. MaxS

    (22) Всё разработчики знают и давно опубликовали на партнерском форуме исправленную обработку, практически сразу как появилась эта ошибка. Если нет доступа туда, поищите статью на инфостарте. Например у меня в профиле.

    Вот и спрашивается при чем тут сама технология ED? Применительно к статье, в которой мы пишем комментарии есть какие-то претензии? Что в этой технологии не правильно? 😉

    Reply
  24. user778014

    (23) Спасибо за информацию о кривой обработке. Ситуация все больше напоминает историю про пьяного водителя электрокара. По статье вопросов нет. Пуговицы пришиты намертво ))

    Reply
  25. De-Heus

    ERP 2.4 Задача выгрузить в бухгалтерию документ ОтражениеЗарплатыВФинансовомУчете.

    Почему то в состав плана обмена не включен указанный документ хотя присутствуют в формате EnterpriseData начиная с версии 1.3?

    В состав план обмена Синхронизация данных через унив. формат добавил документ ОтражениеЗарплатыВФинансовомУчете. Как сделать чтоб при проведении документ регистрировался на узле?

    Reply
  26. De-Heus

    у

    Reply
  27. ids79

    (25)Нужно добавить этот документ в правила регистрации.

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *