MDM система для централизованного управления справочниками предприятия типовыми средствами




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

6 Comments

  1. LordKim
    Но решение с технической точки зрения оказалось простейшим

    Хотелось бы увидеть как решалась проблема дедубликации (замены существующих элементов на централизованные)

    Задача «запретить создавать в подчиненных и залить в подчиненные из центральной» — да, очень простая

    Сложности возникают на момент приведения к единой ссылке уже существующих данных…

    Reply
  2. lopatin

    (1) Тут надо пробовать, вообще в механизмах обмена есть сопоставление объектов, программа запоминает какая ссылка, какой соответствует.

    А запретить создавать — на уровне ролей, которые можно успешно реализовать в расширениях используя за основу типовые.

    Reply
  3. Waanneek

    (1)

    Хотелось бы увидеть как решалась проблема дедубликации (замены существующих элементов на централизованные)

    О да, больная тема! Обмен написать это 5-10% от работ по запуску интеграции..

    Синхронизировать справочники когда их по 10-20+ тысяч с явными и не явными дублями и 70-80% не совпадает автоматически между системами — адская работа..

    Reply
  4. LordKim

    (2) Есть сопоставление на уровне настройки првил КД и «программа запоминает» в регистре сведений (который присутствует только в типовых, и то не во всех), но я так понял что задача была поставлена не про начало работы, когда справочники пусты, тут все элементарно, а про унификацию существующих объектов НСИ (Номенклатура — частный случай)

    И вот тут, собственно, и начинаются реальные проблемы

    Потому что Х баз (в вашем случае 32), в которых активно ведется учет, имеют свой набор объектов НСИ, и формат транспорта (ED например) не решает проблему унификации (сопоставления), ни с формальной стороны, ни со стороны замены ссылок на корректные (центральные)

    Более того, по умолчанию конвертация ищет по ссылке, соответственно не обнаруженные элементы она создаст (возможно задвоение), а если найдет — то заменит существующий элемент (вероятность низкая, но случается), а это очень серьезная проблема

    Этим и вызван мой комментарий, так как ED я считаю (возможно необоснованно) «дохлым» форматом, использование которого для полноценной организации НСИ (действительно сквозной во всех БД, а не только в типовых 1С) — не рационально

    Но вдруг там есть волшебная кнопочка «синхронизировать все», про которуя я просто не в курсе?

    Или какой-то удобный инструмент унификации?

    Reply
  5. dkoder

    Сразу отказался от такой идеи.

    Проблемы (у нас):

    1. Есть не типовые конфы

    2. Есть информационные системы не 1С

    Пришлось писать свой механизм мини шины данных на WEBService (рекомендую).

    Рекомендую почитать теорию МДМ от IBM: справочники, мастер данные, транзакционные данные.

    И не забывать о копиях БД, которые будут дублировать обмены.

    Я сделал две универсальных процедуры:

    1. Выгружает данные элемента по метаданным в Структуру (только простые типы данных) затем ЗначениеВФайл

    2. Загружает из ЗначениеИзФайла в структуру по метаданным в объект

    Залил во все БД

    Структура хорошо тем, что можно добавлять неограниченно данные, типа дополнительных свойст, регистро сведений, подчиненные объекты.

    Да получается немного муторней чем через КД, но на больших данных более универсально

    Reply
  6. Светлый ум

    Полумера, централизованного управления НСИ не вышло… костыль получился

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *