Эффективная индикация в 8.2




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2025-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

30 Comments

  1. Душелов

    Тема хорошая, вот только у меня все никак руки не дойдут до оптимизации того же моего шаблона.

    Reply
  2. Abadonna

    (1) А надо, что б дошли! А то мне самому придется думать 😉

    Reply
  3. mishakos

    Все хорошо, но на вывод индекса тратитьсяс 45% всего времени

    Reply
  4. Evg-Lylyk

    (3) Что есть индекс? на какой индекс???

    Reply
  5. mishakos

    я имел ввиду прогрессбар

    Reply
  6. Evg-Lylyk

    (5) Сейчас проверить не могу. Не пойму как он съедает 45% времени если вызывается Состояние 1-2 раза.

    Reply
  7. Rusmus

    На мой взгляд, стоит выделить основные действия в процедуры, чтобы сделать пример понятным и похожим на шаблон. Например, так:

    &НаКлиенте
    Процедура Операция()
    
    Состояние = ПолучитьСостояние();
    НачальнаяИнициализация(Состояние);
    
    ПоследнееОбновлениеИндикатора = ТекущаяДата();
    Пока Продолжать(Состояние) Цикл
    
    ОбработкаПрерыванияПользователя();
    ПоследнееОбновлениеИндикатора = СовершитьВитокИтерации(Состояние, ПоследнееОбновлениеИндикатора);
    ОбновитьИндикатор(Состояние);
    
    КонецЦикла;
    
    ЗавершающаяИнициализация(Состояние);
    
    КонецПроцедуры
    
    &НаСервере
    Процедура СовершитьВитокИтерации(Состояние, ПоследнееОбновлениеИндикатора)
    
    Пока Продолжать(Состояние) Цикл
    
    ТекущееПоложениеИндикатора = ТекущаяДата();
    Если НеобходимоОбновлениеИндикатора(ПоследнееОбновлениеИндикатора, ТекущееПоложениеИндикатора) Тогда
    Возврат ТекущееПоложениеИндикатора;
    КонецЕсли;
    
    Состояние = ОбработатьСостояние(Состояние);
    
    КонецЦикла;
    
    Возврат ТекущаяДата();
    
    КонецПроцедуры

    Показать

    функции ПолучитьСостояние, НачальнаяИнициализация, Продолжать, ОбработатьСостояние, ЗавершающаяИнициализация оставить на разработку пользователю шаблона.

    Reply
  8. tuxik07

    а как сделать индикацию процесса выполняемого в фоновом задании?

    Reply
  9. Душелов

    (8) Никак

    Reply
  10. Vovan58

    Я думаю, что каждый раз время проверять тоже не стоит, а то на проверку времени может уходить все время 🙂 😀

    Reply
  11. Evg-Lylyk

    (10) а куда денешся? Проверка врятли станет горячей точкой т.к. другие команды могут быть гораздо более долгими, а тут одна проверка.

    Reply
  12. acsent

    Откуда такой трафик в варианте без индикации?

    Reply
  13. acsent

    И на файловой базе бессмысленно проверять вызовы сервера

    Reply
  14. Evg-Lylyk

    (12) Добавляются строки в ТЗ (изменение формы вызов сервера)

    (13) Кол. вызовов сервера сильно влияет на производительность 8.2 независимо от режима работы базы

    Reply
  15. acsent

    (14) в файловой версии вызов сервера значительно дороже. Примерно раза в 2

    Reply
  16. Evg-Lylyk

    (15) откуда данные? При каких условиях?

    Reply
  17. acsent

    Проводил мини тестирование

    Reply
  18. i_lo

    А как вывести индикатор для процесса, который идет на сервере и «каждую секунду» показывает на экране состояние, не возвращаясь в вызвавшую процедуру? Или это тоже, как фоновое задание?

    Reply
  19. VVi3ard

    Мне кажется что правильнее было бы выводить индикатор не каждую секунду а каждый процент, на 8.1 я всегда сначала высчитывал шаг индикатора (сколько записей составляет 1%) и потом через каждое количество записей вызывал индикатор.

    Тогда при любом раскладе будет только 100 вызов

    Reply
  20. Evg-Lylyk

    (18) посмотрите пример…

    (19) вы сталкивались с 8.2? 100 это очень медленно и много трафика, хотя процесс мог произойти за 1 вызов

    Reply
  21. VVi3ard

    Сталкивался конечно, вот сейчас на ней родимой и работаю, да если у вас менее чем 100 операций планируется то да использовать мой подход не выгодно, если же 200-и выше и обработка занимает хотя бы минуту то в случае с вызовом каждую секунду будет 60 вызовов, если на каждый объект будет 200 вызовов.

    А если в обработке меньше 100 элементов и обработка занимает 5-6 секунд особого смысла в индикаторе нет.

    Данная обработка хороша тем что позволяет выбрать как выводить индикатор, (раз в секунду, раз на 100 записей или произвольный) было бы неплохо если бы автор добавил один раз за процент, но это можно и самим сделать без проблем.

    Итого если у вас обрабатывается более 100 записей и процесс занимает более 100 секунд выгодно использовать вывод по процентам.

    Reply
  22. Evg-Lylyk

    (21) Данный подход как бы универсален и эффективен при разных условиях

    VVi3ard пишет:

    А если в обработке меньше 100 элементов и обработка занимает 5-6 секунд особого смысла в индикаторе нет.

    Ну разве узнаешь сколько займет пока не начнешь делать… обработка послдених 10 элементов из 100 может занимать 90% времени обработки и т.д.

    я стремился к след. использовать минимум вызовов и удовлетворительную оперативность обновления… ИМХО раз в секунду то что надо

    В примере чисто индикатор, но можно же выводить количество оставщегося времени осталось 1:03 или количество уже обработанных записей, сколько прошло и т.д.. Влияние вывода индикатора при вызове раз в секунду очень мало.

    VVi3ard пишет:

    Итого если у вас обрабатывается более 100 записей и процесс занимает более 100 секунд

    Если обработка одного объекта будет больше секунды то обновление будет больше. Например проведение документов… проведение занимает 3 с. обновление будет 3с.

    VVi3ard пишет:

    Мне кажется что правильнее было бы выводить индикатор не каждую секунду а каждый процент, на 8.1 я всегда сначала высчитывал шаг индикатора (сколько записей составляет 1%) и потом через каждое количество записей вызывал индикатор.

    Неизвестно сколько будет идти обработка по времени и насколько равномерно время распределится на обрабатываемые объекты, 1% может быть обработан как за 5с так и за 0.5

    Вот смотрите… пользователю собственно пофиг на 1% на 5%, ИМХО главное чтобы он не думал что зависло и видел время которое осталось… чтобы знать идти курить или подождать (разве поймет он сколько осталось по процентовке это нужно посчитать сколько времени это заняло и т.д.)

    Суть метода в том чтобы с сервера вернутся на клиент отобразить индикатор, а потом назад работать и тд.

    возьмите реализацию протестируйте свои предложения

    Reply
  23. nitr02k

    Я так думаю что эти цифры сравнения относительны может у меня сеть 1 гб ))

    Reply
  24. Yury1001

    Это всё конечно интересно

    (19) (20) да и возврат для индикации можно сделать комбинированный: раз в 1% но не чаще секунды.

    Вот только как быть, если я загружаю, например, данные из Excel, ну там 6-7 000 строк – не открывать же книгу на сервере каждые 1 секунду или 100 раз?

    Reply
  25. Yury1001

    (8) (9) а можно писать состояние в текстовый файл, а на какой нибудь форме его смотреть, эдакую консоль состояний сделать.

    Есть же ПодключитьОбработчикОжидания() для формы? Только, честно, я не проверял.

    Reply
  26. Evg-Lylyk

    (24)

    для индикации можно сделать комбинированный: раз в 1%, но не чаще секунды.

    а если 1% делается 5 минут, пользователь будет думать что зависло

    Вот только как быть, если я загружаю, например, данные из Excel, ну там 6-7 000 строк – не открывать же книгу на сервере каждые 1 секунду или 100 раз?

    Файл передается на сервер и открывается один раз… далее обработка или еще что то там

    Reply
  27. Yury1001

    (26) ну я имел ввиду или или что раньше наступит.

    А про «открывается один раз» позвольте: при возврате с сервера все переменные обнуляются, где ж мне объект оставить?

    Reply
  28. Evg-Lylyk

    (27)

    А про «открывается один раз» позвольте: при возврате с сервера все переменные обнуляются, где ж мне объект оставить?

    во временном хранилище ПолучитьИзВременногоХранилища/ПоместитьВоВременноеХранилище

    ну я имел ввиду или или что раньше наступит.

    особо смысла не вижу расчета 1% и так достаточно оперативное обновление пользователь видит что процесс жив и насколько он двигается.

    Reply
  29. Den_D

    Эту эпопею можно назвать — Битва за индикатор)))

    Reply
  30. Aleskey_K

    (8) tuxik07, в цикле писать СобщениеПользователю, а в обработчике ожидания считывать их методом ПолучитьСообщенияПользователю. Делалось для файлового и серверного вариантов.

    Насколько я знаю, через временное хранилице удобнее, но медленнее и задействуется дисковая подсистема.

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *