Ускоритель формирования проводок по ЗП




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

13 Comments

  1. Свой

    посмотри, не много ли еще отнимает времени создание новых СЗ и ТЗ… Собирание НДФЛ например при расчете зарплаты прилично отъедает на это

    Reply
  2. aves

    В моем исправлении новые СЗ и ТЗ не создаются. Стараюсь даже заполнять минимальное число раз.

    Оптимизацией глСобратьДанныеДляНДФЛ не занимался, пока 🙂 т.к. временные затраты приемлемые, хотя наверное можно и меньше.

    Пример реальной базы: 2500 сотрудников в базе (работают около 600) т.е. мусора много уволенного.

    Расчет на спец компе в RAM диске монопольно, январь: 23 часа (в реале 2 суток), ускоренное 20 минут (в реале 1-2 часа)

    Как видно перед ЭТИМ остальное не важно 🙂

    Можно еще кэшировать результаты глПолучитьРаспределениеРезультата. Выиграть можно 10-20% в зависимости от кол-ва начислений, базирующих на других (проверял).

    Reply
  3. nickVZ
    Reply
  4. aves

    Действительно не подумал :-.

    В ЖЗ лишних у меня нема. Начисляется тока кому надо — расчетчики левым сотрам документы не вводят.

    Лишних сотров действительно можно сначала выкинуть. (твоя нафиг-2 не увидит сотров просто с пересчетом ЕСН при ЖЗ=0).

    И далее: останутся только не лишние.

    Однако в обработке дофига еще лишних переписываний ТЗ где надо и где нет. Собственно их и оптимизирую.

    Результат есть 🙂

    Циклы перезаписи идут по каждому сотру независимо есть РБП или нет. (Какой процент отпускников за месяц к общему списку?) Так, что убирая из получим еще выигрыш.

    Reply
  5. Loshko_WR

    Заменил функцию глПроводкиЗаПериод, запустил…

    Начало сбора данных о проводках (1123 чел) 21.08.08 10:38:17

    МаксСтрок = ТаблицаУчетаНалоговННП_дляРБП.ПолучитьЗначение(ТаблицаУчетаНалоговННП_дляРБП.КоличествоСтрок(), «НомерСтрокиТаблицыУчетаНалоговННП») ;

    {Глобальный модуль(43856)}: Номер за пределами значения!



    P.S. Что такое: ВременнаяТЗ — определите где-нить выше. И нужно ли это делать если меняю полностью функцию, а не кусок оптимизации?

    Reply
  6. aves

    Еще раз проверил для ЗиК. Ошибки не вышло :-(. Для комплексной тоже работает…

    Однако, спасибо за косячок. Очепятка вроде.

    Копировал кусок с ТаблицаУчетаЗарплатыННП_дляРБП и не все вхождения заменил на НАЛОГОВ.

    Строкой выше заменить ТаблицаУчетаЗарплатыННП_дляРБП на ТаблицаУчетаНалоговННП_дляРБП.

    Если вставлять ф-ю, то ничего больше не надо. ВременнаяТЗ — ТЗ через которою копируются нужные строки из одной ТЗ в другую.

    ВременнаяТЗ = СоздатьОбъект («ТаблицаЗначений») уже есть по тексту.

    Файлы заменил для всех версий

    Reply
  7. Gaffer

    А почему во время первого цикла «Подготовка данных для формирования проводок за текущий месяц» процесс идет довольно шустро (минут пять на 2200 чел), а второй — во много раз медленнее? О.о

    Reply
  8. aves

    Какого цикла?

    Поподробнее плиз…

    Reply
  9. Loshko_WR

    Кто обновил до 7.70.484 и использует Доплату за замещение — тому может пригодится:

    Строка в глобальном модуле 32673

    //Loshko

    //Было

    ИндДня = НомерДняПериода(ДатаНачала,ЖрнЗарплата.ДатаНачала+инд);

    //Добавил т.к. не считает доплату за замещение

    Если (ИндДня<=0) ИЛИ (ИндДня>370) Тогда

    Продолжить;

    КонецЕсли;

    //Loshko

    Reply
  10. Abadonna

    (0)>Ускоритель….

    Щас так не модно. Модно называть «большой андронный коллайдер» :)))

    Reply
  11. vasilykushnir

    (10) Шутите, шутите — а вот как шарахнет….

    Reply
  12. WiseSnake

    Шарахнет это верно сказано. Сколько я не пытался оптимизировать формирование проводок, ничего хорошего из этого не вышло. Во первых там все работает как надо! НО можно оптимизировать если знаешь куда и как подсовывать проводки, НО это не универсальный механизм. Во вторых геморой с обновлениями. В третьих это может вылиться в ОЧЕНЬ неприятную ситуацию, когда ты окажешься крайним, а к тебе подойдут с вопросом а почему это у нас в проводках полная фигня. По этому после исследования на собственном опыте (более 6 лет) и долгих раздумий я отказался от потугов ковыряться с ускорением. Не такая уж и большая проблема. Причем если почистить справочник шаблонов проводок все работает гораздо быстрее. У меня предприятие Более 2000 РАБОТАЮЩИХ человек, с приличной текучкой и ничего страшного.

    Reply
  13. Lapitskiy

    Отлично!

    ЗиК 283:

    Было: 5-6 часов, стало: 15 минут!

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *