Регламентное задание: Очистка регистра сведений "Версии объектов"




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

7 Comments

  1. ice-net

    Мне кажется так будет быстрее + время будет тратиться только на удаление существующих записей + можно получать данные для удаления порциями

    Процедура ВыполнитьОчисткуПоВидуОбъекта() Экспорт
    
    Запрос = Новый Запрос;
    Запрос.Текст =
    «ВЫБРАТЬ РАЗРЕШЕННЫЕ РАЗЛИЧНЫЕ ПЕРВЫЕ 5000
    | ВерсииОбъектов.Объект,
    | МАКСИМУМ(ВерсииОбъектов.НомерВерсии) КАК НомерВерсии
    |ПОМЕСТИТЬ ВТ
    |ИЗ
    | РегистрСведений.ВерсииОбъектов КАК ВерсииОбъектов
    |ГДЕ
    | НАЧАЛОПЕРИОДА(ВерсииОбъектов.ДатаВерсии, ДЕНЬ) <= &Период
    |
    |СГРУППИРОВАТЬ ПО
    | ВерсииОбъектов.Объект
    |
    |ИМЕЮЩИЕ
    | КОЛИЧЕСТВО(ВерсииОбъектов.Объект) > 1
    |;
    |
    |////////////////////////////////////////////////////////////­////////////////////
    |ВЫБРАТЬ
    | ВТ.Объект КАК Объект,
    | ВерсииОбъектов.НомерВерсии КАК НомерВерсии
    |ИЗ
    | ВТ КАК ВТ
    |  ВНУТРЕННЕЕ СОЕДИНЕНИЕ РегистрСведений.ВерсииОбъектов КАК ВерсииОбъектов
    |  ПО ВТ.Объект = ВерсииОбъектов.Объект
    |   И ВТ.НомерВерсии > ВерсииОбъектов.НомерВерсии»;
    Запрос.УстановитьПараметр(«Период», НачалоГода(ТекущаяДата()));
    
    
    ДатаНачала = ТекущаяДата();
    ОстановитьПосле = ДатаНачала + 5*3600; //Через 5 часов
    СчетчикВерсий = 0;
    СчетчикОбъектов = 0;
    
    УдалитьСтарыеВерсии(Запрос, СчетчикВерсий, СчетчикОбъектов, ОстановитьПосле);
    
    
    ВремяВыполнения = ТекущаяДата() — ДатаНачала;
    ИмяСобытия = «Замер времени очистки Регистра сведений ‘Версии объектов'»;
    Комментарий = «Объектов обработано » +СчетчикОбъектов + «, удалено: «+ СчетчикВерсий + » версий. Затрачено «+ВремяВыполнения+» секунд.»;
    ЗаписьЖурналаРегистрации(ИмяСобытия, УровеньЖурналаРегистрации.Информация,,, Комментарий);
    
    КонецПроцедуры
    
    
    //Рекурсия
    Процедура УдалитьСтарыеВерсии(Запрос, СчетчикВерсий, СчетчикОбъектов, ОстановитьПосле)
    
    Результат = Запрос.Выполнить();
    Если Результат.Пустой() Тогда
    Возврат;
    КонецЕсли;
    
    НаборЗаписей = РегистрыСведений.ВерсииОбъектов.СоздатьНаборЗаписей();
    
    Выборка = Результат.Выбрать();
    н=0; Всего = Выборка.Количество();
    Пока Выборка.Следующий() Цикл
    н=н+1;
    НаборЗаписей.Отбор.НомерВерсии.Установить(Выборка.НомерВерсии);
    НаборЗаписей.Отбор.Объект.Установить(Выборка.Объект);
    НаборЗаписей.Записать();
    
    #Если Клиент Тогда
    ОбработкаПрерыванияПользователя();
    Если н%50=0 Тогда
    Состояние(«Обработано в этой порции данных» + н+»/»+Всего);
    КонецЕсли;
    #КонецЕсли
    
    СчетчикВерсий = СчетчикВерсий + 1;
    СчетчикОбъектов = СчетчикОбъектов + 1;
    
    Если ТекущаяДата() >= ОстановитьПосле Тогда
    Возврат
    КонецЕсли;
    КонецЦикла;
    
    УдалитьСтарыеВерсии(Запрос, СчетчикВерсий, СчетчикОбъектов, ОстановитьПосле);
    
    КонецПроцедуры
    

    Показать

    Reply
  2. abadonna83

    Нравится решение

    НаборЗаписей = РегистрыСведений.ВерсииОбъектов.СоздатьНаборЗаписей();

    Пока Выборка.Следующий() Цикл

    Далее уже отборы и запись.

    Reply
  3. mike_pol

    Есть ряд замечаний:

    1. не понятно, вы хотите оставить самый первый или самый последний экземпляр? Удаляя все записи, кроме первой или последней, вы лишаете себя возможности видеть все изменения, вносимые пользователями. В результате прояснить: кто, когда изменил документ и что изменено не представляется возможным. ( в случает отличия с печатной формой).

    2. Ежедневно выставляя параметр запроса «Период» как начало года, вы не уменьшаете объем данных регистра за текущий год.(т.е. весь текущий год регистр растет)- текущий год не обрабатывается. ( запускать обработку ежедневно не имеет смысла — только раз в году). Обработав первый раз регистр «Версии объектов» в 2018 году, набор данных за 2017 год и ранее мало изменится, т.к. вам навряд ли разрешат изменять данные закрытых периодов, а реквизит регистра ДатаВерсии будет = дате записи, внесения изменений или перепроведения — в любом случае>01.01.2018

    Reply
  4. abadonna83

    Постановка задачи:

    Оставляем самую свежую запись за 2017 год.Общая история хранится в бекапах.

    При больших объемах регистра в 20 мил записей до 2017 г. удалять приходится порциями.

    Закрытие периода не влияет на регистр «Версии объектов». Ночные задания проходят под правами администратора.

    Все входные параметры(Период отбора, Количество оставляемых версия, Время работы) можно зашить на Константы в таком случае работа механизма будет гибкой.

    Reply
  5. shard

    у себя для очистки версий использую следующий принцип:

    1) запросом выбираю объекты, которые не изменялись с какого-то момента времени (например с 01.01.18) — эти записи уже можно назвать условно постоянными и история по ним в рабочей базе не так важна.

    ВЫБРАТЬ РАЗЛИЧНЫЕ
    ВерсииОбъектов.Объект,
    МАКСИМУМ(ВерсииОбъектов.НомерВерсии) КАК НомерВерсииДо18,
    0 КАК МаксНомерВерсии
    ПОМЕСТИТЬ ВТ
    ИЗ
    РегистрСведений.ВерсииОбъектов КАК ВерсииОбъектов
    ГДЕ
    ВерсииОбъектов.ДатаВерсии < ДАТАВРЕМЯ(2018, 1, 1, 0, 0, 0)
    
    СГРУППИРОВАТЬ ПО
    ВерсииОбъектов.Объект
    
    ОБЪЕДИНИТЬ ВСЕ
    
    ВЫБРАТЬ РАЗЛИЧНЫЕ
    ВерсииОбъектов.Объект,
    0,
    МАКСИМУМ(ВерсииОбъектов.НомерВерсии)
    ИЗ
    РегистрСведений.ВерсииОбъектов КАК ВерсииОбъектов
    
    СГРУППИРОВАТЬ ПО
    ВерсииОбъектов.Объект
    ;
    
    ////////////////////////////////////////////////////////////­////////////////////
    ВЫБРАТЬ
    ВТ.Объект,
    СУММА(ВТ.НомерВерсииДо18) КАК НомерВерсииДо18,
    СУММА(ВТ.МаксНомерВерсии) КАК МаксНомерВерсии
    ИЗ
    ВТ КАК ВТ
    
    СГРУППИРОВАТЬ ПО
    ВТ.Объект
    имеющие
    СУММА(ВТ.НомерВерсииДо18) = СУММА(ВТ.МаксНомерВерсии)
    

    Показать

    2) очищаю версии этих объектов

    Инд = 0; Всего = РезультатТаблица.Количество();
    нз=регистрысведений.ВерсииОбъектов.создатьнаборзаписей();
    отбор=нз.отбор.объект;
    
    Для Каждого Выборка Из РезультатТаблица Цикл
    ОбработкаПрерыванияПользователя();
    
    отбор.установить(выборка.объект);
    нз.записать();
    
    Состояние(«»+Инд+» из «+Всего);
    Инд = Инд + 1;
    КонецЦикла; 

    Показать

    обращаю внимание что определения переменных НЗ и ОТБОР вынесены за пределы цикла. 480 тысяч записей по 130 тысячам объектов были освобождены в течение 5-6 минут.

    Reply
  6. abadonna83

    Непонятно зачем эта строка

    отбор=нз.отбор.объект;

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *