Формирование движений в регистрах и производительность системы 1С:Предприятие 8




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

10 Comments

  1. slazzy

    Это правда достойно отдельной статьи? Если уж на то пошло, то зачем выбирать в запросе регистратор и дату, если у нас и так доступен объект.

    На каком основании вы делаете вывод, что запрос быстрее? Данные объекта уже в оперативной памяти, а запрос читает из базы данных.

    Запрос в данном случае используется во много для удобной манипуляции данными, например чтобы сгруппировать дубли(чего вы не сделали) или отсечь услуги, например.

    Очень жаль, что нельзя ставить минус. Это один из тех примеров, когда минус за статью был бы заслужен.

    Reply
  2. yukon

    (1) slazzy,

    На каком основании вы делаете вывод, что запрос быстрее?

    Вроде автор написал: «Замеры производительности при отладке дают прирост скорости от 30 %». Этого недостаточно?

    Данные объекта уже в оперативной памяти, а запрос читает из базы данных.

    Проблема не в наличии объекта в оперативной памяти, а в скорости перебора табличной части vs. формирования единой таблицы значений. Не забывайте, что 1С это интерпритатор, т.е. перебор одной коллекции с модификацией другой коллекции в общем случае проиграют производительности против целостной выборки данных и пакетной загрузки. Плюсом к запросу, конечно, идет считывание полей реквизитов табличной части и прочие манипуляции типа уже упомянутого вами удаление дублей.

    В целом, если еще избавится от промежуточной таблицы значений, а загружать движения сразу из результата запроса, то вообще было бы отлично.

    Reply
  3. Yashazz

    Согласен с (1), это как-то совсем обрывочно и куце.

    Кроме того, есть и промежуточные варианты — например, вываливание табчасти в таблицу значений и обход циклом уже в ней.

    Ну и, автор, зачем вы выбираете в запросе «Период» и «Регистратор», кои одинаковы по определению во всех строках выборки? А если у вас документ из сотен строк? Проще ведь дозабить напрямую в наборе.

    Зачем промежуточная таблица значений, которая будет занимать место в оперативке?

    Гораздо интереснее, если бы вы рассказали, например, об особенностях кэширования результатов запроса, особливо о разнице между выгрузкой в таблицу значений и в ОбходРезультатаЗапроса, и о разнице в применении этих объектов к заполнению движений.

    И ещё — дурное разыменование через пять точек при заполнении табчастей в цикле иногда виновато больше, нежели сам принцип заполнения.

    Reply
  4. slazzy

    (2) yukon,

    Проблема не в наличии объекта в оперативной памяти, а в скорости перебора табличной части vs. формирования единой таблицы значений.

    Проблема в том, что это в корне меняет смысл статьи. Вся разница достигается не за счет «скорости запроса», которая якобы постулируется, а просто за счет того, что перебор делается дольше, чем выгрузка/загрузка. Что по большому счету никак не связано с методом получения данных, мы ведь можем выгрузить/загрузить из табличной части.

    Сейчас протестировал:

     Запрос = Новый Запрос;
    Запрос.Текст =
    «ВЫБРАТЬ
    | ДокументТовары.Номенклатура,
    | ДокументТовары.Количество
    |ИЗ
    | Документ.Документ.Товары КАК ДокументТовары
    |ГДЕ
    | ДокументТовары.Ссылка = &Ссылка»;
    
    Запрос.УстановитьПараметр(«Ссылка», Ссылка);
    
    Движения.Регистр.Загрузить(Запрос.Выполнить().Выгрузить());
    

    Показать

     ТЧ = Товары.Выгрузить();
    ТЧ.Колонки.Добавить(«Период»);
    ТЧ.ЗаполнитьЗначения(Дата,»Период»);
    Движения.Регистр.Загрузить(ТЧ);
    

    По сути не отличаются по скорости выполнения. Как следствие статья неочем 🙂

    Reply
  5. Gilev.Vyacheslav

    автор импирически уловил преимущества второго варианта, но не понял почему )))

    объектная техника обращения точно так же делает запрос на уровне платформы, но только запрос более широкий, потому что читает все данные

    особенно плохо это было на автоматических блокировках, так блокировалось больше чем надо

    Reply
  6. Yashazz

    (4) Об чём я и говорил. Спасибо за подтверждение, мне было недосуг.

    (5) Вячеслав, это как? Речь ведь об одном документе, точнее, о строках из табличной части, которые к нему относятся. Ты хочешь сказать, что там безотносительно объектной блокировки лочилась вся таблица табчасти? Или ты о движениях?

    Reply
  7. bulpi

    А еще умиляет вот это :

    Движения.Остатки.Записать();

    Так набор запишется 2 раза 🙂

    Reply
  8. jobkostya1c8

    Данные вопросы звучат на собеседованиях для специалистов 1С по оптимизации 🙂

    Reply
  9. arnautov.eugene

    (7) bulpi, Ну и выгрузка в таблицу значений доставляет. Вроде, уже везде говорили, что выборка — предпочтительнее, поскольку не грузит в ОЗУ сразу весь результат целиком (по 25 строк). В котором к тому же и записи не сгруппированы и услуги не убраны, как заметил slazzy. В принципе, если всю базу загрузить на RAM — диск — тоже получим гарантированный прирост производительности.

    Reply
  10. ZLENKO
    Движения.Остатки.Записать(); 

    Это в любом случае неправильно. Явная запись движений может приводить к взаимоблокировкам.

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *