Решение проблемы ПроверитьВывод() для огромных документов




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

17 Comments

  1. Armando

    На 8.3.11 не проверяли? Там что-то оптимизировали на эту тему:

    Оптимизирована работа метода табличного документа ПроверитьВывод().

    Источник: http://downloads.v8.1c.ru/content//Platform/8_3_11_2700/V8Update.htm#0bacf61e-057e-11e7-a3f7-0050569f678a

    Reply
  2. SITR-utyos

    (1) Нет, на 8.3.11 не проверял. Последняя платформа, что у меня стоит 8.3.10.2639 — там такая же проблема.

    Спасибо, за заметку

    Reply
  3. mifka186

    Что-то подобное в расчетном листке организации ЗУП 2.5 используется.

    Если ВыводитьПоСтраницам Тогда
    
    ОбластьПриемник = ТабличныйДокументДляПроверки.Область(ТабличныйДокументДляПроверки.ВысотаТаблицы + 1, ,ТабличныйДокументДляПроверки.ВысотаТаблицы + (НомерСтрокиКонцаРЛ — НомерСтрокиНачалаРЛ) + 1, );
    ТабличныйДокументДляПроверки.ВставитьОбласть(ОбластьРЛ, ОбластьПриемник, , истина);
    
    КоличествоСтраниц = 0;
    Попытка
    КоличествоСтраниц = ТабличныйДокументДляПроверки.КоличествоСтраниц();
    Исключение
    КонецПопытки;
    
    Если КоличествоСтраниц > 1 тогда
    
    ТабличныйДокумент.Область(НомерСтрокиНачалаРЛ, , НомерСтрокиНачалаРЛ,).НачалоСтраницы = истина;
    
    ТабличныйДокументДляПроверки.Очистить();
    
    Для сч = 0 по НастройкаШириныКолонокРасчетногоЛистка.ВГраница() Цикл
    ОбластьКолонкиРЛ                  = ТабличныйДокументДляПроверки.Область(, сч+1, , сч+1);
    ОбластьКолонкиРЛ.ШиринаКолонки    = НастройкаШириныКолонокРасчетногоЛистка[сч];
    ОбластьКолонкиРЛ.РазмещениеТекста = ПолучитьТипРазмещенияТекста(НастройкаРазмТекстаКолонокРасчетногоЛистка[сч]);
    КонецЦикла;
    
    ОбластьПриемник = ТабличныйДокументДляПроверки.Область(ТабличныйДокументДляПроверки.ВысотаТаблицы + 1, ,ТабличныйДокументДляПроверки.ВысотаТаблицы + (НомерСтрокиКонцаРЛ — НомерСтрокиНачалаРЛ) + 1, );
    ТабличныйДокументДляПроверки.ВставитьОбласть(ОбластьРЛ, ОбластьПриемник, , истина);
    
    КонецЕсли;
    
    КонецЕсли;
    

    Показать

    Reply
  4. madonov

    Плюс за идею. Взял на вооружение.

    Reply
  5. nvv1970

    Работа с табличным документом, текстовым документом деградирует пропорционально росту его объема. Поэтому можно применять не только указанный метод, но и использовать для организации печати страниц двумерный массив табличных документов. Так можно определить последовательность вывода по строкам, столбам, чёт/нечет и т.д. на сколько хватит фантазии.

    Reply
  6. BigB

    Каждый месяц генерирую примерно > 600 тысяч квитанций пачками по 1000 листов в пачке.

    На каждой странице (внизу) есть адрес доставки и кому.

    Квитанция должна занимать не более одной страницы.

    Я поступаю так: если адрес доставки больше 150 тогда делаю проверку на количество страниц и если произошел перенос адреса на другую страницу — уменьшаю шрифт, пока не влезет в одну страницу.

    Вот такой кусок кода у меня:

    //Автоматическое изменение размера шрифта адреса доставки
    Если СтрДлина(Выборка.АдресДоставки)>150 И ТДП.КоличествоСтраниц()>ХХ Тогда
    Y=Формат(ТДП.Области.Подвал.Низ,»ЧГ=0″);
    ОбластьДоставки=ТДП.Область(«R»+Y+»C2:R»+Y+»C10»);
    Пока Истина Цикл
    ОбластьДоставки.Шрифт=Новый Шрифт(ОбластьДоставки.Шрифт,ОбластьДоставки.Шрифт.Имя,ОбластьДоставки.Шрифт.Размер-1);
    Если ТДП.КоличествоСтраниц()=ХХ Тогда
    Прервать
    ИначеЕсли ОбластьДоставки.Шрифт.Размер<7 Тогда
    Сообщить(«Л/С «+Выборка.НомерЛС+» Не удалось разместить на одной странице адрес доставки:»+Символы.ПС+Выборка.АдресДоставки);
    Прервать
    КонецЕсли;
    КонецЦикла;
    КонецЕсли;
    

    Показать

    Reply
  7. vis_tmp

    Спасибо, интересный метод ускорения печати больших отчётов!

    Reply
  8. AlexGroovy

    А где именно в коде оптимизация ? Я понял,если бы вы избежали ПроверитьВывод(),но у он у вас остался и находится в цикле.Смысл в том,что всё выводится в итоговый табличный документ?

    Reply
  9. корум

    (8)

    А где именно в коде оптимизация ? Я понял,если бы вы избежали ПроверитьВывод(),но у он у вас остался и находится в цикле.Смысл в том,что всё выводится в итоговый табличный документ?

    нет, не понял.

    Смысл в том, что не тормозит.

    ПроверитьВывод() 3 страниц 0,01 сек, ПроверитьВывод() 300 страниц не 1 сек, а 100.

    ПроверитьВывод() для 3 страниц 100 раз — 1 сек.

    Reply
  10. BigB

    (0) Уберите из названия «для огромных документов».

    Поверьте мне — 200 страниц это мизерный документ.

    Не используйте ПроверитьВывод().

    Вместо этого используйте КоличествоСтраниц() в разумных пределах и отчет будет формироваться очень быстро.

    Reply
  11. AlexGroovy

    А как у вас получается область на 300 страниц сразу,если вы в цикле как и в типовом механизме добавляете по области строчке и сразу переносите другие на новую страницу?

    Reply
  12. madonov

    (10) предположим, что выводим область и при помощи КоличествоСтраниц() видим, что количество страниц увеличилось.

    И как без ПроверитьВывод() определить целиком ли новая новая область на новой странице или её «разорвало» на разные и требуется вставка разрыва страницы?

    Reply
  13. madonov

    (11) да не область на 300 страниц. А сам табличный документ на 300 страниц.

    БольшойТабличныйДокумент.ПроверитьВывод(Область)

    работает гозадо медленнее чем

    МалыйТабличныйДокумент.ПроверитьВывод(Область)

    Автор предлагает не вызывать ПроверитьВывод() для большого документа на 300 страниц, а вызывать эту функцию только для малого табличного документа, который равен последней странице большого.

    Ускорение происходит не за счет того, что уменьшается количество вызовов функции ПроверитьВывод(), а за счет того, что каждый вызов занимает в разы меньше времени.

    Reply
  14. AlexGroovy

    (13)Спасибо большое за ответ =)

    Reply
  15. apostal86

    Идея интересная. Надо запомнить

    Reply
  16. androgin

    Простите, а если длина наименования постоянно разная и может занимать 1,2,3 строки, то как вы это обойдете?

    На одном листе может быть 40 строк, а следующем 50, а третьем ваще 35.

    Тут уже параметр СтрокНаЛисте не имеет смысла

    Reply
  17. echo77

    (16) В примере переменная СтрокНаЛисте нигде не используется, если посмотреть циклы внимательное. Это наследие типовой формы инвентаризации — там сделано именно так

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *