Ускоряем регистрацию объектов в МОД (для SQL)




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

15 Comments

  1. int3

    Мелкософт в буксе очень не рекомендует прямое обращение к системным таблицам, т.к. их формат может меняться даже при установке сервис-пака, не говоря уже о других версиях

    Проверку на существование таблицы я делаю обычно так:

    Код
    ТекстЗапроса = "
    |if object_id('UIDD') is null
    |create table UIDD (idd char(7), uidd numeric(10,0))
    |";
    

    Показать полностью

    да и в ПолучитьНовыйИДД() стоит проверять состояние @@ERROR после запросов, мало ли что…

    Но в целом, много лучше исходного "фирменного" ужаса 🙂

    Reply
  2. int3

    кстати, думаю можно еще уменьшить время SQL-блокировок и повысить параллелизм, сменив стратегию: перейти от явного инкремента uidd к использованию identity, и соответственно от select-updlock-update к insert-select-delete…

    хотя… транзакции короткие, может это и несущественно

    Reply
  3. Вадимко

    Спасибо за каменты и проявленный интерес

    Я тоже так проверяю существование, но не всегда, просто скопипастил из своего же 🙂

    Насчет идентити тоже соглашуся

    п. 2- это настолько несущественно и настолько отличается от «а ля ПиБи» что… 🙂

    Если не трудно напиши свой вариант и выложи сюда

    //

    Джонии, спасибо за плюс 🙂

    Reply
  4. Вадимко

    Кстати, если вы заметили, в таблице всего одна строка, поэтому и апдейт

    Таблица по сути заменяет константу, идентити тут имхо и нафик не нужно

    В общем буду рад прочитать советы, возражения, критику и т.п.

    Reply
  5. JohnyDeath

    (3) Джонии, спасибо за плюс 🙂

    Я всё связвнное с 1с++ плюсую неглядя! 😉

    Reply
  6. Abadonna

    1С++ — два плюса, а ставишь один ;)))

    Reply
  7. JohnyDeath

    (6) это уже к суппорту

    Reply
  8. int3

    (3) примерно так:

    Код
    //инициализация таблицы
    ТекстЗапроса = "
    |if object_id('tempdb..#uidd') is null
    |create table uidd(uidd numeric(10,0) identity(:УникальныйИДД,1))
    |";
    RecordSet.УстановитьТекстовыйПараметр("УникальныйИДД",   Число(Константа.УникальныйIDD));
    RecordSet.ВыполнитьИнструкцию(ТекстЗапроса);
    
    //использование
    Функция ПолучитьНовыйИДД() Экспорт
                    ТекстЗапроса = "
    |begin tran
    |insert into uidd default values
    |select right('0000000000' + LTrim(str(@@identity, 10)),10)
    |rollback tran
    |";
       
       ТЗ = RecordSet.ВыполнитьИнструкцию(ТекстЗапроса);
       Возврат Константа.IDD+ТЗ.ПолучитьЗначение(1,1);
    КонецФункции
    

    Показать полностью

    различается стратегия получения автоинкрементного значения, возрастает параллелизм

    но, как уже и говорилось, возможно это "ловля блох", т.к. транзакции действительно короткие

    насчет же "нужно ли идентити" скажу следующее: идентити инкрементируется внетранзакционно, без блокировки остальных, в отличие от явного инкремента значения — это может уменьшить время ожидания блокировки, хотя оно и так наверное невелико 🙂

    Reply
  9. int3

    упс, октоторп тут лишний 🙂

    читать так:

    |if object_id(‘tempdb..uidd’) is null

    Reply
  10. int3

    и опять я промахнулся, всё с тестами над темпдб 🙂

    |if object_id(‘uidd’) is null

    Reply
  11. Вадимко

    Спасибо, но мне не нужно хранить ВСЕ ИДД

    Я храню только последний

    А значнеие ИДД базы запихнул чтобы не считывать отдельно константу 🙂

    ЗЫ. Если кто будет применять метод int3 отключайте на время выполнения запроса инициилизации RecordSet.РежимRPC(0) если он был включен

    Reply
  12. int3

    (11) Откуда же там будут ВСЕ ИДД? Это тоже «константа», а точнее простой генератор 🙂

    Reply
  13. Вадимко

    Ты что-то перемудрил 🙂

    Проверь на практике, номер не увеличивает

    А если транзакцию не откатить — строки будут размножаться

    Reply
  14. int3

    (13) перед тем как запостить, как раз и проверил. отсюда и рудименты типа «tempdb..#uidd» 🙂

    и даже в теории такое поведение описывается, так что возвращаю совет «проверить на практике» 😉

    Reply
  15. Вадимко

    Доперло, посмотрю как токо появится время 🙂

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *