Кешируем SQL




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

20 Comments

  1. Noy

    Если что не так написал — не пинайте (sql только изучаю). Субъективно скорость работы (серфинг по справочникам/журналам) быстрее, если перед этим запустить обработку.

    Reply
  2. Altair777

    А проверочку на скульность базы не надо вставить? 🙂

    Reply
  3. Noy

    (2) наверное надо, но обработка для программистов, а не для пользователей…

    поправлю завтра 😉

    Reply
  4. CheBurator

    из того что вынес из семинара софтпоинтцев: скуль кеширует данные. и это хорошо. но если составить неоптимальный запрос — то можно «закешировать» кучу ненужных данных, которые выдавят из кеша действительно актуально-нужные данные…

    Reply
  5. vcv

    Есть еще возможность фиксирования таблиц в памяти. Тоже тематично.

    http://www.softpoint.ru/article_id33.htm

    Reply
  6. Noy

    (4) Полностью согласен! Но все-таки хочется чувствовать себя умнее железки и руководить процессом самому…

    (5) Спасибо за ссылку! Полезная статья!

    Reply
  7. CheBurator

    (6) если полазить по сатйу софтпоинтцев и рикцентра — можно мнооогог чего накопать полезного…

    Reply
  8. Noy

    (7) Самое обидное, что раньше там часто бывал, да вот раньше знаний было меньше, меньше понимал — вот и «изобретаю теперь велосипеды» которые там же скорее всего и видел.

    Reply
  9. CheBurator

    (8) не баись! не ты один такой! 😉

    Reply
  10. Valet

    Как вариант развития обработки:

    Интереснее было бы «прогреть» SQL «реальными» данными. К примеру делать снимок таблиц, которые в кэше занимают больше всего, сохранять его и при рестарте сервера прокачивать именно их.

    Reply
  11. leshik

    Хотелось бы вставить небольшую ложку дегтя 🙂

    1С++ форум, Dmitro

    И процитировать краткое резюме:

    Вобщем: маленькая база, при большом объеме памяти может и разместится в кеше ито не вся.

    А вообше для баз солидных размеров задача вообще не правильная — это не нужно.

    Но в целом — ставлю конечно же +

    Reply
  12. Noy

    (11) Ну код из ссылки грузит всю базу в память, мой же код грузит не все подряд — по скриншоту видно что скуль после кеширования сожрал 440 Мб — это я запускал на базе в 12Гб…

    конечно же к таким операциям стоит относится очень осторожно. Например мой код тоже не оптимален: если в справочниках есть строки неограниченной длины — он их «прокеширует»…

    В реалиях своей базы я кеширую не все справочники (только необходимые), а в некоторых справочниках только отдельные поля — то есть всю ту информацию, которая выводится в визуальных формах и/или используется при проводке документов…

    Reply
  13. Noy

    12+ Журналы, регистры и документы тоже грузятся только «актуальные»…

    Reply
  14. Dolly_EV

    мне не помогло 😥

    по крайней мере, справочники (формы списков) притормаживают точно так же…остальное не проверял (т.к. борюсь в данный момент именно с тормозом списков справочников)

    и еще момент, если это дело использовать — как отловить момент запускалась уже обработка или нет?

    Или более точно сформулируем: как узнать, что запуск 1С на данной базе — первый (еще никого нет в базе)

    Reply
  15. Noy

    (14) в твоем случае эта обработка вряд ли поможет. Лучше запусти Отладчик — там замер производительности и «побегай» по форме (могут тормозить функции получения остатка — меняй на прямой запрос «ВыполнитьСкалярный», всякие там проверки Выбран() замени на ПустоеЗначение и тд тп)

    Reply
  16. Noy

    15+ Получение периодики тоже нормально подвешивает формы списка

    Reply
  17. Dolly_EV

    (16) по следам этого топика:

    http://www.forum.mista.ru/topic.php?id=408845&page=3

    уже ВСЕ ОТКЛЮЧИЛ! (остатки, цены, ВСЕ!) все равно тормозит… ладно это не в тему немножко))

    Reply
  18. Noy

    (17) Судя по той теме косяк был найден…еще в мае. Или избавление от периодики не помогло?

    Если так, то попробуй отдай базу vde69 — пусть покрутит. Или мне скинь — я конечно не суперпроф, но может что дельное найду

    Reply
  19. Dolly_EV

    ВСЕ! Нашлось! «?(Товар.Алкоголь.Выбран()=1,2,0)», мать его висело на колонке с пиктограммой… а колонка уууууузенькая и неприметная 😉

    Reply
  20. Akela

    Нехрен перегружать так часто сервер SQL

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *