Статистика информационной базы




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

42 Comments

  1. miksla

    (+) а то искал недавно статистику для файловой базы и не нашел 🙂

    Reply
  2. YVolohov

    думаю еще дописать подсчет строк в табличных частях объектов

    Reply
  3. miksla

    Ты кстати глянь на сайте, таких обработок очень много. http://infostart.ru/projects/1200/

    Вот эта очень хороша, но для скуля.

    Если уберешь объекты у которых количество 0 и сделаешь перед запуском фильтр по типу документов будет лучше. Иначе на больших базах работать будет вечность.

    Reply
  4. YVolohov

    Отличная штука, можно кое-что позаимствовать, особенно фильтр в виде дерева метаданных понравился.

    Reply
  5. Evg-Lylyk

    Жаль ничего нового 🙁

    (0) у меня не работает на базе примеры 8.1

    Для РегистрБухгалтерии.Основной генерится запрос к полю Валюта, а в регистре ВалютаДт, ВалютаКт. Имя первого поля помоему должно быть поле которое есть всегда.

    Reply
  6. YVolohov

    (5) Для всех таблиц кроме таблиц регистров такое поле есть, это «ссылка». А регистры не имеют фиксированного поля, поэтому пришлось брать первое поле регистра. Поле «Период» есть например в регистрах бухгалтерии, накопления, расчетов но может отсутствовать в регистре сведений. Но поправить возникшую ситуацию все же можно. Сейчас переделаю и выложу.

    Reply
  7. YVolohov

    (7) Насчет «Количество(*)» не знал, интересная возможность. Спасибо за совет.

    Reply
  8. VladZetRu

    Было бы не плохо при выборе строки отчета переходить в соответствующий список справочника или журнал документов

    Reply
  9. YVolohov

    (9) добавил эту возможность

    Reply
  10. malikov_pro

    было бы неплохо добавить фильтр по датам, интересно сколько документов введено за последний месяц

    Reply
  11. malikov_pro

    разнести по разным столбцам количество документов и количество записей

    Reply
  12. YVolohov

    (11) Это нарушает принцип универсальности отчета, если документ можно привязать к дате то запись справочника или непериодического регистра сведений, например, нельзя (поскольку там просто нет такого реквизита), то же самое касается и (12), посколько документ и запись в табличной части документа расценивается исключительно как запись в таблице.

    Впрочем выход есть, создать дополнительные отчеты для основных объектов метаданных (справочники, документы) и вставить ссылки на них в расшифровку по основному отчету. В следующих версиях программы я это обязательно сделаю.

    Reply
  13. drx211

    🙂 Тупо сдохла на совсем небольшой базе УПП… Не анализировал — ты случайно там деревья не используешь? В 1С еще с 8.0 тянется такая лажа — деревья очень отжирают память, я как-то анализатор метаданных делал, туда нормально даже дерево конфигурации(порядка 4000 элемнов) не загружалось — так что — скорее всего — причина падения — в использовании ДереваЗначений…

    Reply
  14. YVolohov

    (14) Дерево используется только для фильтра на форме, вряд ли оно забирает так уж много памяти, да и размер его небольшой.

    База какая? С SQL-базой могут быть проблемы (хотя и не обязательно), обработка создавалась в основном для файловой базы. Для SQL попробуй это http://infostart.ru/projects/1200/

    У меня на всех файловых базах работала нормально. На некоторых SQL-базах выбрасывала ошибки, на некоторых нет.

    Reply
  15. drx211

    УПП достаточно большая конфигурация… Вариант — файловый. Попробуй взять демо базу УПП и на ней запустить отчет, со всеми установленными галочками.

    Reply
  16. YVolohov

    (16) Попробовал запустить на УПП (демо-база), работает нормально. Правда использовал УПП для Укрины (другого просто не было) но разница я думаю небольшая.

    Reply
  17. an77

    Информативно и полезно. Плюс.

    Reply
  18. grad-usnik

    Нет выбора по датам. Не информативно. Минус

    Reply
  19. YVolohov

    Есть планы прикрутить к отчету период и периодичность, да все руки никак не доходят.

    Reply
  20. pavel_lucenko

    Спасибо за статистику файловой ИБ

    Reply
  21. KukA.5

    Очень хорошая работа! Спасибо, Ярослав.

    Reply
  22. KvazaR

    в файлов варианте УПП 1.2.23.2 вылетает с ошибкой «мало памяти».

    Reply
  23. YVolohov

    (23) Да, с УПП явно что-то не так. Вторую жалобу уже слышу. Самое интересное что при тестировании на демо-базе УПП все работало нормально.

    Может действительно нехватка памяти. Все таки запрос немаленький, обращение ко всем таблицам базы. А если отчет формируется не по всем таблицам а по части, тоже ошибка появляется ?

    В любом случае спасибо за замечание, попробую разобратся.

    Reply
  24. ulen

    ОТЛИЧНО!! +

    Reply
  25. asp

    УПП 1.2.19.1, база клиент-серверная, БД MS SQL 2005.

    При попытке запуска выкидывает ошибку

    {Форма.Форма(708)}: Ошибка при вызове метода контекста (Выполнить): Ошибка выполнения запроса «Построенный запрос к СУБД использует слишком много таблиц. Допустимо не более 256.

    Reply
  26. YVolohov

    (26) Так это не ошибка, это ограничение на уровне сервера. В данном случае нельзя получить статистику по всех таблицах одновременно, поскольку сервер отказывается обрабатывать такой запрос. Можно ли это как то обойти на уровне сервера я не знаю, а вот в обработке нужно выбрать не все элементы дерева а часть. В файловой базе таких проблем не возникает.

    Reply
  27. artmicro

    При использовании детализации:

    ПлатежноеПоручениеВходящее:

    Всего записей 108 385

    Проведен- ных 108 301

    Непроведен-ных 84

    Помеченных на удаление 83

    Объясните пожалуйста арифметику, а то 108301+84+83 ни как не равно 108385

    Спасибо.

    Reply
  28. YVolohov

    (28) Всего = Проведенных + Непроведенных

    Непроведенные = Просто непроведенные + Помеченные на удаление

    Reply
  29. artmicro

    (29) Спасибо. Так понятней. Обработка прикольная, удобная, а главное довольно быстрая. Спасибо за разработку 😉

    Reply
  30. scalalaz

    Удобный и полезный отчет.

    Reply
  31. wildhog

    (27) Думаю можно обойти это ограничение используя временные таблицы. а в целом спс — удобная и нужная обработка )

    Reply
  32. VladC#

    спасибо за обработку, все очень просто и удобно

    Reply
  33. Skazal

    Благодаря обработке нашел много косяков в базе и почистил не нужные регистры.

    Reply
  34. ASoft

    Спасибо за обработку, все очень просто и удобно.

    Reply
  35. abzae

    Отличная вещь, для себя добавил % записей таблицы от общего кол записей БД

    Reply
  36. CyberCerber

    А есть подобная обработка на 8.2 УФ?

    Reply
  37. CratosX

    Не работает отбор по подсистемам, хотя галочки оставлял все, одну, или некоторые

    {Форма.Форма.Форма(232)}: Поле объекта не обнаружено (Подсистемы)
    ПодсистемыОбъекта = ОбъектМетаданных.Подсистемы;

    (38) есть http://infostart.ru/public/73264/

    Reply
  38. newborn

    В каких единицах приводятся данные о размерах таблиц? Для меня это важно, я качал обработку для этого.

    Reply
  39. YVolohov

    (40) Количество записей в основной таблице или табличных частях.

    Reply
  40. DitriX

    Вы бы сюда добавили отборы, и графики.

    Что бы отслеживать тенденцию роста базы.

    В метаданных, если не ошибаюсь — хранится инфа и том, когда был создан объект.

    Было бы круто посмотреть график — рост тех или иных объектов по времени (месяц, год и т.д.)

    Reply
  41. sam2601

    Интересная обработка, сюда бы еще объем этих таблиц добавить и будет «SUPER GUT».

    Reply
  42. b-dm

    Спасибо ,очень хорошая и полезная обработка по статистике ИБ 8.

    Было бы идеально если бы можно было еще количество документов формировать за период.

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *