Обрезание или свертка базы (оперативный учет)




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2025-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

26 Comments

  1. CheBurator

    > в отчетах могут появиться надписи типа <объект не найден>

    страшного в этом нет

    Есть! Как пример: обрезал базу. После обрезки есть документ «возврат от покупателя», который ссылался документом-основанием на уже удаленную расходную накладную. Подмену ссылок удаленных объектов ты не проводишь. В результате будешь иметь возратную партию по нулевой себестоимости = косяк в учете.

    ..

    надо четко понимать, что делая «быстрые» обрезки базы — следует ясно представлять себе последствия таких обрезок в ОБЩИХ СЛУЧАЯХ. А не только в своем частном. Ты, судя по всему, последствия представляешь не совсем верно. Так что — выкладывая такие «универсальные» док — надо писать достаточно четко область применимости, возможные проблемы и прочее — чего в этом случае не сделано. Фраза «Наверное есть и недостатки» — таковым описанием не считается — это есть у всех программм.

    По хорошему, конечно, надо вкатать минус именно за пункт

    «в отчетах могут появиться надписи типа <объект не найден>

    страшного в этом нет» — особенно если учесть что ПустоеЗначение(СсылканаДокКоторыйОбъектНенайден)=0 — что может привести к тяжелым поискам глюкавости алгоритмов…

    Reply
  2. Bobak

    Просто -1.

    Это даже не плохо, это вредно. Образец того как не надо делать.

    Reply
  3. ahmet

    Интересно в чем это не образец!!.

    Reply
  4. lustin

    Мечта о том чтобы свернуть базу БЫСТРО рано или поздно посещает всех.

    НО:

    1. в релятивистских базах данных существует такое понятие как контроль ссылочной целостности.

    2. появление надписи <объект не найден> — на самом деле страшно

    3. чисто в прикладном смысле — в вашем случае 100% нарушится иерархия документов = например Счет в декабре — отгрузки в январе

    4. как говорил один умный человек = «А Вы не подумали почему в 1С типовых сделано НЕ ТАК»

    Reply
  5. lustin

    в качестве примера:

    1. советую посмотреть штатную свертку 1С Торговли

    2. Разработку Вадимко http://infostart.ru/projects/1021/

    Reply
  6. lustin

    а также небеизвестный RL

    http://infostart.ru/projects/66/

    Reply
  7. ahmet

    Вообщем судя по всему не обработка а …

    Тем не менее есть наверное живой интерес к проблеме и всегда существует возможность доработать. И если учесть мнения высказавшихся, то есть рациональное зерно. И если приложить усилия..

    А давайте вместе доведем её до ума. А интересно узнать мнение по поводу, платной обрезки.

    — И на посошок

    Ну не у всех такие гигантские проблемы… Есть и те кому обработка поможет.

    Всем спасибо!!!

    Reply
  8. Bobak

    >- в отчетах могут появиться надписи типа <объект не найден>

    >страшного в этом нет

    Страшное в этом есть :). За одну эту фразу надо -1.

    Я думал документ сам удаляет все документы до свертки и порождает «надписи типа <объект не найден>». Ан нет, это предлагается сделать вручную.

    Явная недоработка. Правда если убрать эту недоработку, то вся «Очеь быстр — обрабатывает 10 гиг. базу за 5 мин. » накрывается медным тазом.

    А без этой обработки документ просто неработоспособен, потому как приводи просто к задвоению всех остатков и все.

    >Интересно в чем это не образец!!.

    Я разве сказал что это не образец?! Нет я сказал что это образец :).

    Образец потому как очень неграмотно сделано.

    Начиная с хранения списка регистров в виде строки в шапке документа. Кончая отсутствием процедуры удаления документов до момента свертки.

    Reply
  9. ahmet

    Так мне застрелиться или как…

    Reply
  10. lustin

    😉

    ну считай это публичной поркой

    Reply
  11. Bobak

    >Так мне застрелиться или как…

    Ну зачем так круто :).

    Просто убрать слово из описания:

    >Универсален — конфигурация может быть любой (стандартной или самодельной).

    >Очеь быстр — обрабатывает 10 гиг. базу за 5 мин.

    >- в отчетах могут появиться надписи типа <объект не найден>

    >страшного в этом нет

    Собственно реакция на эти слова, а не на обработку. Сама обработка не заслуживает обсуждения :).

    Reply
  12. ahmet

    Ну и…

    РосГосСтрах??????

    Из песни слов не выкинуть. Добивайте до конца. Только по существу, желательно с уазанием строки дефекта и найденным решением…

    НО согласны что обработка УНИВЕРСАЛЬНА А? +

    А работает она — быстро??? +

    Ну есть глюк, так мы его сообча и грохнем…

    А потом ВАм всем памятник при жизни, а мне..? Мне бы день дожить, да ночь продержаться.

    Reply
  13. ahmet

    И потом в 10 гигаг удаление документов с проверкой целостности.. Кто пробовал откликнись

    Reply
  14. Bobak

    >Ну есть глюк, так мы его сообча и грохнем…

    Глюк в самом подходе и плохом знании матчасти.

    В общем РТФМ.

    ЗЫ

    Ну desty тебе же все разжевал и ссылки дал.

    Ну може не совсем разжевал, но направление указал :).

    Рой в сторону Яндекса, и скармливай ему все что написал desty.

    Reply
  15. ahmet

    Ну судя по комментариям хаять мастера, да и в Яндекс могут послать. А подсказать или помочь там…

    для Страпот

    А в подходе к решению никакого глюка нет. С матчастью тоже разберемся не боги горшки обжигают.

    Reply
  16. Вадимко

    Странно, у меня запрос в QA выполнялся полчаса на 10 Гигах

    Это развот что ли?

    «Все документы до этого необходимо удалить!!!» — а что делает выложенная свертка?

    Reply
  17. serguson

    Стандартная свертка предпринимателя думала над базой 6 гиг больше недели, после чего счастливо загнулась. Вашим документом свернулась за 4 часа.

    Пусть не за 5 минут — все равно плюс.

    Reply
  18. maos

    Как раз то, что я искал

    По поводу <объект не найден> — снова, как раз то что нужно

    Мне необходимо было удалить всё-всё кроме остатков, другие обработки оставляют документы по ссылкам, а они мне тоже не нужны.

    Большое спасибо!!!

    Reply
  19. Svetos

    А как ей установить? Я объединила конфигурацию, закинула компоненту DD в папку с базой, но теперь мой предприниматель стал называться сверткой 1.0 СКЛ и воще не запускается?

    Reply
  20. ahmet

    Думаю что Вам лучше пригласить специалиста!

    Reply
  21. yuraos
    Сhe Burashka пишет:

    > в отчетах могут появиться надписи типа <объект не найден>

    страшного в этом нет

    Есть! Как пример: обрезал базу. После обрезки есть документ «возврат от покупателя», который ссылался документом-основанием на уже удаленную расходную накладную. Подмену ссылок удаленных объектов ты не проводишь. В результате будешь иметь возратную партию по нулевой себестоимости = косяк в учете.

    ..

    надо четко понимать, что делая «быстрые» обрезки базы — следует ясно представлять себе последствия таких обрезок в ОБЩИХ СЛУЧАЯХ. А не только в своем частном. Ты, судя по всему, последствия представляешь не совсем верно. Так что — выкладывая такие «универсальные» док — надо писать достаточно четко область применимости, возможные проблемы и прочее — чего в этом случае не сделано. Фраза «Наверное есть и недостатки» — таковым описанием не считается — это есть у всех программм.

    По хорошему, конечно, надо вкатать минус именно за пункт

    «в отчетах могут появиться надписи типа <объект не найден>

    страшного в этом нет» — особенно если учесть что ПустоеЗначение(СсылканаДокКоторыйОбъектНенайден)=0 — что может привести к тяжелым поискам глюкавости алгоритмов…

    полностью согласен с Сhe Burashka!

    <объект не найден> — это другими словами «битая ссылка»… и это не есть хорошо.

    Это есть скорее плохо.

    Для этого в конфигураторе есть тестирование-исправлении! :)))))

    Reply
  22. ahmet
    Reply
  23. victuan

    (0) Ты уж определись 10 Гиг у тебя сворачиваются за 5 мин или за 15 мин? Такую противоречивую информацию ты даешь в кратком и полном описании своей обработки.

    (7) «А давайте вместе доведем её до ума«. А с чего ты решил, что она достойна доведения до ума? Зачем это делать вообще, если есть аналогичные достойные обработки, «доведенные до ума»?

    Reply
  24. nkvg_a

    Спасибо. Мне помогла ваша обработка. Подработал и свернул комплексную.

    Reply
  25. vas5780

    Попробую ей потренироваться на Аспект-Ювелир

    Reply
  26. vas5780

    не подошла обработка 🙁

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *