<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55
global $wpdb2;
global $failure;
global $file_hist;
///// echo '<H2><b>Старт загрузки</b></H2><br>';
$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
///// echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}
$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
///// echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}
/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
///// echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
///// echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist); ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7]; ////получаем размер файла
$m_mtime_file=$masiv_data_file[9]; ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file
///// echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
///// echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
///// echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);
if ($results)
{ foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));
////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
///// echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
///// echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}
////загружаем данные
$table='vin_history'; // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация // (путь от корня web-сервера)
$delim=';'; // Разделитель полей в CSV файле
$enclosed='"'; // Кавычки для содержимого полей
$escaped='\
Просто и со вкусом.
Спасибо автору.
Вообщем-то это трудно назвать авторством, ибо это не я придумал — это, так сказать, общенациональное достояние, оформленное в процедуру.
Буду выкладывать и впредь мелкие и большие полезные процедуры и приемы программирования.
Помню на hippo этот «конкурс». Сколько вариантов было?
Вариантов было много, этот самый быстрый. Обработка с о сравнение разных конкурсных вариантов лежит на проклабе.
Можно еще его чуток ускорить если вместо ТЗ.Выгрузить() использовать ТЗ.Заполнить ()- так, по крайней мере, утверждается в той же конкурсной обработке — смотрите на проклабе.
У меня Таблица занимает 120’000 строк 15 колонок
Строка «ТЗРаб.Сортировать(«+»+КолонкаУдалить);» — работает убийственно долго… 🙁
Пришлось написать код в 7 строк для удаления ненужной строки, и для удаления всех остальных кроме нужных в 15 строк.
На больших объемах производительность увеличилась в разы…:)
стр=»»;
знач1=тзтт.получитьзначение(тзтт.текущаястрока(),тзтт.текущаяколонка());
пока тзтт.НайтиЗначение((знач1),стр,тзтт.текущаяКолонка())=1 цикл
тзтт.удалитьстроку(стр);
стр=»»;
конеццикла;
Хотелось бы узнать — сколько строк ты удаляешь из своей ТЗ в 120’000 строк?
попробуй удали 100’000 строк и замерь время выполнения по своему алгоритму и по оригинальному.
с интересом жду результата…
Не самый быстрый способ ….
хм… а какой быстрее?
А вот так:
Для т = -ТЗ.КоличествоСтрок() По -1 Цикл
ТЗ.ПолучитьСтрокуПоНомеру(-т);
Если ТЗ.НеНадо = 1 Тогда
ТЗ.УдалитьСтроку(-т);
КонецЕсли;
КонецЦикла;
И вообще — не надо для этого в ТЗ проставлять «1», сразу условие проверяем и все.
(10) ты просто не сталкивался с большими ТЗ
(10) читай (11)!!!
(10) Удаление по строкам уже давно доказано что работает МЕДЛЕННО!! надо делать все одним разом. как в примере. Производительность твоей обработки будет тормозить линейным способом и напрямую зависить от количества записей. А предложеннеым алгоритмом при добавлении еще 100 000 строк замедления будут незначительными 🙂
я сам реализацию этого алгоритма увидел года 3 назад, на проклабе, с тех пор только им и пользуюсь 🙂 чуть геморней, зато работает ух как быстро.
PS(офф топ) Тут столкнулся с такой проблемой, всегда думал что «выгрузить в ТЗ» работает быстро, но в ЗиК понял, что не совсем. В частности выгрузка проводок (2к сотров) делается более 9 часов и весь тормоз именно из-за «Выгрузить», все руки не доходят разобраться с этой бедой, притом проблема точно связана с переходящими отпусками. хотя отчет по проводкам формируется всего 15-20 мин. 🙁
(13) вместо Откуда.Выгрузить(Куда);
пользуйся Куда.Заполнить(Откуда….)
.
опять же выгрузка проводок откуда куда? в хмлфайл?
2 тыс сотрудников — это прямым перебором построчным выгрузить можно быстро…
(0) 1. Правило хорошего тона — все-таки выкладывать ссылку на исходную разработку 🙂
ЗЫ или проклаб на ИС во врагах сидит? 🙂
Если враги, можно в личку ссылку напомнить — за давностью лет ссылку утерял 🙂
ЗЗЫ интересно, в 8 кто-нибудь подобное тестил?
нет, не во врагах.
в проклабе найти еще сложнее чем на Исе по-моему… кто знает ссылку — сообщите, пристегнй
(14) Ну то что 2к сотров это еще не значит что в ТЗ 2к строк ;). Ладно попробую через Загрузить, посмотрим что выйдет 🙂
(16) Главное — знать, что искать 🙂
Первый же результат по «конкурс на удаление строк из таблицы значений»