<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55
global $wpdb2;
global $failure;
global $file_hist;
///// echo '<H2><b>Старт загрузки</b></H2><br>';
$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
///// echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}
$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
///// echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}
/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
///// echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
///// echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist); ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7]; ////получаем размер файла
$m_mtime_file=$masiv_data_file[9]; ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file
///// echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
///// echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
///// echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);
if ($results)
{ foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));
////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
///// echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
///// echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}
////загружаем данные
$table='vin_history'; // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация // (путь от корня web-сервера)
$delim=';'; // Разделитель полей в CSV файле
$enclosed='"'; // Кавычки для содержимого полей
$escaped='\
Что значит установлено сжатие ?
Удивляет и 41, и 10, и 13 часов для базы в 1.5 гигабайт. Эта «стандартная обработка» в среде 8.1 выполняется? Чего ж она там делает?
выгрузка должна относительно быстро быть…
тест не корректен
1) виста могла всю базу в оперативку загнать и работать
2) в случае сжатых файлов велика вероятность повышения скорости чтения при условии мощного процессора
На самом деле, есть несколько служб , после отключения которых виста летает, даже на старом железе, итак
1. Необходимо прибить «Поиск виндовс»
2. Забить до смерти Защитник виндовс
Эти 2 службы до смерти заюзают ваш хард, а еще если у вас стоит антивирь типа кашпера — то о производительности не может быть и речи, т.к. все эти 3 сервиса нагружают самое узкое место в вашем ПК — винчестер
Если говорить о наших задачах, то самое узкое место не винчестер, а неэффективные алгоритмы обработки информации. Я, ради любопытства, выгрузил и загрузил нашу промышленную базу данных. Размер базы около 8 гигабайт (DBF — 6.5, CDX — 1.5). База выгрузилась в файл размером в 5 гигабайт достаточно быстро (30 минут). А вот загрузка выполнялась около четырёх часов. При этом задача выполнила операций чтения на 40 гигабайт, а записи на 370 гигабайт. И если бы не было эффективного системного алгоритма кэширования операций ввода/вывода, то результата можно было бы и не дождаться. Т.е. значительно влияет на производительность — скорость обмена с оперативной памятью.
Но, если говорить о конкретной задаче, то основная причина медленной работы и больших объемов обработки информации это обновление индексных файлов. Для данной задачи это не требуется. Если открыть таблицу без индексов, записать файлы DBF, а потом выполнить реиндексацию — то всё будет работать на порядки быстрее.
Т.е., как всегда, прежде всего — человеческий фактор…
P.S. Думаю, в случае 1С 8.х причины медленной загрузки аналогичны, хотя и нет DBFов ;-)))
(1) Включено стандартное сжатие NTFS
(2) Это 7чная обработка. Что она делает — спросите у разработчкиков 🙂 Причем еще оптимизенная версия, предыдущая работала несколько недель 🙂
(4) Дык, XP тоже могла все в оперативку загнать и работать, но почему-то этого не сделала. + там довольно много операций записи а не только чтение
(6) Это — да. Но процессорное время стоит дешевле программистского, по крайней мере у нас. Выгрузка тормозила, потому что там не прямое соответствие данных и их нужно было анализировать и сравнивать с другими для определения нужного для 8ки формата.
(5) Ну, на 3х G все и так летает. А поиск прибивать не нужно, когда он доработает становится гораздо легче жить — мгновенно ищется на харде все необходимое.
Хорошо бы узнать поточнее у тебя установлена Vista для бизнеса? И заодно какой у тебя Servis Park??
(8) 8-ка или 7 ка? 7ка под вистой работает… странно 🙂 Наши сисадмины долго колдовали, чтоб заставить ее вести себя более-менее прилично (без админских прав на машине это просто так не работает). А 8ка у нас работает легко и непринужденно, (например самописная конфигурация учета рабочего времени на 8 пользователей в файловом режиме расшарена с достаточно загруженной рабочей станции) всюду тотальная виста т.к. мы партнеры MS и просто обязаны на ней сидеть.
(9) на момент теста (он довольно давно был, я скопировал свою запись из корпоративного блога) SP1 еще не стоял, сейчас стоит (+ все хотфиксы как всегда — тогда тоже) и, по отзывам, должно быть еще увеличение производительности, но не могу проверить — база клиентская была и уже удалена по политике безопасности. Vista Business, права пользователя, Core2Duo 1.67 ГГц/3G/80 Gb HDD(винт довольно слабый),