<?php // Полная загрузка сервисных книжек, создан 2025-01-05 12:44:55
global $wpdb2;
global $failure;
global $file_hist;
///// echo '<H2><b>Старт загрузки</b></H2><br>';
$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
///// echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}
$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
///// echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}
/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
///// echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
///// echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist); ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7]; ////получаем размер файла
$m_mtime_file=$masiv_data_file[9]; ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file
///// echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
///// echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
///// echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);
if ($results)
{ foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));
////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
///// echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
///// echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}
////загружаем данные
$table='vin_history'; // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация // (путь от корня web-сервера)
$delim=';'; // Разделитель полей в CSV файле
$enclosed='"'; // Кавычки для содержимого полей
$escaped='\
прикольно… оч полезно и познавательно… Можно поподробней про удаление? ибо тема больная очень… база ок 120Гб, работает 24/7, так что монопольный доступ — беда большая…
спасибо! Подробней пока не могу, времени нет. Вкратце концепция:
Типовой механизм платформы «Удаление помеченных объектов» имеет два недостатка: работает очень медленно и требует монопольного режима.
Медленно потому, что:
1. пытается сделать все и сразу для всех объектов. Хотя есть возможность ручного выбора объектов, но ты же не будешь как дятел по одному объекту выбирать каждые пять минут?
2. пытается найти и показать все ссылки на объект (хотя справедливости ради надо отметить: в упр формах есть режим «Полное удаление» — там на это время не тратиться, но опять же сразу для всех объектов)
Монопольный режим потому, что 1С исходит из самого пессимистичного сценария — во время проверки на удаляемость пользователь может создать ссылку на удаляемый объект, а мы его уже поставили в очередь на удаление. Могут появится битые ссылки.
Я сделал свою обработку, в которой пришлось повторить механизм платформы на поиск ссылок. Работает он быстро, примерно секунду уходит на анализ каждого удаляемого объекта. Кроме того, я анализирую документы без проводок (т.е. проводки мы уже удалили, но документ еще не пометили на удаление, экономим время!), значит вероятность, что за 1 секунду пользователи создадут ссылку на такой документ ничтожно мала. Поэтому она работает в разделенном режиме. Как умный пылесос — ходит по квартире и никому не мешая убирает пыль.
да теория как раз понятна… больше интересует практика. я столкнулся с парой проблем:
1) перекрестные ссылки (когда один объект, помеченный на удаление ссылается на другой, тоже помеченный)
2) и из п.1 вылезает геометрическая проверка ссылок.
т.е. если все объекты, которые ссылаются на удаляемый помечены на удаление, то первый можно удалять, но тут входим в рекурсию и зачастую возвращаемся к ссылкам на первый объект где-то на 3-9 уровнях (((
Да, я тоже думал про рекурсию. Но я с ней пока не стал заморачиваться, т.к. моя задача — удалить документы и сделать это быстро, значит надо пожертвовать качеством. Такие сложные случаи я просто не удаляю.
В общем я на досуге причешу свою обработку, если удастся добавить туда справочники и решить проблему взаимных ссылок, то выложу статейку с ними.
(6) Спасибо — действительно был не в курсе (((
ПыСы. переклацал все на сайте — но так и не нашел где можно пополнить руб. кошелек ((( В разделе кошелек только состояние, транзакции — только история, вывод есть, а ввода нету (((
(1) w-divin, на ИТС есть специальная обработка для удаления помеченных объектов. Она позволяет без проблем удалять в и без монопольного режима…
(8) Bienko, верно.
Хотелось бы услышать мнение автора по этому поводу 🙂
О да, есть такая обработка УдалениеПомеченныхОбъектов.epf (или DeleteMarkedObjects). 🙂
Но вы видимо не пробовали ее запускать в базе от 100Gb и с количеством помеченных объектом несколько десятков тысяч.
Недостатки у нее те же, что встроенной в платформу (писал выше), кроме возможности удалять в разделенном режиме.
PS. Она использует все тот же ущербный, встроенный в платформу метод ТаблицаСсылок = НайтиПоСсылкам(МассивКУдалению). Именно он работает крайне медленно. Даже если переписать обработку и подсовывать ей объекты по одному, она будет искать все ссылки на объект, на чем тратится безумное количество времени. Я этот метод переписал по своему. Я готов выложить свою обработку хоть сейчас, но хочется красиво написать. Поэтому ждите статейку 🙂
(8) Bienko, не успел отписать… выше уже все сказали по этому поводу…
(10) по свертке: пробовать тока начал — пока поразворачивал тестовые базы, то да се… первые грабли.
у меня не отработало:
Преобразование типа данных varchar в тип данных datetime привело к выходу значения за пределы диапазона.
Выполнение данной инструкции было прервано
переписал на
смотрю дальше…
(11) w-divin, а что за версия SQL? Я пробовал на 2008. На более древних такой сюрприз возможен.
(12) 2008R2
Надо будет на 2012 еще потестить — а то собираемся перелазить на 12 скуль…
Остается только TRUNCATE. Он мгновенно очищает все содержимое таблицы
я бы не стал утверждать так категорично!
Как то раз мы попробовали таким образом «зачисить» в тестовой базе

один кривой «распухший» регистр сведений.
***
в этом регистре одни франчи вздумали в строковый ресурс неограниченной длины
записывать некоторое строковое представление объектов довольно большого размера.
(могли вы для этого ХранилищеЗначения использовать — придурки!)
***
так вот руль скуля завис капитально — и пришлось его … убить
(15) Rothschild, а че — DBCC никак?
(8) Bienko, и да, чуть не забыл — еще в платформе есть обалденная вещь — непосредственное удаление — оно тоже работает без монопольного режима )))
По теме — в процедуре пересчета итогов не хватает индикации прогресса пересчета — как во всех остальных действиях )))
(11) w-divin,
нда, согласен, мой косяк. Надо было дату представлять в каноническом виде ‘YYYYMMDD HH:MM:SS’. Его скуль понимает при любой языковой раскладке. Вот статья:http://www.sql.ru/faq/faq_topic.aspx?fid=109
Сегодня исправлю и перезалью обработку
(20) wondermaker,
спасибо за развернутый комментарий!
Мой случай немного другой. УПП 1.2 к нашему приходу была сильно доработана, с натянутым УАТ, УПО и БИТ Финанс. Итоговое количество таблиц — 7800. в УТ 11 из всего 2800. Значит на поиск ссылок или на ту же реструктуризацию уходит больше времени. Количество записей в некоторых таблицах доходило до 50млн (ЗначенияСубконто в Регистре бухгалтерии).
Добавим сюда не очень поворотливый сервер на виртуальной машине и фактор времени (мы подрядная организация на жестко фиксированном договоре), то невольно начинаешь ценить каждый потраченный день на свертку!
Да, в нашей команде присутствовал один из одинесиков-разработчиков УПП. Он так же как и вы был категорически против прямых запросов. IMHO это тонкая религиозная материя. Но в итоге должен побеждать здравый смысл.
(20) wondermaker, типовым конфигурациям — типовые решения… А что делать тем у кого конфигурации ну совсем не типовые? Да, нас мало, но зато мы в тельняжках!
И я не совсем понял Ваше
Вы обработку-то смотрели? Там прямыми запросами только удаление и сделано…
особенно на SSD )))
Кратенько критика:
Показать полностью
И никаких курсоров и временных таблиц. Тут, правда, учитывается, что в 1С нет ни хранимых представлений, ни секционирования, ни схем отличных от dbo, а размеры индексов и данных суммированы.
странно покорёжился скрипт. Sel ect и fr om, конечно же не должны разрываться пробелами 🙂
Только за Truncate Table админ SQL, если таковой имеется, подвесит за… уши. Далее о том что в базе могут быть ошибки, ошибки скрипта с датами и т.п. я думаю не стоит уже говорить… а уж о том что конечно данные надо разделять а не сворачивать я тем более промолчу…
не совсем согласен. у нас база 8 гб. бэкап с компрессией весит 1 гб, а дт-файл 170 мб
(26) comol,
Олег, уважаю твое мнение, но это не голая теория, опробована на реальном проекте. Да риск есть, но кто не рискует, тот не выигрывает! 🙂
иногда лучше сделать «рестарт» учета в новой базе, потому что со временем копится очень много «мусора» как в данных, так и в разработках. но при этом возможны проблемы с битыми ссылками, переносом пользователей, но в интернете полным полно грамотных разработок для решения этих проблем
(27) Bajo,
да … но ходят слухи, что из файла *.dt не всегда удается развернуть базу
:)))
(24) speshuric, спасибо за критику!
Про timestamp знаю, но я и не предлагаю применять insert к ссылочным объектам.
За короткий скрипт определения объемов — спасибо!
Про смещение 2000 — в сервере 1С:8.3 он уже зашит по умолчанию без возможности изменения.
Про GO знаю, но я его и не выполняю через ODBC, моя обработка просто выдает текст скрипта, который надо запустить в SSMS. После каждого GO завершается транзакция и выдается комментарий, за которым я предлагаю наблюдать.
Ну а в целом — приятно поговорить с человеком в теме! ))))
(27) Bajo,
да, SQL жмет не сильно, раз в 5. Но делает он это быстро. А в нашем деле время — деньги!
(30) Rothschild, а иногда удается развернуть битую )))
(27) и почему разработчики БСП и типовых конфигураций при попытке сделать бекап клиент-серверной базы пишут «пользуйтесь средствами СУБД»? они наверное не в теме (((
(25) speshuric,

да — есть такой косяк в движке сайта
…
хоть по 1с -ному пиши:
Первый вопрос. Хоть у кого-то получилось из тех кто скачал?
Второй вопрос. После того как Recovery model установлен в Simple и базу свернули, опять можно возвращаться к предыдущему варианту Recovery model? Но тогда будут ли работать Tasks?
(35) haggart,
а что конкретно не получилось?
А картинка то в тему!!! 🙂
Может кому пригодится
Антон, спасибо, это альтернативный способ вычисления размеров таблиц через запрос к sysobjects
а у меня используется хранимая процедура sp_spaceused
преимущество моего метода в том, что я кроме Total_Rows, Data_Size и Index_Size вижу еще и Unused_space и полный размер Total_Table_Size
Лично у меня несколько другой подход к выбору приоритетов по зачистке Регистров. Предпочитаю ориентироваться не столько на размер таблиц (Записей, Занимаемое место), сколько на ключевой характер остатков (влияние на логику оперативного проведения). В частности есть большое количество регистров носящих вспомогательный характер (для ускорения отчетов), а часть регистров влияет на логику поведения. Соответственно Регистры отвечающие за Взаиморасчеты, Товарные остатки, Резервы и некоторые другие надо зачищать в первую очередь.
После зачистки Ключевых регистров можно даже пользователей в программу пускать продолжая зачистку штатными средствами. При этом работоспособность (кроме отдельных видов отчетов) будет полная, хотя и будет наблюдаться увеличенная нагрузка на Сервера (сниженная производительность оперативного потока).
Что на фото? 😉
на фото та самая матчасть, которую надо курить )
Приветствую. Столкнулся с странной ситуацией. После подобной обработки размер таблицы итогов некоторых регистров накопления увеличивается.
Есть мысли почему и как избежать? А то получается после свертки этого регистра объем вырос на 30%.
SQL 10.50.2500.0
Основная таблица: (До — > После)
Количество записей, шт: 58 269 853 -> 23 874 993
Размер таблицы, кб: 5 568 056 -> 2 313 352
Размер индекса, кб: 15 712 488 -> 12 052 096
Итоги: (До — > После)
Размер таблицы, кб: 13 373 792 -> 7 605 304
Размер индекса, кб: 52 975 680 -> 164 385 832
возможно у вас не установлен параметр SQL-базы recovery model = simple
Симпл не используем, так как удаление производится на рабочей малыми кусками в регламентные окна. И положить базу нельзя.
После 5 часов тестов выяснили, что SQL система очень сложная и все не так просто. Попробую непрофессионально описать.
Индексы включали одной строкой чтобы не делать цикл: ALTER INDEX ALL ON [Table] REBUILD;
Ребилд индексов создает их с Page fullness 60%. То есть «сохраняемый объем данных + 40% пустого места.
Делает он это потому что использует значение параметра Fill Factor по умолчанию (в нашем случае 60%).
Следовательно если изначально Page fullness порядка 99%, а удаляем мы меньше половины, то на выходе получается рост объема таблицы.
На полноту объяснения не претендую, но нам это помогло и дальше не планируем отключать индексы ).
Не подходит к БП 2.0 -(( зря потрачены мани…
Что Вы посоветуете, вот эту обработку вместо пункта 4 применять с RabbitMQ или достаточно РИБ?
(47) Честно говоря не думал об этом ) Смотря для какого случая. Обработка средствами SQL не оставлет никаких следов и никак не отслеживается средствами 1С. Ее главные плюс — скорость удаления устаревшей информации.