Получение КЛАДР по http и его распаковка




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2025-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

17 Comments

  1. Поручик

    (0) Кто сказал, что 7-Zip — не очень популярный архиватор? Ничего, что в России его лет пять как по дефолту ставят на все новые ноуты?

    Reply
  2. sdf1979

    На новые ноуты много что по дефолту ставят, но формат архивирования 7z не самый распространенный в сети.

    Reply
  3. AllexSoft

    Эх… вот лучше бы сделать чтобы кладр не из регистра читать, а из внешних файлов, возможно с WS-сервиса ЦБ или в интернете… вот это было бы дело

    Reply
  4. AlX0id

    (3) AllexSoft,

    Ага, и запросы тоже строить к сервису..

    Начал вводить кусок адреса, сработал автоподбор — и ты идешь попить чайку ) Очень правильный подход к работе, кстати )

    Reply
  5. CagoBHuK

    А что, из типовых конфигураций уже вырезали получение КЛАДР? Автор, а кто сказал, что на сервере обязательно будет работать COM? Или программисты теперь пишут так, чтобы работало только после шаманства с бубном?

    Reply
  6. sdf1979

    Шаманство с бубном — это когда матчасть не знаешь. У меня прекрасно на WinServer 2003 x64 работает и COM и 1С77 OLE для той учетки, под которой сервер 1С:Предприятий работает.

    Reply
  7. AllexSoft

    (4) AlX0id, почему идешь попить чайку? он будет отрабатывать так же, если не быстрее… соединение с веб-сервисом моментально, запрос будет обрабатываться мощным сервером на ЦБ, так что даже быстрее будет… разумеется я не предлагаю пересылать весь кладр через WS, а только скажем ПЕРВЫЕ 10, что для автоподбора вполне достаточно, так же не предлагаю юзать это GPRS и прочей мобильной связи… а вот если бы была база только кладр+web-сервис + обработина подбора в базе… то можно будет уменьшить размеры баз, скажем в ЗУП и в БП это мега актуально… да везде где есть контрагенты мега актуально…

    ПС: надоело ждать часами реструктуризацию гигабайтного! регистра АдресныйКлассификатор, когда 1С там что то меняет, для файлового варианта это может быть критически важно при активной работе юзеров с ним

    Reply
  8. AlX0id

    (7) AllexSoft,

    И этот «мощный сервер» прям-таки с охотцей будет обрабатывать ваши запросы (и миллионов других пользователей) 🙂 Как мне кажется, это из разряда утопий ) Хотя, возможно, за «небольшую сервисную плату», может, и развернут сервачок )

    Reply
  9. AllexSoft

    (8) AlX0id, миллионов зачем? свой локальный WEB-сервис на своем локальном сервачке… и все будет нормально

    Reply
  10. ShantinTD

    (7) AllexSoft, да, да, да… «Реструктуризация регистра сведений Адресный классификатор» вылезает едва ли не в каждом новом релизе Бухгалтерии. =) Хотя это сейчас весело, когда обновления уже накачены. А пока накатываешь — ни разу не весело. Особенно — если попадется клиент, которому полгода «и так нормально было» (хотя ведь честно купили ИТС!).

    (уж про обновление классификатора банков никто и слышать не хочет, пока у них платежи проходить не перестанут).

    Лично я не практикую накатывания 5-10-20 релизов разом. Натыкался на разрушение базы в таком раскладе (хорошо, что есть бекап). Поэтому накатываю последовательно.

    то можно будет уменьшить размеры баз, скажем в ЗУП и в БП это мега актуально…

    по рукам нужно бить за заполнение регистра полностью «на всякий случай». Действительно! А вдруг у нашей маленькой фирмы (из трех человек) появятся клиенты/поставщики с другого конца страны?

    Нужно здраво оценивать масштабы, и грузить только ту часть КЛАДРа, которой реально придется пользоваться. Несколько адресов можно и руками забить, а если совсем припрет — догрузить еще часть классификатора.

    P.S. Это не наезд, это возмущение на некоторых юзеров!

    Reply
  11. AlX0id

    (9) AllexSoft,

    Ну раз есть возможность содержать свой мощный сервак с блэк-джеком и веб-сервисами, то что мешает переделать механизмы хранения на свой лад? ) Никто ж не заставляет вас грузить гигабайты адресов по умолчанию..

    Reply
  12. AllexSoft

    (10) ShantinTD, в свое время когда я был сопровождающим я конечно все регистры максимально чистил или не загружал, говорит вот появится клиент или сотрудник из того региона, позвоните я подгружу регион сам… и не учил их как загружать…

    Про банковский классификатор тоже верно подмечено, было бы совсем неплохо его вынести в отдельную базу вместе с КЛАДром

    По поводу реструктуризации, есть клиенты которые покупают компы с каким нибудь GREEN диском, которые только под файлопомойку годен (таких кстати много), у них реструктуризация еле еле проходит.

    Бывает и такое что компания небольшая, но клиенты реально по всей России, например небольшие гостиницы, базы отдыха, региональные тур агенства им всем нужен КЛАДР полностью и это обосновано

    (11) AlX0id, зачем же большой и мощный, для обслуживания базы КЛАДР+Банки несколько десятков юзеров на нескольких базах достаточно обычного компа на Core i7 (i5) + SSD, что вполне по силам любой организации.

    то что мешает переделать механизмы хранения на свой лад?

    время ( эх… я бы даже платформу вместо 1С свою написал, было бы безлимитное время…

    Reply
  13. ShantinTD

    (12) AllexSoft, а я так и говорю, что нужно соотносить «то что можно загрузить» (то есть весь классификатор) и «то что нужно загружать» (то есть основной круг контрагентов). И не говорю, что категорически нельзя загружать все.

    клиенты которые покупают компы с каким нибудь GREEN диском

    если бы они покупали КОМПЫ! Купят ноутбук за 10-12 тысяч, а потом возмущаются «1С открывается полчаса».

    У меня случай был: клиент нашелся в нашем же здании в другом его конце. Комп — моноблок с Intel Atom. Начал ставить, устал ждать, сходил к себе, установил на своем компе, скинул пустую базу на флешку, вернулся, скопировал с флешки, запустил, стал настраивать… и тут завершилась установка, начатая на бедном атом-е. =)

    Reply
  14. AllexSoft

    (13) ShantinTD, у нас один раз клиент принес нетбук с атомом каким то и без винта (там всего 32гб было памяти) .. ну ничего поставили, правда тормоз ужасный

    Reply
  15. ShantinTD

    (14) AllexSoft, поставить-то можно. Как говорится — любой каприз за ваши деньги.

    Вопрос (возмущение?) к тем клиентам, которые жмотятся на нормальный компьютер, а потом обижаются, что «медленно работает». Лично мне не сильно напрягает: поставил ноут рядом, сам сидишь работаешь, а в ноуте только знай обновления подсовывай вовремя. Время идет, деньги капают.

    А там хоть i7, хоть Atom, хоть Celeron древний…

    Reply
  16. nixel

    (6) есть еще линуксовые сервера. и, о боже, даже клиенты 🙂

    Reply
  17. sdf1979

    Если быть внимательным, то ОС в которой работает обработка — Windows. Я это указал в описании к статье. Один из плюсов трехзвенной архитектуры — все, что выполняется на сервере, выполняется в контексте сервера, можно спокойно пренебречь конфигурациями клиента. Если же стоит сервер предприятия 1с на ОС LINUX, адапртируйте код под данную операционную систему.

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *