Упаковщик двоичных файлов os7764




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2025-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

26 Comments

  1. Ёпрст

    +1 ну и Абрахамс кидался кодом кодирования-декодировани в base64, где-то валяется готовый код распаковки dll

    Reply
  2. nafa

    (1) (2) Это вобще-то совершенно разные обработки. По ссылкам на проклуб — внешняя компонента для хранения двоичных данных в информационной базе. Назначение — хранение информации в существующей базе.

    У меня — обычная обработка, не требующая никаких предустановленных ВК, и предназначенная для размещения файлов в конфигурацию или ert. Создаваемый модуль предназначен для работы в т.ч. когда есть только md файл и нет еще никакой информационной базы и нет никаких предустановленных ВК. (И в том числе позволяет эту ВК из MD файла сделать).

    Reply
  3. Ёпрст

    (3) Да ё… Абрахамса код делает всё тоже что и у вас, лень искать.

    Да и метода еще с 2000-х годов известна..

    Reply
  4. nafa

    (4) Я не совсем понимаю, что не так.

    1. На проклубе программа лежит по назначению и порядку применения совершенно другая, даже скачал и специально проверил.

    2. Сам алгоритм base64 действительно известен давно. А применяет его кто как считает нужным.

    3. Для разработки был использован готовый алгоритм base64, а также утилита base64 все остальное разработано самостоятельно и ни у кого не заимствовано.

    4. Наверное есть другие программы, выполняющие действительно аналогичную функцию, но не понимаю чем плохо что будет еще одна. Есть например Internet Explorer — ничего же плохого нет в том, что появляются Mozilla, Opera, Chrome и пр. Каждый выбирает то, что ему нравится.

    Reply
  5. Ёпрст

    (5) Да всё так, просто ничего нового, имхо.

    Reply
  6. script

    Зачем далеко ходить все уже давно есть на инфостарте

    http://infostart.ru/public/14459/

    Но с этой реализацией у меня были проблемы

    При файле в 500 кб у меня 1С вообще виснет. Да и программная упаковка и распаковка нескольких файлов одновременно была бы тоже оч. полезной.

    Ваша решает эти проблемы ?

    а это уже мое

    http://infostart.ru/public/64757/

    Reply
  7. nafa

    (7) Максимум, что тестировал — 70Мб. Файлов можно упаковывать сразу много, блок для вставки создается один на все файлы, и распаковывать также один/по списку/все за 1 вызов функции распаковки.

    При работе с большими файлами желательно, чтобы у пользователя стояло v7plus. Если вы не уверены, что оно есть у пользователя — добавьте его в список упаковываемых файлов — тогда обработка при необходимости установит его сама (т.е. никаких дополнительных вызовов делать не надо).

    Также обработка использует 2 метода для распаковки (один заточен под маленький объем (до 60К) другой — под большой. Выбирает сама исходя из размера файлов. Но если идет много вызовов и в каждом распаковка одного маленького файла, то рекомендую указать, что должен использоваться метод распаковки для больших объемов — отработает быстрее (в справке написано, как это сделать). Если одним вызовом распаковываются например 100 файлов по 20К, то ничего дополнительно делать не надо.

    По-поводу http://infostart.ru/public/14459/ — она не виснет из-за объема (я пробовал ее на объеме в 10 раз больше — 6Мб — проблем нет), а просто WSH непредсказуемо выдает окно о длинном выполнении скрипта, которое оказывается под рабочим окном 1С. (на которое надо просто переключиться и закрыть — тоже столкнулся) При распаковке по сути она делает просто копирование части файла и тормозить тут нечему. Но она к сожалению, не поддерживает размещение данных в md (хотя принцип наверное можно было бы применить тот же, но я не уверен, что всегда будет работать (1С может в принципе выпустить какой-нибудь новый релиз и, например, начать сжимать bmp шки (тексты модулей же жмет))). Поэтому сделал свою.

    Reply
  8. nafa

    (7) я посмотрел — http://infostart.ru/public/64757/ — виснуть может еще из-за того, что:

    Присваиваем ей имя «precomp»

    Попробуйте дать идентификатор гарантированно уникальный, что-то вроде «precomp_gh4lms994mfirefe0w9f3f3fo3fj39» (т.к. слово precomp может в файле оказаться по другим причинам и в результате начало файла определиться неверно)

    Reply
  9. GOOD256

    Автар МОЛОДЧЕГГГ!!!

    Reply
  10. Noy

    Запаковать ничего не получилось:

    При записи строки произошла ошибка : The file is open only for reading
    os7764_Зт.ЗаписатьСтроку(os7764_сСтр);

    Скачал «демо» — там распаковка работает, но медленно

    По-поводу обработки Маляева (Размещение двоичных данных (обработок, документов, библиотек) в файле ERT) — она действительно очень медленная, но если ее чуть-чуть «допилить» то можно получить такие результаты:

    Распаковка файла FormEx.dll (558’080 байт): 0.133 сек
    Распаковка файла far.com.ua.xls (10’362’368 байт): 0.953 сек
    Распаковка файла Snatch_Goblin.avi (47’741’596 байт): 9.149 сек

    что гораздо лучше чем

    kladr.zip (12Мб) извлекается за 16 секунд
    Reply
  11. Noy

    (11)+ попробовал не сервере (Сата2 в Рейде10) — там вообще

    Распаковка файла Snatch_Goblin.avi (47’741’596 байт): 3.892 сек

    боюсь запускать на SSD 🙂

    Reply
  12. Ёпрст

    (11) чем допиливал обработку Маляева?

    Reply
  13. Noy

    (13) Просто читаю не по-байтно, а блоками по 4К

    Reply
  14. Ёпрст

    (14) ну ясно…Мне Маляевская тоже больше радует..Ибо хранить текст в открытом виде не есть гуд, автор, например, чтоб ошибки не возникало, его на строки побил..

    Reply
  15. nafa

    (11) Я ошибки не нашел (именно в том файле, что на сайте), и даже искусственно именно такую ошибку вызвать не смог (попробовал отключил права на запись файлов в каталоге где создается временный файл с текстом — тогда файл конечно не создается, но и ошибка соответствующая вылезает).

    Reply
  16. Noy

    (16) Отписал про ошибку в личку

    Reply
  17. nafa

    (11) С ошибкой (комментарий N 11) разобрался.

    Оказывается, метод ОткрытьФайл объекта AddIn.V7TextFile в разных версиях v7plus.dll вызывается по-разному! И в результате вызов в версии 6, на которой проявляется ошибка дает результат прямо противоположный версии 11, которой я пользовался: файл вместо записи открывается на чтение.

    Проверил на 8й версии v7plus — нормально работает. Т.е. изменение порядка вызова произошло в 7ой ли 8ой версии.

    Вывод: для работы обработки используем v7plus версии не меньше 8. Если у Вас такой нет, можно ее просто отключить — работа с файлами будет идти через объект «Текст». (Но для файлов >1Мб ее все же лучше поставить — на таких файлах «Текст» тормозит).

    Reply
  18. Flyyy

    Добавил 1 файл в обработку(1с.txt). При запаковке выдает ошибку:

    При открытии файла произошла ошибка : Файл «C:1c.txt.b64» не найден.

    Чт.Открыть(сИмяФайла);

    {C:OS7764.ERT(680)}: Неверное имя файла!

    v7plus.dll — 11 версия. В чем может быть дело?

    Reply
  19. nafa

    (19) Я проверил именно с таким именем файла именно в каталоге c: — работает. Так что, вероятно — права на действия (создание файлов, запись, выполнение) в каталоге C:

    Reply
  20. Tone2010

    Для base64 используйте .NET

    Convert.FromBase64String();

    Convert.ToBase64String();

    Используя интерфейс IStorage, можно к любой ert-шке присобачить любые данные без конвертации в base64.

    Reply
  21. nafa

    (21) Идея хорошая, но .NET не у всех стоит. А в обработку его упаковывать накладно.

    Base64 только для того, чтобы в 1С все работало штатными средствами, т.к. 1С не умеет обрабатывать символ с кодом 0 (может и еще какие, не проверял). Поэтому в 1С только те символы, с которыми она штатно работает, а декодирование приходится выполнять сторонними средствами.

    Reply
  22. bulpi

    Наконец-то добрался до внимательно посмотреть обработку. Если бы можно было, поставил 10 плюсов. Мало реализовать идею, она и раньше была. Человек потрудился, чтобы было удобно чайникам, вроде меня 😀

    Reply
  23. MrDen

    (0) можно для распаковки попробовать также

    Внешняя компонента для преобразования файлов из/в кодировку Base64 из встроенного языка 1С Предприятие

    http://www.softmaker.kz/files.php?cat=8&id=24

    Reply
  24. wing

    (0) А чем можно открыть обработку? ни 1С, ни конфигуратор не могут ее открыть, ссылаясь на общую файловую ошибку доступа к основному потоку метаданных.

    Видимо, был какой-то временный сбой — раза с 4 скачалось нормально.

    Reply
  25. nafa

    Наверное при скачивании файл попортился. Напишите мне в личном сообщении емейл, я пришлю в архиве.

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *