Сжатие данных в мобильном приложении 1С:Предприятие




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

27 Comments

  1. script

    Понравилась переменная АйдиПользователя.

    И способ рабочий даже для обмена по HTTP.

    Reply
  2. mevgenym

    имхо проще можно

    ЗаписьXML = Новый ЗаписьXML;
    ЗаписьXML.ОткрытьФайл(ПолноеИмяФайлаСРасширением, «UTF-8»);
    ЗаписатьXML(ЗаписьXML, ХранилищеЗначения);
    ЗаписьXML.Закрыть();

    обратно через ПрочитатьXML

    через JSON

    СтруктураВыгрузки = Новый Структура(«Данные», ХранилищеЗначения); //вроде должен сериализовать
    ЗаписьJSON = Новый ЗаписьJSON;
    ЗаписьJSON.ОткрытьФайл(ПолноеИмяФайлаСРасширением, «UTF-8»);
    ЗаписатьJSON(ЗаписьJSON, СтруктураВыгрузки);
    ЗаписьJSON.Закрыть();

    минус случайно поставился, не виноватая я

    Reply
  3. YPermitin

    (2) так уберите случайный минус. Статья то хорошая 🙂

    Reply
  4. yarsort

    (2) Вы правы, можно через XML, но я не любитель этого формата. JSON последнее время зашел мне не по-детски. Тащусь от его простоты и возможности конвертации данных из JSON в структуру с массивами и обратно. Просто и безо всяких веток и деревьев. 🙂

    Reply
  5. V1V

    столько слов чтобы рассказать о параметре СжатиеДанных. Н-да… Без комментариев.

    Reply
  6. Dream_kz

    Эмм, вся статья о втором параметре объекта ХранилищеЗначения? Это есть в бесплатном курсе по разработке мобильных приложений (2014 года).

    По поводу ftp, устаревший протокол, мобильная платформа прекрасно работает с webdav, можно работать через яндекс диск, или гугл драйв, одной строкой кода

    Reply
  7. KereberoS

    Вы ещё добавили в УТП путевые листы?

    Бекап — то, что требуем с пользователей, но не думаем о себе 🙂

    Мобильное приложение по заказам для УТП заинтересовало, можно в личку условия?

    Reply
  8. vsesam80

    (6)Можете скинуть пример работы с webdav Яндекс диска? Записать у меня получилось на ЯД, а скопировать на диск никак.

    Reply
  9. yarsort

    (6)

    webdav

    За webdav не слышал. Есть примеры кода обмена?

    Reply
  10. Dream_kz

    (9)

    (8)

    ЯндексДискСтрокаПодключения = «https://%user%:%password%@webdav.yandex.ru/»;
    ЯндексДискСтрокаПодключения = СтрЗаменить(ЯндексДискСтрокаПодключения, «%user%», «login»);
    ЯндексДискСтрокаПодключения = СтрЗаменить(ЯндексДискСтрокаПодключения, «%password%», КодироватьСтроку(«password», СпособКодированияСтроки.КодировкаURL));
    
    
    Файл = «C:123.xml»;
    
    НовыйФАйл = ЯндексДискСтрокаПодключения + «123.xml»;
    
    КопироватьФайл(Файл, НовыйФАйл);

    Показать

    пути компьютерные, на мобильном надо использовать относительные (КаталогДокументов(), КаталогВременныхФайлов() и т.д)

    Reply
  11. yarsort

    (7) Путевые листы в разработке. Как раз идет обсуждение принципа обмена. Но в приложении собирать данные о перемещении в ручном режиме уже можно. GPS позиционирование в теории может собирать метки, но механизм пока не нашел применение, а потому надо допиливать. В целом базовый принцип уже есть.

    Reply
  12. yarsort

    (7) По поводу приложения: я разрабатывал для типовой конфигурации УТП для Украины. Есть заказы, возвраты, оплаты. Все работает в связке со специальной обработкой. Каждому пользователю настройка и общий обмен через почтовый ящик. Тестируют пока что 10 человек. На данный момент безошибочно работает уже неделю на полную катушку — около 100 заказов в сутки. Если хотите быть тестером — буду рад. По поводу оплаты пока не думал. В будущем будет демократическая цена и надеюсь заработать на массовости использования.

    Reply
  13. 🅵🅾️🆇

    (0) Могу предложить более оригинальный подход: используйте побитовые операции.

    В 1 байте (букве) можно уместить аж 8 булевых. Два числа или перечисления до 15 или одно число до 255, а в двух буквах уже число от 0 до 65 тысяч.

    И отправлять это дело двоичными данными (ну или в base64).

    А вообще на носу http/2 и grpc — вот где прагматическая емкость со скоростью во все поля)

    Reply
  14. SirStefan

    Плохо искали 🙂 Еще в 16 году писал о том, что нашел на Мисте.

    Reply
  15. yarsort

    (14) Может быть. Но я после разговора с владельцем этого форума и понимания что его владелец ненормальный человек, я больше туда не хожу. Поэтому не читаю Мисту. Но с другой стороны, видимо зря не ходил, а так нашел бы Вашу заметку. 🙂

    Reply
  16. yarsort

    (14) Значит я актуализировал Ваши знания с небольшой доработкой в JSON.

    Reply
  17. SirStefan

    (16) , Почти. У меня нет промежуточного сохранения файла на диск. Все в памяти. А СжатиеДанных(9) лучше не ставить. Скорость обработки замедляется, но выигрыш в размере не сильно больше чем у СжатиеДанных(1). Попробуйте сравнить…

    Reply
  18. asdf_88

    (17)

    Почти. У меня нет промежуточного сохранения файла на диск. Все в памяти.

    С операциями в памяти надо быть внимательным, иначе можно много памяти съесть за вызов, если на вход придет очень много данных.

    Reply
  19. script

    (7) Вот я когда-то делал путевые листы для бух 8.2

    https://infostart.ru/public/151143/

    Т.к. доработка модульная, легко перекинуть в УТП.

    Недавно переделал ее для Бух 2.0. — скоро тоже выложу.

    Reply
  20. SirStefan

    (18) Так он все равно создаётся, распаковывается, обрабатывается в памяти.

    Reply
  21. asdf_88

    (20) Ну да, только у вас еще весь файл в памяти, а не на диске. В угоду скорости вполне хорошее решение.

    ЧтениеJSON с диска читает блоками, а не полностью файл поднимает с диска в память. Или я ошибаюсь?

    Reply
  22. SirStefan

    (21) вроде блоками. А запись будет блоками или сперва сформирует, потом запишет? Хотя для обмена у меня файлы больше 40 мегабайт не выходили вроде. А на планшетах по 3Gb оперативки. Должно хватать.

    Reply
  23. palsergeich

    Откажитесь от штатного сериализатора и напишите свой json формат. В штатном механизме слишком много мусора.

    Упаковывая структуру в хранилище значений чуда не происходит)

    Я именно так 2 года назад сделал, что то похожее на КД3, только на JSON. Результат фантастический.

    Если XML сериализация за год — только сериализация занимала минуту, то свой велосипед — 10 секунд сериализация + передача+десериализация. Объем уменьшился в сотни раз.

    Reply
  24. androidT1C

    (23) Это же под каждый объект свой велосипед изобретать? И это быстрее? Как?

    Reply
  25. palsergeich

    (24)

    (23) Это же под каждый объект свой велосипед изобретать? И это быстрее? Как?

    не, велосипед один, но каждый объект — декларативно описывается, да

    Reply
  26. yarsort

    У меня и так свой формат JSON. Я не сериализирую объекты из учетной системы в том виде, в каком их хранит 1С.

    Reply
  27. androidT1C

    (25) Как самописные циклы, например, по ТаблицеЗначений из 100000 строк, с анализом типов и пр., могут работать быстрее, чем платформенная сериализация в XML этой же ТЗ?

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *