Удаление дубликатов из справочников в 1С8




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

20 Comments

  1. gutentag

    Полезная статья!

    Reply
  2. tormozit

    Кстати дубликаты возникают не только в справочниках. На практике часто встречал еще и в планах видов характеристик.

    Reply
  3. itmind

    Документ не открывается

    Reply
  4. rasswet

    (3) архив. zip rar ? указываете расширение файла. статья хорошая.

    Reply
  5. daulberg

    (3)(4) Архив rar

    Reply
  6. Abadonna
    Причина в том, что каждая запись в 1С8 имеет свой уникальный идентификатор. Сравнение записей происходит по нему, а не по содержанию как в 1С7.

    В 1С7 сравнение записей тоже производится по уникальному идентификатору. 😉

    Reply
  7. susorov

    Большое спасибо! С удовольствием распечатал статью и раздал своим инженерам и операторам Бюро справочников (НСИ).

    Reply
  8. Abadonna

    Основная, имхо, причина: использование иерархии в справочниках.

    Особо меня бесит деление Контрагентов на Поставщиков и Покупателей. Как будто Контрагент не может быть и тем, и другим. Поэтому при вводе в папке Поставщики бухгалтер прихода (мат. группа, например), в упор не видит, что такой уже есть в папке Покупатели (если не отключил иерархию в форме списка).На мой взгляд: распихивание по разным (да еще и вложенным) папкам создает больше проблем, чем удобств.

    Редко я встречал, чтобы особо был нужен (действительно нужен, не обойтись!) отчет по группе товара

    Reply
  9. detec

    Довольно интересная статья. В конторе, где я работаю, дубли возникают осознанно, когда необходимо вести отдельный баланс по дубликатам. Чтобы не возникали дубли товара и контрагентов стихийно, у нас действуют жёсткие ограничения на добавление карточек. У нас недопустима ситуация, когда кладовщик своими руками добавляет в справочник новую запись. Это делают закупщики по принесённым бумажкам.

    То же самое касается и контрагентов. Никакой менеджер по продаже не может просто так взять и завести нового контрагента. Контрагента заводят бухгалтера по предоставлению клиентом своих регистрационных данных и договора.

    Такая политика позволяет минимизировать воровство на складе и воровство с помощью левых отгрузок.

    Reply
  10. detec

    (8)

    Для покупателей внутри страны при добавлении новой записи можно делать контроль уникальности по ИНН, ЕГРПОУ.

    Для поставщиков и вообще любых справочников можно определить ключ уникальности и отбрасывать дубли в процедуре ПередЗаписью.

    Может поэтому мы не сталкивались с проблемой дублей по причине папок контрагентов, товаров.

    Reply
  11. Abadonna

    (10) Могу привести примеры, когда контроль по реквизиту вообще невозможен.

    Пришла накладная на материалы (на завод, например), в накладной только наименование и ТЧ. Всё остальное будет позже в сч-факт. А приходовать надо сейчас

    P.S. И заводить его будет именно бухгалтер (никакой не менеджер), но все равно полупустышку будет вынужден завести

    Reply
  12. detec

    (11)

    Речь идёт о накладной в бумажном виде? Если речь идёт о том, что пользователи не умеют идентифицировать товар в бумажках и товар в справочнике и плодят дубли (при условии, что обязанности более-менее чётко распределены), то наказывать нужно таких пользователей. Возможно, многое зависит от используемых традиций учёта, но разве под упомянутую накладную не составлялся заказ поставщику в учётной системе? Или каждый раз приходит совершенно разная номенклатура?

    Reply
  13. Abadonna

    (12) Скажи честно — ты с торгашами работаешь? С заводами работал?

    Какие, на фиг, заявки? У кого урвали сей момент металл или пластмассу — у того и взяли.

    Сегодня нужен алюминий А7, а завтра фибра такая-то…

    P.S. У завода оборачиваемость оборотных средств чуть не на порядок ниже, к тому же необходимость в материалах сильно зависит от наличия заказов, никакой завод впрок их покупать не будет

    Reply
  14. detec

    (13) Работаю с торгашами. Со спецификой заводов не знаком, если честно.

    Reply
  15. tango

    +(13) оборотные средства у завода (если это не фасовка жареных семечек) — вещь вообще виртуальная

    Reply
  16. tango

    +(13) же. а вот «урвали» — не понял. неужели есть какой-то дефицит? проблема продать — да. но проблема купить? дасисфантасиш

    Reply
  17. maria-goncharova@mail.ru

    пригодилось

    Reply
  18. galyausik1

    полезная штука

    Reply
  19. zdrastvyitejorj

    Спасибо, отличная статья, прояснилось как быть с дублями контрагентов. Но есть один вопрос: нельзя ли как-либо ускорить возню с договорами в контрагентах?Нет ли какой-либо обработки которая автоматически бы меняла ссылки на договора, например если договор с таким же названием и свойствами уже есть, меняла бы ссылки на него, если же такого нету, то просто добавляла.

    Reply
  20. ATimofeev1979

    Странно, я как программер со стажем, но не в 1С продуктах, а в SQL системах построенных на базе MSSQL, FireBird/InterBase, MySQL и т.п. никогда не встречался с дублированием записей в справочниках ибо всегда спасали ключи уникальности, работавшие наравне с первичным ключем. А в 1С это честно говоря вызвало шок.

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *