Нейросети для вашей базы! Подсистема "Нейросети"




Принцип обмена данными из 1С с сайтом (на MySQL) и выдачи (публикации) этих данных по запросу.
PHP-Скрипт автоматической загрузки данных из файла данных в формате CSV в базу данных сайта работающего на WordPress.

В продолжение моей темы: 1С:Альфа-Авто Автосалон Автосервис: обмен с сайтом.
С помощью данного скрипта можно загружать в автоматическом режиме, по расписанию, данные сервисных книжек (ремонтов авто) из 1С:Альфа-Авто Автосалон Автосервис.
Также можно загружать данные в ручном режиме: для этого делается скрытая страница, где размещается специальная кнопка.
Комментарии размещенные внутри скрипта разъяснят логику и порядок действия.
Комментарии с "/////    echo" использовались для отладки.
Дополнительно создана таблица для журналирования результатов загрузки данных.
Скрипт включает в себя защиту от SQL инъекций (думаю безопасность соблюдена в полной мере).
В кратце:
1. Пишется скрипт, который запускает этот.
2. Создается регламентное задание в WordPress, по которому запускается скрипт из п.1. 
3. Этот скрипт осуществляет проверку на существование файла обмена в папке.
4. Если данные не новые, загрузка не производится.
5. Если данные новые, очищается таблица сервисных книжек.
6. Загружаются новые данные.

Собственно сам скрипт:

<?php // Полная загрузка сервисных книжек, создан 2024-01-05 12:44:55

global $wpdb2;
global $failure;
global $file_hist;

/////  echo '<H2><b>Старт загрузки</b></H2><br>';

$failure=FALSE;
//подключаемся к базе
$wpdb2 = include_once 'connection.php'; ; // подключаемся к MySQL
// если не удалось подключиться, и нужно оборвать PHP с сообщением об этой ошибке
if (!empty($wpdb2->error))
{
/////   echo '<H2><b>Ошибка подключения к БД, завершение.</b></H2><br>';
$failure=TRUE;
wp_die( $wpdb2->error );
}

$m_size_file=0;
$m_mtime_file=0;
$m_comment='';
/////проверка существования файлов выгрузки из 1С
////файл выгрузки сервисных книжек
$file_hist = ABSPATH.'/_1c_alfa_exchange/AA_hist.csv';
if (!file_exists($file_hist))
{
/////   echo '<H2><b>Файл обмена с сервисными книжками не существует.</b></H2><br>';
$m_comment='Файл обмена с сервисными книжками не существует';
$failure=TRUE;
}

/////инициируем таблицу лога
/////если не существует файла то возврат и ничего не делаем
if ($failure){
///включает защиту от SQL инъекций и данные можно передавать как есть, например: $_GET['foo']
/////   echo '<H2><b>Попытка вставить запись в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>$m_comment));
wp_die();
/////    echo '<H2><b>Возврат в начало.</b></H2><br>';
return $failure;
}
/////проверка лога загрузки, что бы не загружать тоже самое
$masiv_data_file=stat($file_hist);   ////передаем в массив свойство файла
$m_size_file=$masiv_data_file[7];    ////получаем размер файла
$m_mtime_file=$masiv_data_file[9];   ////получаем дату модификации файла
////создаем запрос на получение последней удачной загрузки
////выбираем по штампу времени создания (редактирования) файла загрузки AA_hist.csv, $m_mtime_file

/////   echo '<H2><b>Размер файла: '.$m_size_file.'</b></H2><br>';
/////   echo '<H2><b>Штамп времени файла: '.$m_mtime_file.'</b></H2><br>';
/////   echo '<H2><b>Формирование запроса на выборку из лога</b></H2><br>';
////препарируем запрос
$text_zaprosa=$wpdb2->prepare("SELECT * FROM `vin_logs` WHERE `last_mtime_upload` = %s", $m_mtime_file);
$results=$wpdb2->get_results($text_zaprosa);

if ($results)
{   foreach ( $results as $r)
{
////если штамп времени и размер файла совпадают, возврат
if (($r->last_mtime_upload==$m_mtime_file) && ($r->last_size_upload==$m_size_file))
{////echo '<H2><b>Возврат в начало, т.к. найдена запись в логе.</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>$m_mtime_file,'last_size_upload'=>$m_size_file,'comment'=>'Загрузка отменена, новых данных нет, т.к. найдена запись в логе.'));
wp_die();
return $failure;
}
}
}
////если данные новые, пишем в лог запись о начале загрузки
/////echo '<H2><b>Попытка вставить запись о начале загрузки в лог таблицу</b></H2><br>';
$insert_fail_zapros=$wpdb2->insert('vin_logs', array('time_stamp'=>time(),'last_mtime_upload'=>0, 'last_size_upload'=>$m_size_file, 'comment'=>'Начало загрузки'));

////очищаем таблицу
$clear_tbl_zap=$wpdb2->prepare("TRUNCATE TABLE %s", 'vin_history');
$clear_tbl_zap_repl=str_replace("'","`",$clear_tbl_zap);
$results=$wpdb2->query($clear_tbl_zap_repl);
/////   echo '<H2><b>Очистка таблицы сервисных книжек</b></H2><br>';
if (empty($results))
{
/////   echo '<H2><b>Ошибка очистки таблицы книжек, завершение.</b></H2><br>';
//// если очистка не удалась, возврат
$failure=TRUE;
wp_die();
return $failure;
}

////загружаем данные
$table='vin_history';         // Имя таблицы для импорта
//$file_hist Имя CSV файла, откуда берется информация     // (путь от корня web-сервера)
$delim=';';          // Разделитель полей в CSV файле
$enclosed='"';      // Кавычки для содержимого полей
$escaped='\

19 Comments

  1. kauksi

    а для тех у кого в голове нейронов маловато, куда это можно прикрутить применительно к ситуациям, возникающих у производственных или торговых фирм? Практические так сказать примеры

    Reply
  2. kauksi
  3. feva

    (2)А можно в краце чё-каво? букафок многа =(

    Reply
  4. kauksi

    «Сейчас компьютерных мощностей хватает для решения если не любых, то подавляющего большинства задач на базе нейросетей. Теперь главное препятствие — нехватка размеченных данных. Условно говоря, чтобы система научилась распознавать закат на видео или фотографиях, ей надо скормить миллион снимков заката, указав, где именно он находится в кадре. «

    Reply
  5. Hartge

    Кто скачивал, как ощущения?

    Reply
  6. kauksi

    Да вот не могу придумать, что ей скормить… то ли статистику цен на капусту в Рязани, то ли потребление алголя в разных возрастных категориях в России за последние 200 лет

    Reply
  7. DimaP

    Автор, может всё же пример какой-нибудь будет?

    Мы не понимаем 🙂

    Reply
  8. avalakh

    Вообще это инструмент специфический и конкретно под задачу, в 1с редко может пригодится: например можно дубли номенклатуры поискать передавая коды символов из наименования.

    Или из практичного, если интересна крипта например: https://bittrex.com/Home/Api. Набирайте массив курсов за период по какой нибудь валюте, замер с периодичностью например в минуту (запрос /public/getmarketsummaries). Записывайте в регистр, потом передавайте и анализируйте. От того как будете данные при обучении подбирать будет меняться функционал. Если сильно извратится думаю можно даже курс предсказывать. А из простого можно понять какой тренд например+-.

    Reply
  9. CheBurator

    ничего не понял

    что на выходе получим?

    Reply
  10. avalakh

    Вот тут по моему хорошо написано: https://habrahabr.ru/post/312450/ и https://habrahabr.ru/post/313216/.

    Reply
  11. feva

    (10)Насколько нужно извратиться, что бы отчетность за бухгалтера сдавал?

    Reply
  12. avalakh

    (11) очень…))

    Reply
  13. kauksi

    Для тупых поясните что передавать в Функция ОбучениеНейросети(Нейросеть,МассивПеременных, ПравильныйОтвет) Экспорт

    МассивПеременных — его состав?

    ПравильныйОтвет — это что?

    аналогично с функцией Функция ВыполнитьРасчетРезультатаНейросети(НейроСеть,МассивПеременных,РассчитатьТабПРС = Ложь,ТабПРС = Неопределено)

    она возвращает МассивПеременных;

    и дальше что с ним делать?

    Reply
  14. kauksi

    Как задавать количество Слоев? исходя из чего?

    Reply
  15. avalakh

    Обучение:

    Мы передаем нейросети массив данных и говорим, что для этого массива правильный ответ такой-то. И так много раз для разных массивов. Это нужно для того, что бы откалибровать коэффициенты нейросети.

    Дальше расчет — мы передаем массив и по массиву сеть уже сама выдает правильный ответ.

    Массив который возвращает сеть и есть результат выполнения. Его стоит интерпретировать исходя из обучения.

    Пример:

    Обучение:

    1,2,3,4,5 — ответ 0

    6,7,8,9,10 — ответ 1

    Т.е. если числа меньше 6 тогда ответом считать 0, если больше тогда 1

    Расчет

    1,8,9,10 — сеть возвращает ответ 0,9

    проанализировав результат, сеть поймет что там больше от второго ряда цифр, чем от первого, поэтому ответ будет стремится к 1.

    Это пример оч. теоретический — не проверенный, но примерно так будет работать.

    количество слоев исходя из задачи, чем меньше слоев тем быстрее, чем больше — тем точнее.

    Reply
  16. trustasia

    А каким образом я смогу описать связи между нейронами разных слоев?

    хотя бы на уровне

    https://www.youtube.com/watch?v=ILsA4nyG7I0

    как Ваша идея заработает?

    Reply
  17. avalakh

    В ближайшее время к сожалению нет возможности вникнуть в видео.

    Связи вам описывать не обязательно — они зашиты в расчетах. Если есть необходимость что-то править то посмотрите в процедурах обучения и расчета.

    Я в ближайшее время не планирую нейросетями заниматься, поэтому на сложные вопросы сходу не отвечу, подзабыл уже вопрос, нужно заново погружаться в тему.

    Reply
  18. trustasia

    (17)

    Reply
  19. trustasia

    пока пишу нейросеть на cmake. потом наверно смогу понять ваш вариант.

    Reply

Leave a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *