处理数据导入流程-1

13693261870

2023-08-22 994d438b4b06011eb7656357a367392bb30467c5

 DataLoader/CS/Importor.cs

@@ -1,71 +1,68 @@
using DataLoader.Model;
using Npgsql;
using System;
using System.Collections.Generic;
using System.Collections.ObjectModel;
using System.Data.Common;
using System.IO;
using System.Linq;
using System.Reflection;
using System.Windows.Forms;
using System.Threading.Tasks;

namespace DataLoader.CS
{
    public class Importor
    {
        private static PostgreHelper _ph = null;

        public static PostgreHelper Helper
        /// <summary>
        /// 获取文件
        /// </summary>
        public static void GetFiles(ObservableCollection<ViewData> viewDatas)
        {
            get
            string[] files = Directory.GetFiles(CommonProp.SourcePath);
            for (int i = 0, c = files.Length; i < c; i++)
            {
                if (_ph == null) _ph = new PostgreHelper(DbEnum.langfang);
                ViewData vd = new ViewData();
                vd.ID = i + 1;
                vd.FilePath = files[i];
                vd.Ext = System.IO.Path.GetExtension(files[i]);
                vd.Status = "准备";
                viewDatas.Add(vd);

                return _ph;
                SetSysMeta(vd);
            }
        }

        private static readonly string insertMeta = "insert into lf.sys_meta (name, dirid, depid, verid, type, sizes, cs, scale, resolution, gather, batch, descr, create_user) values (@name, @dirid, @depid, @verid, @type, @sizes, @cs, @scale, @resolution, @gather, @batch, @descr, @create_user) returning id";

        private static readonly string insertMetaFile = "insert into lf.sys_meta_file (name, metaid, fileid, guid, path, sizes, create_user) values (@name, @metaid, @fileid, @guid, @path, @sizes, @create_user)";

        public static string GetFilePathByGuid(string guid)
        /// <summary>
        /// 数据导入
        /// </summary>
        public static void ImportFiles(ObservableCollection<ViewData> viewDatas)
        {
            string sql = "select path from lf.sys_meta_file where guid = @guid limit 1";
            Parallel.ForEach(viewDatas, (vd, ParallelLoopState) =>
            {
                try
                {
                    //

            DbParameter dp = new NpgsqlParameter("@guid", guid);
            object obj = Helper.GetScalar(sql, dp);
                    SysMeta meta = new SysMeta();
                    //

            return obj == null ? null : obj.ToString();
                    int id = DBHelper.InsertMeta(meta);
                    vd.Status = id > 0 ? "成功。" : "失败！";
                }
                catch (Exception ex)
                {
                    LogOut.Error(ex.StackTrace);
                    vd.Status = string.Format("失败：{0}！", ex.Message);
                }
            });
        }

        public static bool IsFileExists(string guid)
        /// <summary>
        /// 复制文件
        /// </summary>
        private static void CopyFile(string source, string target)
        {
            string sql = "select count(*) from lf.sys_meta_file where guid = @guid limit 1";

            DbParameter dp = new NpgsqlParameter("@guid", guid);
            object obj = Helper.GetScalar(sql, dp);

            return obj != null && Convert.ToInt32(obj) > 0;
        }

        public static int InsertMeta(SysMeta meta)
        {
            // string sql = "INSERT INTO public.data_files(mid, guid, name, ext, path, subs, remark) VALUES (@mid, @guid, @name, @ext, @path, @subs, @remark) returning id";
            List<DbParameter> list = Tool.GetParams<SysMeta>(insertMeta, meta);

            object obj = Helper.GetScalar(insertMeta, list.ToArray());

            return obj == null ? 0 : Convert.ToInt32(obj);
        }

        public static int InsertMetaFile(SysMetaFile metaFile)
        {
            List<DbParameter> list = Tool.GetParams<SysMetaFile>(insertMetaFile, metaFile);

            object obj = Helper.ExecuteNonQuery(insertMetaFile, list.ToArray());

            return obj == null ? 0 : Convert.ToInt32(obj);
            if (File.Exists(source))
            {
                File.Copy(source, target, true);
            }
        }

        public static void GetFiles(ObservableCollection<ViewData> viewDatas, string source)
@@ -76,6 +73,7 @@
                ViewData vd = new ViewData();
                vd.ID = i + 1;
                vd.FilePath = files[i];
                vd.Ext = System.IO.Path.GetExtension(files[i]);
                vd.Status = "准备";
                viewDatas.Add(vd);

@@ -89,46 +87,57 @@

            vd.Meta = new SysMeta();
            vd.Meta.name = fi.Name;
            vd.Meta.dirid = 0;
            vd.Meta.depid = 0;
            //vd.Meta.dirid = Common.DirId;
            //vd.Meta.depid = 1;
            vd.Meta.verid = 0;
            vd.Meta.type = "file";
            vd.Meta.sizes = Tool.SizeToMb(fi.Length);
            vd.Meta.cs = null;
            vd.Meta.scale = null;
            vd.Meta.resolution = null;
            vd.Meta.gather = DateTime.Now;
            vd.Meta.batch = null;
            vd.Meta.descr = null;
            vd.Meta.create_user = Tool.UserId;
            vd.Meta.type = fi.Extension.ToLower().Replace(".", "");
            vd.Meta.sizes = Tools.SizeToMb(fi.Length);
            vd.Meta.create_user = CommonProp.UserId;
        }

        public static void ImportFiles(ObservableCollection<ViewData> viewDatas, string target)
        public static void ImportFiles(ObservableCollection<ViewData> viewDatas, string target, int start)
        {
            /*Parallel.ForEach(viewDatas, (vd, ParallelLoopState) =>
            {
                try
                {
                    vd.Status = "生成MD5码...";
                    string guid = MD5Helper.GetMD5Hash(vd.FilePath);
                    if (!Exclusions.Contains(vd.Ext) && IsFileExists(guid))
                    {
                        vd.Status = "已存在！";
                        return;
                    }

                    vd.Status = "获取数据目录...";
                    int subPath = GetSubPath(target, start);
                    SysMeta mf = GetMetaFile(vd, subPath, guid);

                    vd.Status = "复制文件...";
                    CopyFile(vd.FilePath, Path.Combine(target, mf.path));

                    vd.Status = "准备入库";
                    vd.Meta = mf;
            });*/
        }

        public static void ImportFiles2(ObservableCollection<ViewData> viewDatas, string target)
        {
            int start = 1;
            foreach (ViewData vd in viewDatas)
            {
                try
                {
                    vd.Status = "生成MD5码...";
                    string guid = MD5Helper.GetMD5Hash(vd.FilePath);
                    if (IsFileExists(guid))
                    {
                        vd.Status = "已存在！";
                        continue;
                    }

                    vd.Status = "插入数据库...";
                    int metaId = InsertMeta(vd.Meta);
                    start = GetSubPath(target, start);
                    SysMeta mf = GetMetaFile(vd, start, "");

                    int metaId = 0; // InsertMeta(mf);
                    if (metaId == 0)
                    {
                        vd.Status = "元数据出错！";
                        continue;
                    }

                    start = GetSubPath(target, start);
                    SysMetaFile mf = GetMetaFile(vd, metaId, start, guid);
                    InsertMetaFile(mf);

                    vd.Status = "复制文件...";
                    CopyFile(vd.FilePath, Path.Combine(target, mf.path));
@@ -137,6 +146,7 @@
                }
                catch (Exception ex)
                {
                    LogOut.Error(ex.Message + "\r\n" + ex.StackTrace);
                    vd.Status = "失败！";
                }
            }
@@ -163,26 +173,24 @@
            }
        }

        private static SysMetaFile GetMetaFile(ViewData vd, int metaId, int subPath, string guid)
        private static SysMeta GetMetaFile(ViewData vd, int subPath, string guid)
        {
            SysMetaFile mf = new SysMetaFile();
            SysMeta mf = new SysMeta();
            mf.eventid = Guid.NewGuid().ToString();
            mf.metaid = 0;
            //mf.dirid = vd.Meta.dirid;
            //mf.depid = vd.Meta.depid;
            mf.verid = vd.Meta.verid;
            mf.name = vd.Meta.name;
            mf.metaid = metaId;
            mf.fileid = 0;
            mf.type = vd.Meta.type;
            mf.guid = guid;
            mf.path = subPath + "\\" + mf.name;
            mf.sizes = vd.Meta.sizes;
            mf.tab = null;
            mf.rows = 0;
            mf.create_user = vd.Meta.create_user;

            return mf;
        }

        private static void CopyFile(string source, string target)
        {
            if (File.Exists(source))
            {
                File.Copy(source, target, true);
            }
        }
    }
}