管道基础大数据平台系统开发-【后端】-Server
1
13693261870
2023-03-25 fe8b2f6b674c259d948c872dd564f83810218bff
src/main/java/com/lf/server/service/all/BaseUploadService.java
@@ -1,8 +1,12 @@
package com.lf.server.service.all;
import com.lf.server.entity.ctrl.TabMapperEntity;
import com.lf.server.entity.all.StaticData;
import com.lf.server.entity.data.DirEntity;
import com.lf.server.entity.data.MetaFileEntity;
import com.lf.server.entity.data.VerEntity;
import com.lf.server.entity.sys.UserEntity;
import com.lf.server.helper.*;
import com.lf.server.service.data.DirService;
import org.apache.commons.logging.Log;
import org.apache.commons.logging.LogFactory;
import org.springframework.beans.factory.annotation.Autowired;
@@ -23,20 +27,11 @@
 */
@Service
public class BaseUploadService {
    private final static String XLS = ".xls";
    private final static String MDB = ".mdb";
    private final static String GDB = ".gdb";
    private final static String SHP_ZIP = ".shp.zip";
    private final static String GDB_ZIP = ".gdb.zip";
    private final static String ZIP = ".zip";
    @Autowired
    protected DirService dirService;
    @Autowired
    public PathHelper pathHelper;
    protected PathHelper pathHelper;
    public final Log log = LogFactory.getLog(getClass());
@@ -50,7 +45,7 @@
    /**
     * 上传文件
     */
    public <T> List<MetaFileEntity> uploadData(T t, String path, HttpServletRequest req, HttpServletResponse res) throws Exception {
    public <T> List<MetaFileEntity> uploadData(T t, String path, boolean isGetGuid, HttpServletRequest req, HttpServletResponse res) throws Exception {
        StandardMultipartHttpServletRequest request = (StandardMultipartHttpServletRequest) req;
        req.setCharacterEncoding("utf-8");
        res.setContentType("application/json;charset=utf-8");
@@ -59,7 +54,7 @@
            setEntity(t, request);
        }
        return getFiles(path, request);
        return getFiles(path, isGetGuid, request);
    }
    /**
@@ -102,7 +97,7 @@
    /**
     * 获取文件
     */
    public List<MetaFileEntity> getFiles(String subPath, StandardMultipartHttpServletRequest req) throws Exception {
    public List<MetaFileEntity> getFiles(String subPath, boolean isGetGuid, StandardMultipartHttpServletRequest req) throws Exception {
        List<MetaFileEntity> list = new ArrayList<>();
        String path = pathHelper.getTempPath(subPath);
@@ -121,7 +116,9 @@
            mf.setPath(path + File.separator + mf.getName());
            file.transferTo(new File(mf.getPath()));
            mf.setGuid(FileHelper.getFileMd5(mf.getPath()));
            if (isGetGuid) {
                mf.setGuid(FileHelper.getFileMd5(mf.getPath()));
            }
            list.add(mf);
        }
@@ -132,7 +129,7 @@
    /**
     * 查询文件
     */
    public List<MetaFileEntity> selectFiles(String subPath, List<String> extList) {
    public List<MetaFileEntity> selectFiles(String subPath) {
        String root = pathHelper.getConfig().getTempPath() + File.separator + subPath;
        File file = new File(root);
@@ -147,21 +144,19 @@
        List<MetaFileEntity> list = new ArrayList<>();
        for (File f : files) {
            String fileName = FileHelper.getFileName(f.getPath());
            if (null != extList) {
                String extName = FileHelper.getExtension(fileName);
                if (!extList.contains(extName)) {
                    continue;
                }
            String extName = FileHelper.getExtension(fileName);
            if (!isExtValid(extName)) {
                continue;
            }
            double sizes = FileHelper.sizeToMb(f.length());
            String filePath = subPath + File.separator + fileName;
            MetaFileEntity mf = new MetaFileEntity();
            mf.setName(fileName);
            mf.setSizes(sizes);
            mf.setPath(filePath);
            mf.setGuid(FileHelper.getFileMd5(f.getPath()));
            mf.setExtName(extName);
            mf.setSizes(FileHelper.sizeToMb(f.length()));
            mf.setPath(subPath + File.separator + fileName);
            if (!StaticData.ZIP.equals(extName)) {
                mf.setGuid(FileHelper.getFileMd5(f.getPath()));
            }
            list.add(mf);
        }
@@ -194,63 +189,202 @@
    /**
     * 查询映射
     */
    public List<TabMapperEntity> selectMappers(String subPath) {
        String root = pathHelper.getConfig().getTempPath() + File.separator + subPath;
        File file = new File(root);
        if (!file.exists() && !file.isDirectory()) {
    public List<MetaFileEntity> selectMappers(UserEntity ue, String path, DirEntity dir, VerEntity ver, String epsgCode) {
        List<MetaFileEntity> metas = selectFiles(path);
        if (null == metas || metas.isEmpty()) {
            return null;
        }
        File[] files = file.listFiles();
        if (null == files || files.length == 0) {
            return null;
        }
        List<MetaFileEntity> list = new ArrayList<>();
        List<DirEntity> dirs = dirService.selectRecursiveById(dir.getId());
        for (MetaFileEntity meta : metas) {
            meta.setEventid(StringHelper.getGuid());
            meta.setDircode(dir.getCode());
            meta.setDepcode(ue.getDepcode());
            meta.setVerid(ver.getId());
            meta.setCreateUser(ue.getId());
            meta.setEpsgCode(epsgCode);
        File zipFile = new File(root + "_zip");
        if (!zipFile.exists() || !zipFile.isDirectory()) {
            zipFile.mkdirs();
        }
            if (StaticData.ZIP.equals(meta.getExtName())) {
                List<MetaFileEntity> subs = getMapperFiles(path, dir, dirs, meta);
                if (null != subs && subs.size() > 0) {
                    list.addAll(subs);
                    continue;
                }
            }
        return getMappers(zipFile.getPath(), files);
            list.add(meta);
        }
        setMetaType(list);
        return list;
    }
    /**
     * 获取映射
     * 获取映射文件
     */
    private List<TabMapperEntity> getMappers(String zipPath, File[] files) {
        String temp = pathHelper.getConfig().getTempPath();
    private List<MetaFileEntity> getMapperFiles(String path, DirEntity dir, List<DirEntity> dirs, MetaFileEntity meta) {
        String tempPath = pathHelper.getConfig().getTempPath();
        String zipFile = tempPath + File.separator + meta.getPath();
        File file = new File(zipFile);
        if (!file.exists() || file.isDirectory()) {
            return null;
        }
        List<TabMapperEntity> list = new ArrayList<>();
        File zipFolder = new File(pathHelper.getConfig().getTempPath() + File.separator + path + "_zip");
        if (!zipFolder.exists() || !zipFolder.isDirectory()) {
            zipFolder.mkdirs();
        }
        // String subPath = zipFolder + File.separator + meta.getName().toLowerCase().replace(".zip", "") .replace("(","").replace(")","").replace(" ","")
        String subPath = zipFolder.getPath();
        ZipHelper.unzip(zipFile, subPath);
        List<File> files = new ArrayList<>();
        getFilesByPath(files, subPath);
        return getMapperFiles(files, dir, dirs, meta, tempPath.length() + 1);
    }
    /**
     * 根据路径获取文件
     */
    private void getFilesByPath(List<File> list, String path) {
        File file = new File(path);
        if (!file.isDirectory()) {
            String extName = FileHelper.getExtension(file);
            if (isExtValid(extName)) {
                list.add(file);
            }
            return;
        }
        if (isGdbFile(file)) {
            list.add(file);
            return;
        }
        File[] files = file.listFiles();
        if (null == files) {
            return;
        }
        for (File f : files) {
            String fileName = FileHelper.getFileName(f.getPath());
            if (fileName.contains(XLS)) {
                String path = f.getPath().replace(temp + File.separator, "");
                list.add(new TabMapperEntity(fileName, "xls", null, path));
            if (f.isDirectory()) {
                getFilesByPath(list, f.getPath());
            } else {
                String extName = FileHelper.getExtension(f);
                if (isExtValid(extName)) {
                    list.add(f);
                }
            }
        }
    }
    /**
     * 扩展是否有效
     */
    private boolean isExtValid(String extName) {
        return StaticData.ALL_EXTENSION.contains(extName) && !StaticData.MAPPER_EXCLUDE_EXT.contains(extName);
    }
    /**
     * 获取映射文件
     */
    private List<MetaFileEntity> getMapperFiles(List<File> files, DirEntity dir, List<DirEntity> dirs, MetaFileEntity meta, int start) {
        List<MetaFileEntity> list = new ArrayList<>();
        for (File f : files) {
            boolean isGdb = isGdbFile(f);
            if (!isGdb && f.isDirectory()) {
                continue;
            }
            if (fileName.contains(MDB)) {
                String path = f.getPath().replace(temp + File.separator, "");
                List<String> tabs = MdbHelper.getTabNames(f.getPath());
                for (String tab : tabs) {
                    list.add(new TabMapperEntity(fileName, "mdb", tab, path));
            String fileName = FileHelper.getFileName(f.getPath());
            String extName = FileHelper.getExtension(fileName);
            if (!isExtValid(extName) || fileName.startsWith("~")) {
                continue;
            }
            String dircode = getDirByPath(f.getPath(), fileName, dir, dirs);
            boolean isShp = StaticData.SHP.equals(extName);
            if (isGdb) {
                List<MetaFileEntity> rs = getGdbMappers(f, meta, dircode, start);
                if (null != rs && rs.size() > 0) {
                    list.addAll(rs);
                }
                continue;
            }
            if (fileName.contains(SHP_ZIP)) {
                String subPath = zipPath + File.separator + f.getName().toLowerCase().replace(".zip", "");
                ZipHelper.unzip(f.getPath(), subPath);
                getShpFiles(f.getName(), subPath, list);
                continue;
            MetaFileEntity mf = createMetaFileEntity(meta);
            mf.setDircode(dircode);
            mf.setEventid(StringHelper.getGuid());
            mf.setName(fileName);
            mf.setExtName(extName);
            mf.setPath(f.getPath().substring(start));
            if (isShp) {
                List<String> shpFiles = getShpFiles(f.getPath());
                mf.setTab(fileName.replace(StaticData.SHP, ""));
                mf.setSizes(getFilesSize(shpFiles));
                mf.setGuid(getFilesMd5(shpFiles));
            } else {
                mf.setSizes(FileHelper.sizeToMb(f.length()));
                mf.setGuid(FileHelper.getFileMd5(f.getPath()));
            }
            if (fileName.contains(GDB_ZIP)) {
                String subPath = zipPath + File.separator + f.getName().toLowerCase().replace(".zip", "");
                ZipHelper.unzip(f.getPath(), subPath);
                getGdbFiles(f.getName(), subPath, list);
                continue;
            list.add(mf);
        }
        return list;
    }
    /**
     * 创建元数据文件实体类
     */
    private MetaFileEntity createMetaFileEntity(MetaFileEntity meta) {
        MetaFileEntity mf = new MetaFileEntity();
        mf.setDircode(meta.getDircode());
        mf.setDepcode(meta.getDepcode());
        mf.setVerid(meta.getVerid());
        mf.setCreateUser(meta.getCreateUser());
        mf.setEpsgCode(meta.getEpsgCode());
        return mf;
    }
    /**
     * 根据文件路径获取目录ID
     */
    private String getDirByPath(String filePath,String fileName, DirEntity dir, List<DirEntity> dirs) {
        if (0 != dir.getPid() || null == dirs || dirs.isEmpty()) {
            return dir.getCode();
        }
        if (StaticData.SLASH.equals(File.separator)) {
            filePath = filePath.replace("/", "\\");
        }
        fileName = fileName.toLowerCase();
        filePath = filePath.toLowerCase();
        for (DirEntity entity : dirs) {
            if (filePath.contains(entity.getFullName().toLowerCase() + "\\" + fileName)) {
                return entity.getCode();
            }
            if (fileName.contains(ZIP)) {
                // 暂时不实现
        }
        return dir.getCode();
    }
    /**
     * 获取SHP文件集合
     */
    private List<String> getShpFiles(String shpPath) {
        List<String> list = new ArrayList<>();
        list.add(shpPath);
        for (int i = 0, c = StaticData.SHP_EXT.size(); i < c; i++) {
            String path = shpPath.replace(".shp", StaticData.SHP_EXT.get(i));
            File f = new File(path);
            if (f.exists() && !f.isDirectory()) {
                list.add(path);
            }
        }
@@ -258,87 +392,96 @@
    }
    /**
     * 获取Shp文件
     * 获取GDB文件集合
     */
    private void getShpFiles(String sourceName, String subPath, List<TabMapperEntity> list) {
        List<String> files = new ArrayList<>();
        getShpFiles(subPath, files);
    private List<String> getGdbFiles(String path) {
        List<String> list = new ArrayList<>();
        String root = pathHelper.getConfig().getTempPath() + File.separator;
        for (String file : files) {
            String name = FileHelper.getFileName(file);
            String path = file.replace(root, "");
            list.add(new TabMapperEntity(sourceName, "shp", name, path));
        }
    }
    /**
     * 获取Shp文件
     */
    private void getShpFiles(String shpPath, List<String> list) {
        File file = new File(shpPath);
        File[] files = file.listFiles();
        File[] files = new File(path).listFiles();
        if (null == files || files.length == 0) {
            return;
            return list;
        }
        for (File f : files) {
            if (f.isDirectory()) {
                getShpFiles(f.getPath(), list);
                continue;
            }
            if (f.getName().toLowerCase().endsWith(".shp")) {
                list.add(f.getPath());
            }
            list.add(f.getPath());
        }
        return list;
    }
    /**
     * 获取Gdb文件
     * 获取多文件的MD5
     */
    private void getGdbFiles(String sourceName, String subPath, List<TabMapperEntity> list) {
        List<String> files = new ArrayList<>();
        getGdbFiles(subPath, files);
        String root = pathHelper.getConfig().getTempPath() + File.separator;
    private String getFilesMd5(List<String> files) {
        List<String> list = new ArrayList<>();
        for (String file : files) {
            String path = file.replace(root, "");
            List<String> tabs = GdbHelper.getTabNames(file);
            for (String tab : tabs) {
                list.add(new TabMapperEntity(sourceName, "gdb", tab, path));
            String md5 = FileHelper.getFileMd5(file);
            if (null != md5) {
                list.add(md5);
            }
        }
        if (list.size() > 0) {
            String str = StringHelper.join(list, ",");
            return FileHelper.getStringMd5(str);
        }
        return StringHelper.getGuid();
    }
    /**
     * 获取Gdb文件
     * 获取多文件的大小
     */
    private void getGdbFiles(String shpPath, List<String> list) {
        File file = new File(shpPath);
        File[] files = file.listFiles();
        if (null == files || files.length == 0) {
            return;
    private double getFilesSize(List<String> files) {
        long size = 0L;
        for (String file : files) {
            File f = new File(file);
            if (f.exists() && !f.isDirectory()) {
                size += f.length();
            }
        }
        for (File f : files) {
            if (!f.isDirectory()) {
                continue;
            }
            if (isGdbFile(f)) {
                list.add(f.getPath());
                continue;
            }
            getGdbFiles(f.getPath(), list);
        }
        return FileHelper.sizeToMb(size);
    }
    /**
     * 获取GDB文件映射
     */
    private List<MetaFileEntity> getGdbMappers(File f, MetaFileEntity meta, String dircode, int start) {
        List<String> tabs = GdbHelper.getTabNames(f.getPath());
        if (null == tabs || tabs.size() == 0) {
            return null;
        }
        String fileName = FileHelper.getFileName(f.getPath());
        String extName = FileHelper.getExtension(fileName);
        List<String> gdbFiles = getGdbFiles(f.getPath());
        String md5 = getFilesMd5(gdbFiles);
        double sizes = getFilesSize(gdbFiles);
        List<MetaFileEntity> list = new ArrayList<>();
        for (String tab : tabs) {
            MetaFileEntity mf = createMetaFileEntity(meta);
            mf.setDircode(dircode);
            mf.setEventid(StringHelper.getGuid());
            mf.setName(fileName);
            mf.setExtName(extName);
            mf.setSizes(FileHelper.sizeToMb(f.length()));
            mf.setPath(f.getPath().substring(start));
            mf.setTab(tab);
            mf.setSizes(sizes);
            mf.setGuid(md5);
            list.add(mf);
        }
        return list;
    }
    /**
     * 是/否为GDB文件
     */
    private boolean isGdbFile(File f) {
        if (f.getName().toLowerCase().endsWith(GDB)) {
        if (f.isDirectory() && f.getName().toLowerCase().endsWith(StaticData.GDB)) {
            File[] files = f.listFiles();
            if (null == files || files.length == 0) {
                return false;
@@ -355,12 +498,33 @@
    }
    /**
     * 获取参数
     * 设置元数据文件的类型
     */
    private void setMetaType(List<MetaFileEntity> list) {
        for (MetaFileEntity mf : list) {
            if (null != mf.getExtName()) {
                mf.setType(mf.getExtName().replace(".", ""));
            }
        }
    }
    /**
     * 处理目录
     */
    public void copePath(List<MetaFileEntity> list) {
        String basePath = pathHelper.getConfig().getTempPath() + File.separator;
        for (MetaFileEntity mf : list) {
            mf.setPath(mf.getPath().replace(basePath, ""));
        }
    }
    /**
     * 获取参数 *
     * Enumeration<String> headers = req.getHeaderNames();
     * Enumeration<String> attributes = req.getAttributeNames();
     */
    public Map<String, String> getParams(StandardMultipartHttpServletRequest req) {
        Map<String, String> map = new HashMap<String, String>(3);
        Map<String, String> map = new HashMap<>(3);
        Enumeration<String> enumeration = req.getParameterNames();
        while (enumeration.hasMoreElements()) {