0 0

去除重复数据的解决方案10

遇到个问题,客户在web上导入数据,大致环境如下
数据库:mysql
库中数据:A有10万,B有1万,C有1000等等等...
现在A导入1万,要求有两种情况供选择:
1、遇到重复的不导入
2、遇到重复的,用导入的数据覆盖
求解决方案


问题补充:这里的重复并不是整条数据重复,是只有某个关键字重复就视为整条记录重复。
2014年1月03日 08:52

2个答案 按时间排序 按投票排序

0 0

在导入脚本前,对不能重复的字段创建唯一索引,在导入后清除索引。

2014年1月17日 17:15
0 0

mysql中table如果有主键
1.遇到重复的不导入:insert ignore into tableA(xx,yy) values('xxx','yyy')
2.遇到重复的,用导入的数据覆盖: replace into tableA(xx,yy) values('xxx','yyy')

2014年1月03日 09:06

相关推荐

    重复数据删除解决方案的选择

    ### 重复数据删除解决方案的选择及分析 #### 一、引言 随着信息技术的快速发展,企业对于数据保护的需求日益增加。磁盘到磁盘的备份技术因其高效性与可靠性被广泛采用,而数据重复删除技术更是成为了减少存储成本...

    真伪之辨:评估重复数据删除解决方案

    因此,评估重复数据删除解决方案时,不仅要关注其空间节约能力,还要考虑其对整体存储架构的影响,以及在数据保护、恢复和性能上的表现。 【结论】 在选择重复数据删除解决方案时,了解其设计原理和潜在风险至关...

    基于MD5算法的重复数据删除技术的研究与改进

    本文将深入探讨基于MD5算法的重复数据删除技术,并提出一种优化方案。 #### 二、重复数据删除技术概述 重复数据删除技术是一种旨在减少冗余数据存储的技术。其基本原理是在数据写入或备份过程中识别并去除重复的...

    IBM TS7650重复数据删除解决方案的优势和价值

    IBM TS7650重复数据删除解决方案是一款专为大规模企业数据中心设计的高效存储优化工具,以其卓越的性能、高扩展性和安全性赢得了全球财富500强企业的信赖。该解决方案的核心优势在于以下几个方面: 1. 高度扩展的...

    昆腾推出重复数据删除与复制解决方案

    昆腾公司,作为全球领先的备份、恢复与归档领域的专业厂商,近期在北京发布了其最新的重复数据删除与复制解决方案,即DXi3500和DXi5500系列设备。这一发布标志着昆腾在完成对ADIC公司的收购后,首次在中国举办大规模...

    重复数据删除技术背景知识介绍-昆腾.pdf

    - **高效率数据去重**:利用先进的算法,昆腾DXi系列能够快速准确地识别和删除重复数据,显著提高存储利用率。 - **性能优化**:“线内”和“后期处理”相结合的方式,根据工作负载动态调整,保证了最优的数据处理...

    重复数据删除 dedup

    - **在备份系统中的应用**:重复数据删除技术在备份系统中有着广泛的应用,尤其是在企业级备份解决方案中,它能够显著减少所需的存储空间。 - **在主存储系统中的应用**:除了备份场景外,重复数据删除技术也被...

    重复数据删除最新资料

    市场上存在多种重复数据删除解决方案,这些解决方案既可以是硬件设备也可以是软件工具。主流的产品包括但不限于: - **Data Domain** - **Diligent Technologies** - **ExaGrid** - **FalconStor Software** - **...

    OracleSQL实例-删除重复数据行留最新日期实例.pdf

    在Oracle SQL中,删除重复数据并保留最新日期的实例是一个常见的数据清理任务,尤其是在具有历史记录或事务数据的数据库中。这个实例展示了如何通过SQL查询有效地处理这种情况。在这个例子中,我们有一个名为`abc`的...

    实例介绍删除数据库中重复数据的几个方法

    ### 实例介绍删除数据库中重复数据的几个方法 在数据库管理过程中,删除重复记录是一项常见的需求,特别是当数据库中存在大量的冗余数据时,这不仅浪费存储空间,还可能导致查询性能下降以及数据的一致性问题。本文...

    重复数据删除的技术背景-白皮书

    许多企业采用重复数据删除技术来优化其备份策略,如Quantum DXi系列备份设备等,这些设备能够在进行备份时自动检测和删除重复数据,显著提高了存储效率。 ##### 6.2 云存储服务 云存储提供商也广泛应用重复数据...

    国内首家重复数据删除产品测试对比报告.pdf

    - **市场认知情况**:尽管各大存储厂商纷纷推出各自的重复数据删除解决方案,媒体也广泛宣传其益处,但用户对于产品的具体类型、功能和性能等方面仍存在较大困惑。 - **产品选择难度**:由于众多厂商宣称其产品具备...

    易语言学习进阶去除重复数据

    在编程领域,尤其是在数据分析和处理过程中,去除重复数据是一项至关重要的任务。易语言,作为一款中国本土开发的、面向对象的、可视化的编程语言,提供了丰富的功能来帮助开发者实现这一目标。本文将深入探讨易语言...

    C#高性能枚举去除泛型中的重复数据

    总的来说,通过巧妙地运用C#的枚举和泛型特性,我们可以构建出高效的数据去重解决方案,即使面对大量数据,也能在短时间内完成去重任务。在实际开发中,理解并灵活运用这些语言特性,将有助于提升代码的质量和性能。

    完整版组合框、列表框去重复数据妙法.rar

    总之,"完整版组合框、列表框去重复数据妙法"旨在提供一套全面的解决方案,帮助开发者解决在UI设计中遇到的重复数据问题,提升应用的质量和用户体验。通过学习和实践这些方法,开发者能够更好地管理和展示数据,提高...

    去除重复数据

    ### 去除重复数据 在数据分析领域,去除重复数据是一项基本且重要的任务。重复的数据不仅会占用不必要的存储空间,还可能导致分析结果失真。因此,有效地去除数据集中的重复记录是提高数据质量和准确性的关键步骤之...

    重复文件去除,清理重复文件

    本文将深入探讨重复文件去除的重要性和具体操作方法,并针对不同场景,如电脑硬盘、NAS(网络附加存储)设备如群晖、威联通等,提供实用的解决方案。 首先,了解重复文件的定义。重复文件是指内容完全一样的文件,...

    HPE 3PAR数据消重解决方案.pptx

    HPE 3PAR 数据消重解决方案 HPE 3PAR 数据消重解决方案是基于 HPE 3PAR ...该解决方案具有高性能、低延迟、实时检测和删除重复数据、压缩数据、打包数据和删除零值等特点,能够满足用户对存储空间和性能的需求。

    使用 IBM 重复数据删除技术以更小的磁盘空间备份更

    - **无中断的部署和运行**:该解决方案为虚拟磁带库 (VTL) 提供高性能的重复数据删除,适用于企业组织,因为它允许企业充分利用现有的备份应用程序和流程。VTL解决方案均为无中断式,即在备份软件处理数据之后进行...

Global site tag (gtag.js) - Google Analytics