`
pcajax
  • 浏览: 2183553 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

在网上看到和篇关于sql server 2005的性能优化篇,觉得写得很好。

阅读更多

在网上看到和篇关于sql server 2005的性能优化篇,觉得写得很好。

SQL Server2005扩展函数已经不是一件什么新鲜的事了,但是我看网上的大部分都是说聚合函数,例子也比较浅,那么这里就讲讲我运用扩展函数来优化数据库性能的例子,希望和大家一起分享这个经验。如果你还不知道什么是SQLCLR,那么你可以参考:SQL Server扩展函数的基本概念

需求说明

大家在使用SQL Server开发的时候一定会遇到这样的需求,那就是通过Table_Name1表的两个字段Column1、Column2来查询在Table_Name2表中符合这两个条件的记录,并返回Table_Name2中的字段Column3,面对这样的需求,你也许会说使用表连接就可以了,对的,没错,我也是这样想的,但是有的时候往往要面对不同的突发情况,那就是并不是一定会Column1与Column2是全匹配的查询,可能中间还需要一些逻辑的处理,比如字符串的截取后再匹配等等。

这个时候我们通常会在SQL Server中写一个函数,这个函数接收两个参数:Column1、Column2,函数体里面做一些逻辑处理,在通过处理好的参数去查询Table_Name2表,并返回相应的值。很好,那下面我们来计算下图中数据的查询情况。假设表1的数据有50W,表2的数据有4W,在表2没有索引的条件下,查询的复杂度就有50W*4W了,两个表都需要做全表扫描,表2的全表扫描就会达到50W次。

(图1:需求说明)

<script language="JavaScript" src="http://www.im5173.com/ads/ads728x15.js" type="text/javascript"></script>

优化1:这一个优化,每个开发人员都知道,那就是对表2的两个查询字段分别建立索引。这样的优化和之前相比,性能将会提高N个等级。

优化2:这第二个优化方法是使用SQL Server的复合索引,在表2上创建一个复合索引,这个符合索引包括需要查询的两个字段,其实就是把两个字段的内容生成一个索引,其中索引包含了两个索引的排序。

优化3:这第三个优化方法是使用SQL Server2005之后版本才有的索引-包含性索引(Include),就是在优化2的基础上,把需要返回的字段也一起放入到索引中,这样的查询就只需要查询索引就够了,不需要再读取数据页了,减少磁盘的IO消耗。不过这个方法也不是万能,因为有时可能返回的字段会比较多,有时几个字段加起来的长度有可能超出了900个字符(索引大小范围),如果想了解可以进入:SQL Server 索引中include的魅力(具有包含性列的索引)

优化4:在不考虑一些分区、分表、分到不同的磁盘等优化方式的情况下,我们是否还能进一步优化我们的查询呢?这就是这篇文章想要告诉你的,因为我们的回答是:有的。那就是通过SQLCLR的UDT,把表2的数据一次性加载到内存,那么在进行表1查询的时候,我们不需要通过B+树来查询数据了,直接到内存中查询,这样之所以快是因为操作内存要比操作磁盘要快得多。这其中会有些局限性和缺点,具体见下面的缺点描述。

设计思路

1、去数据库中把表2读取出来,并放到private static readonly IDictionary<string, string> resultCollectionDic的静态变量中。在数据库服务启动的时候是会初始化2、SQLCLR函数的,所以在启数据库服务的时候,也一起把表2的数据保存到了内存当中了。

3、上面的查询中包括了两个字段Column1、Column2和一个返回字段Column3,那么我们如何把这些数据保存到IDictionary字典当中呢?我的做法就是把Column1、Column2的中间加一个字符“+”,把这个字符串作为Key值,把Column3这个返回值做为Value,这样就解决了多个And的查询的问题。这个会有些局限性,具体可以见下面的缺点描述。

在函数FunctionImsi2HLR2中传进的两个字符后,就要进行上面的拼凑方式来拼凑Key值,再到IDictionary中查询。

测试结果

测试数据:表2有4.6732万条记录,表1有54.2524万条记录。

经过测试:

1、优化1方法(单独索引)的时间是106秒

2、优化3方法(包含性索引)的时间是45秒

3、优化4方法(扩展函数)的时间是33秒

代码

以下为引用的内容:

using System;
using System.Data;
using System.Data.SqlClient;
using System.Data.SqlTypes;
using Microsoft.SqlServer.Server;
using System.Collections;
using System.Collections.Generic;
public partial class UserDefinedFunctions
{
//经过测试发现:使用Hashtable和SortedList没有使用IDictionary的性能好. <script language="JavaScript" src="http://www.im5173.com/ads/ads728x15.js" type="text/javascript"></script>
//IDictionary<string, string>中使用string比SqlString的性能要高.
private static readonly IDictionary<string, string> resultCollectionDic = new Dictionary<string, string>();
static UserDefinedFunctions()
    {
        GetTableFromDB(resultCollectionDic);
    }
/// <summary>
/// 从数据库中获取某个表的数据.
/// </summary>
/// <param name="resultCollection"></param>
private static void GetTableFromDB(IDictionary<string, string> resultCollectionDic)
    {
using (SqlConnection connection = new SqlConnection("context connection=true"))
        {
            connection.Open();
using (SqlCommand selectMGT = new SqlCommand("SELECT NS,NP,HLR FROM dbo.zh_mgt ORDER BY NS,NP", connection))
            {
using (SqlDataReader zhmgtReader = selectMGT.ExecuteReader())
                {
while (zhmgtReader.Read())
                    {
string NS = zhmgtReader["NS"].ToString();
string NP = zhmgtReader["NP"].ToString();
string HLR = zhmgtReader["HLR"].ToString();
string key = NS + "+" + NP;
if (!resultCollectionDic.ContainsKey(key))
                        {
                            resultCollectionDic.Add(key, HLR);
                        }
                    }
                }
            }
            connection.Close();
        }
    }
/// <summary>
/// 暴露给SQL Server调用的函数.
/// </summary>
/// <param name="NS">参数1</param>
/// <param name="NP">参数2</param>
/// <returns></returns>
    [SqlFunction(DataAccess = DataAccessKind.Read)]
public static SqlString FunctionImsi2HLR2(string NS, int NP)
    {
string result = null;//这里设置为null是为了在方法IMSI2HLR2中判断继续循环.
string key = NS + "+" + NP.ToString();//使用特殊符号+连接两个列作为key值.
if (resultCollectionDic.ContainsKey(key))
            result = resultCollectionDic[key].ToString();    
return new SqlString(result);
    }
};

调用方式对比

以下为引用的内容:

--1:这个是在NP和NS字段中分别建立索引
SELECT @rc=HLR FROM zh_mgt WHERE NP=7 and NS=@mgt
--2:这个是在NP、NS、HLR字段中建立了一个包含性索引(Include)
SELECT @rc=HLR FROM zh_mgt WHERE NS=@mgt and NP=7
--3:这是使用SQLCLR扩展函数的调用方法
SELECT @rc= dbo.FunctionImsi2HLR2(@mgt,7)

优点

1、性能上的比较(这里的>是表示时间的长短,时间越小,性能越优):每个列有单独的索引>使用Include的包含索引>扩展函数
把表里面的记录放到内存上,直接去内存上查询,不需要使用到B+树来查询数据。当你的内存足够大或者空闲,并且使用到这个表的次数很多,而且更新不频繁,那就可以考虑这样的优化方案。

2、如果需要面对一些比较复杂的逻辑处理,也许SQL是没有办法做到,即使做到了,那么SQL代码的阅读和维护会比较困难,其实这个既是优点又是缺点,下面的缺点中有提到。
封装代码,加强代码安全。

缺点

1、有一定的局限性,当有多个AND条件一起查询或者几个键通过上面的方法加起来的字符串不唯一,那么就没有办法像上面IDictionary<string, string>的方法来使用key了,但是也不是没有办法的,其实办法就是IList,把唯一的值作为key,再构造一个实体作为key的value。

2、如果表更新了,需要重新注册函数,因为程序已经把整个表加载到内存了;如果不重新注册函数,那么就需要数据库重启服务了,因为那个程序集是在服务启动的时候就初始化了。

3、针对上面第二个缺点,也是有办法解决的,那就是在表中做一个触发器,当有Insert、Update、Delete等操作就调用一个重新注册的存储过程就可以了。

4、如果里面的逻辑处理比较复杂,那么更新逻辑所带来的部署、维护成本比较大,因为如果是写成函数或者是建立包含性索引可能会更好维护。

疑问

1、在SQL Server中,对一个包含性索引的疑问:比如有一个int类型的字段和一个nvarchar的字段,int字段的重复率比较大,而nvarchar的重复率比较少,我之前是根据重复率来确认谁放前面的,但是int与nvarchar的匹配效率是不一样的,int只要匹配一次,而nvarchar需要匹配跟字符串长度一样多的次数,那么应该如何把谁放到前面呢?

2、数据库中可以把90%的查询都归结为1:完全匹配,2:前缀匹配。对应解决方案是:1:可采用bloom-filter扩展函数进行高速匹配,2:可采用改进的哈夫曼树。如何做这方面的方案呢?

总结

虽然这样的方式比较难在现实的运用中被使用,因为有很多局限性和缺点,但是我写这篇文章的初衷就是想让大家知道在特殊的情况下,还有这样一种优化的方法可以使用。

分享到:
评论

相关推荐

    SqlServer性能优化

    SqlServer性能优化 SqlServer性能优化是关系数据库管理系统(RDBMS)的一个重要方面,影响着整个系统的性能和可靠性。本文将从软件生命周期的不同阶段对SqlServer性能优化的注意事项进行总结。 一、 分析阶段 在...

    sql server性能优化(总结)

    "sql server性能优化" SQL Server 性能优化报告人:张 建日期:2010-05-18 SQL Server 性能优化综述 一个系统的性能提高,不单单是试运行或者维护阶段的性能调优的任务,也不单单是开发阶段的事情,而是在整个...

    sql server 性能优化(生产中常用)

    SQL Server性能优化是数据库管理员和开发人员必须掌握的重要技能,它对于确保数据库系统的稳定性和响应速度至关重要。在生产环境中,正确的优化方法可以显著提升数据库的处理能力和效率,减少资源消耗,并避免潜在的...

    SQLSERVER2005常见性能排错

    - 提供一套常规的方法来诊断和排除SQL Server性能问题。 - 展示DMVs的优势,以及它们如何简化问题诊断过程。 #### 方法概述 本文将按照以下三个主要症状来诊断性能问题: 1. **资源瓶颈**:包括CPU、内存和I/O瓶颈...

    SQLServer 2005 精简版

    SQL Server 2005是微软公司推出的一款关系型数据库管理系统,主要应用于数据存储、管理和分析。这个"SQL Server 2005 精简版"是针对那些对完整功能需求不高的用户或者小型企业设计的,它提供了一部分核心数据库服务...

    SQL Server 2008查询性能优化 源代码

    在SQL Server 2008中,查询性能优化是一项至关重要的任务,因为它直接影响到数据库系统的响应速度和整体效率。"SQL Server 2008查询性能优化源代码"这一资源提供了一种深入学习和实践的方法,帮助我们理解并提升SQL...

    SQL Server数据库性能优化.doc

    SQL Server 数据库性能优化 SQL Server 数据库性能优化是指通过对数据库进行优化来提高其性能,使其能够更好地满足应用程序的需求。影响 SQL Server 数据库性能的因素有很多,包括数据库设计、查询设计、索引设计、...

    sql_server2005性能优化

    ### SQL Server 2005 性能优化详解 #### 一、引言 SQL Server 2005是一款功能强大的数据库管理系统,在企业级应用中非常常见。...希望本文提供的知识点能够帮助您更好地理解和掌握SQL Server 2005的性能优化技巧。

    SQLServer2008查询性能优化 2/2

    书名: SQLServer2008查询性能优化 作者: 弗里奇(Grant Fritchey) 出版社: 人民邮电出版社 出版日期: 2010年8月1日 ISBN: 9787115230294 编辑推荐 《SQL Server 2008查询性能优化》为你提供了处理查询性能所...

    SQLServer2005教程

    通过以上的知识点介绍,我们可以看出SQLServer2005在数据库管理和应用开发方面提供了丰富的功能,从基础的数据存储到复杂的事务处理,再到高效的数据检索,SQLServer2005均能提供良好的支持。在实际应用中,用户需要...

    SQL Server 2008内存及IO性能监控

    在SQL Server 2008中,内存管理和IO性能监控是数据库管理员进行系统优化和问题排查的关键环节。本文将深入探讨这两个方面的监控方法,帮助你更好地理解和管理SQL Server的资源利用。 一、内存管理 1. **内存架构**...

    SQL Server2005 64位 官网精简版

    了解这些知识点,可以帮助用户更好地安装、配置和管理SQL Server 2005 64位精简版,从而满足其特定的业务需求。在使用过程中,还需要关注微软的更新、补丁和支持政策,以确保系统安全性和稳定性。

    Sql Server查询优化

    3. 编写不当的查询:即使数据库设计得很好,但是编写效率低下的查询同样会导致性能问题。因此,编写高效的SQL代码是非常重要的。 4. 死锁:死锁是由多个进程或线程在争夺资源时相互等待对方释放资源而形成的一种...

    SQL Server性能优化

    SQL Server性能优化是一个涉及多个层面的复杂话题,它涵盖了从系统分析、设计到实施的全过程。以下是对标题和描述中提到的知识点的详细说明: 1. **系统分析阶段**: 在此阶段,性能需求不应被忽视。实时性、响应...

    SQLServer性能分析

    本篇文章将详细介绍如何利用SQL Server性能监视器(SQL Server Performance Monitor)进行性能分析,并结合具体的监控指标来定位潜在的系统瓶颈。 #### 二、SQL Server性能监视器简介 SQL Server性能监视器是...

    win 8.1 装sqlserver 2005 无法启动异常

    尽管这种方法可以暂时解决SQL Server 2005在Windows 8.1上的运行问题,但强烈建议考虑升级到更高版本的SQL Server,比如SQL Server 2008或更新的版本,因为这些版本提供了更好的兼容性、性能优化和安全特性。...

    SQL Server 2005中XML数据类型的性能

    在SQL Server 2005中,XML数据类型的性能优化是一项关键任务,因为XML在现代企业应用程序中扮演着越来越重要的角色,特别是在处理半结构化和非结构化数据时。SQL Server 2005引入了对XML的原生支持,允许XML数据存储...

    SQL Server 2005 T-SQL增强

    这一特性在SQL Server 2005中得到了进一步增强,支持更多的排序选项和稳定性改进,使得查询优化器能够更有效地处理大型数据集。 #### OUTPUT子句 (OUTPUT) OUTPUT子句是一个非常有用的特性,它可以在执行INSERT、...

    基于SQL Server的SQL优化.pdf

    在SQL Server数据库管理系统中,SQL优化是提升系统性能的关键环节。SQL优化涉及到多个层面,包括查询设计、索引策略、存储过程优化、执行计划分析以及资源管理等。本篇文章将深入探讨这些方面,帮助读者理解如何针对...

Global site tag (gtag.js) - Google Analytics