解析SQL2005中如何使用CLR函数获取行号

SQLServer数据导出到excel有很多种方法,比如dts、ssis、还可以用sql语句调用openrowset。我们这里开拓思路,用CLR来生成Excel文件,并且会考虑一些方便操作的细节。
下面我先演示一下我实现的效果,先看测试语句
--------------------------------------------------------------------------------


代码如下:

exec BulkCopyToXls 'select * from testTable' , 'd:/test' , 'testTable' ,- 1
/*
开始导出数据
文件 d:/test/testTable.0.xls, 共65534条 , 大小20 ,450,868 字节
文件 d:/test/testTable.1.xls, 共65534条 , 大小 20 ,101,773 字节
文件 d:/test/testTable.2.xls, 共65534条 , 大小 20 ,040,589 字节
文件 d:/test/testTable.3.xls, 共65534条 , 大小 19 ,948,925 字节
文件 d:/test/testTable.4.xls, 共65534条 , 大小 20 ,080,974 字节
文件 d:/test/testTable.5.xls, 共65534条 , 大小 20 ,056,737 字节
文件 d:/test/testTable.6.xls, 共65534条 , 大小 20 ,590,933 字节
文件 d:/test/testTable.7.xls, 共26002条 , 大小 8,419,533 字节
导出数据完成
-------
共484740条数据,耗时 23812ms
*/

--------------------------------------------------------------------------------
上面的BulkCopyToXls存储过程是自定的CLR存储过程。他有四个参数:
第一个是sql语句用来获取数据集
第二个是文件保存的路径
第三个是结果集的名字,我们用它来给文件命名
第四个是限制单个文件可以保存多少条记录,小于等于0表示最多65534条。
前三个参数没有什么特别,最后一个参数的设置可以让一个数据集分多个excel文件保存。比如传统excel的最大容量是65535条数据。我们这里参数设置为-1就表示导出达到这个数字之后自动写下一个文件。如果你设置了比如100,那么每导出100条就会自动写下一个文件。
另外每个文件都可以输出字段名作为表头,所以单个文件最多容纳65534条数据。
用微软公开的biff8格式通过二进制流生成excel,服务器无需安装excel组件,而且性能上不会比sql自带的功能差,48万多条数据,150M,用了24秒完成。

下面我们来看下CLR代码。通过sql语句获取DataReader,然后分批用biff格式来写xls文件。
--------------------------------------------------------------------------------


代码如下:

using System;
using System.Data;
using System.Data.SqlClient;
using System.Data.SqlTypes;
using Microsoft.SqlServer.Server;

public partial class StoredProcedures
{
    /// <summary>
    /// 导出数据
    /// </summary>
    /// <param name="sql"></param>
    /// <param name="savePath"></param>
    /// <param name="tableName"></param>
    /// <param name="maxRecordCount"></param>
    [Microsoft.SqlServer.Server.SqlProcedure ]
    public static void BulkCopyToXls(SqlString sql, SqlString savePath, SqlString tableName, SqlInt32 maxRecordCount)
    {
         if (sql.IsNull || savePath.IsNull || tableName.IsNull)
        {
            SqlContext .Pipe.Send(" 输入信息不完整!" );
        }
        ushort _maxRecordCount = ushort .MaxValue-1;

if (maxRecordCount.IsNull == false && maxRecordCount.Value < ushort .MaxValue&&maxRecordCount.Value>0)
            _maxRecordCount = (ushort )maxRecordCount.Value;

ExportXls(sql.Value, savePath.Value, tableName.Value, _maxRecordCount);
    }

/// <summary>
    /// 查询数据,生成文件
    /// </summary>
    /// <param name="sql"></param>
    /// <param name="savePath"></param>
    /// <param name="tableName"></param>
    /// <param name="maxRecordCount"></param>
    private static void ExportXls(string sql, string savePath, string tableName, System.UInt16 maxRecordCount)
    {

if (System.IO.Directory .Exists(savePath) == false )
        {
            System.IO.Directory .CreateDirectory(savePath);
        }

using (SqlConnection conn = new SqlConnection ("context connection=true" ))
        {
            conn.Open();
            using (SqlCommand command = conn.CreateCommand())
            {
                command.CommandText = sql;
                using (SqlDataReader reader = command.ExecuteReader())
                {
                    int i = 0;
                    int totalCount = 0;
                    int tick = System.Environment .TickCount;
                    SqlContext .Pipe.Send(" 开始导出数据" );
                    while (true )
                    {
                        string fileName = string .Format(@"{0}/{1}.{2}.xls" , savePath, tableName, i++);
                        int iExp = Write(reader, maxRecordCount, fileName);
                        long size = new System.IO.FileInfo (fileName).Length;
                        totalCount += iExp;
                        SqlContext .Pipe.Send(string .Format(" 文件{0}, 共{1} 条, 大小{2} 字节" , fileName, iExp, size.ToString("###,###" )));
                        if (iExp < maxRecordCount) break ;
                    }
                    tick = System.Environment .TickCount - tick;
                     SqlContext .Pipe.Send(" 导出数据完成" );

SqlContext .Pipe.Send("-------" );
                     SqlContext .Pipe.Send(string .Format(" 共{0} 条数据,耗时{1}ms" ,totalCount,tick));
                }
            }
        }

}
    /// <summary>
    /// 写单元格
    /// </summary>
    /// <param name="writer"></param>
    /// <param name="obj"></param>
    /// <param name="x"></param>
    /// <param name="y"></param>
    private static void WriteObject(ExcelWriter writer, object obj, System.UInt16 x, System.UInt16 y)
    {
        string type = obj.GetType().Name.ToString();
        switch (type)
        {
            case "SqlBoolean" :
            case "SqlByte" :
            case "SqlDecimal" :
            case "SqlDouble" :
            case "SqlInt16" :
            case "SqlInt32" :
            case "SqlInt64" :
            case "SqlMoney" :
            case "SqlSingle" :
                if (obj.ToString().ToLower() == "null" )
                    writer.WriteString(x, y, obj.ToString());
                else
                    writer.WriteNumber(x, y, Convert .ToDouble(obj.ToString()));
                break ;
            default :
                writer.WriteString(x, y, obj.ToString());
                break ;
        }
    }
    /// <summary>
    /// 写一批数据到一个excel 文件
    /// </summary>
    /// <param name="reader"></param>
    /// <param name="count"></param>
    /// <param name="fileName"></param>
    /// <returns></returns>
    private static int Write(SqlDataReader reader, System.UInt16 count, string fileName)
    {
        int iExp = count;
        ExcelWriter writer = new ExcelWriter (fileName);
        writer.BeginWrite();
        for (System.UInt16 j = 0; j < reader.FieldCount; j++)
        {
            writer.WriteString(0, j, reader.GetName(j));
        }
        for (System.UInt16 i = 1; i <= count; i++)
        {
            if (reader.Read() == false )
            {
                iExp = i-1;
                break ;
            }
            for (System.UInt16 j = 0; j < reader.FieldCount; j++)
            {
                WriteObject(writer, reader.GetSqlValue(j), i, j);
            }
        }
        writer.EndWrite();
        return iExp;
    }

/// <summary>
    /// 写excel 的对象
    /// </summary>
    public class ExcelWriter
    {
        System.IO.FileStream _wirter;
        public ExcelWriter(string strPath)
        {
            _wirter = new System.IO.FileStream (strPath, System.IO.FileMode .OpenOrCreate);
        }
        /// <summary>
        /// 写入short 数组
        /// </summary>
        /// <param name="values"></param>
        private void _writeFile(System.UInt16 [] values)
        {
            foreach (System.UInt16 v in values)
            {
                byte [] b = System.BitConverter .GetBytes(v);
                _wirter.Write(b, 0, b.Length);
            }
        }
        /// <summary>
        /// 写文件头
        /// </summary>
        public void BeginWrite()
        {
            _writeFile(new System.UInt16 [] { 0x809, 8, 0, 0x10, 0, 0 });
        }
        /// <summary>
        /// 写文件尾
        /// </summary>
        public void EndWrite()
        {
            _writeFile(new System.UInt16 [] { 0xa, 0 });
            _wirter.Close();
        }
        /// <summary>
        /// 写一个数字到单元格x,y
        /// </summary>
        /// <param name="x"></param>
        /// <param name="y"></param>
        /// <param name="value"></param>
        public void WriteNumber(System.UInt16 x, System.UInt16 y, double value)
        {
            _writeFile(new System.UInt16 [] { 0x203, 14, x, y, 0 });
            byte [] b = System.BitConverter .GetBytes(value);
            _wirter.Write(b, 0, b.Length);
         }
        /// <summary>
        /// 写一个字符到单元格x,y
        /// </summary>
        /// <param name="x"></param>
        /// <param name="y"></param>
        /// <param name="value"></param>
        public void WriteString(System.UInt16 x, System.UInt16 y, string value)
        {
            byte [] b = System.Text.Encoding .Default.GetBytes(value);
            _writeFile(new System.UInt16 [] { 0x204, (System.UInt16 )(b.Length + 8), x, y, 0, (System.UInt16 )b.Length });
            _wirter.Write(b, 0, b.Length);
        }
    }
};

把上面代码编译为TestExcel.dll,copy到服务器目录。然后通过如下SQL语句部署存储过程。
--------------------------------------------------------------------------------


代码如下:

CREATE ASSEMBLY TestExcelForSQLCLR FROM 'd:/sqlclr/TestExcel.dll' WITH PERMISSION_SET = UnSAFE;
--
go
CREATE proc dbo. BulkCopyToXls 
(  
    @sql nvarchar ( max ),
    @savePath nvarchar ( 1000),
    @tableName nvarchar ( 1000),
    @bathCount int
)    
AS EXTERNAL NAME TestExcelForSQLCLR. StoredProcedures. BulkCopyToXls

go

--------------------------------------------------------------------------------
当这项技术掌握在我们自己手中的时候,就可以随心所欲的来根据自己的需求定制。比如,我可以不要根据序号来分批写入excel,而是根据某个字段的值(比如一个表有200个城市的8万条记录)来划分为n个文件,而这个修改只要调整一下DataReader的循环里面的代码就行了。

(0)

相关推荐

  • 解析SQL2005中如何使用CLR函数获取行号

    SQLServer数据导出到excel有很多种方法,比如dts.ssis.还可以用sql语句调用openrowset.我们这里开拓思路,用CLR来生成Excel文件,并且会考虑一些方便操作的细节.下面我先演示一下我实现的效果,先看测试语句-------------------------------------------------------------------------------- 复制代码 代码如下: exec BulkCopyToXls 'select * from testT

  • python中使用sys模板和logging模块获取行号和函数名的方法

    对于python,这几天一直有两个问题在困扰我:1.python中没办法直接取得当前的行号和函数名.这是有人在论坛里提出的问题,底下一群人只是在猜测python为什么不像__file__一样提供__line__和__func__,但是却最终也没有找到解决方案.2.如果一个函数在不知道自己名字的情况下,怎么才能递归调用自己.这是我一个同事问我的,其实也是获取函数名,但是当时也是回答不出来. 但是今晚!所有的问题都有了答案.一切还要从我用python的logging模块说起,logging中的for

  • jQuery实现获取table中鼠标click点击位置行号与列号的方法

    本文实例讲述了jQuery实现获取table中鼠标click点击位置行号与列号的方法.分享给大家供大家参考,具体如下: 先来看看运行效果: 具体代码如下: <!DOCTYPE html> <html> <head lang="en"> <meta charset="UTF-8"> <title>www.jb51.net 鼠标点击位置行列号</title> </head> <bo

  • 解析Pytorch中的torch.gather()函数

    参数说明 以官方说明为例,gather()函数需要三个参数,输入input,维度dim,以及索引index input必须为Tensor类型 dim为int类型,代表从哪个维度进行索引 index为LongTensor类型 举例说明 input=torch.tensor([[1,2,3],[4,5,6]]) #作为输入 index1=torch.tensor([[0,1,1],[0,1,1]]) #作为索引矩阵 # dim=0时,按列进行索引 print (torch.gather(input,

  • 利用ROW_NUMBER() OVER函数给SQL数据库中每一条记录分配行号的方法

    从SQL Server 2005开始,增加了一个新的函数Row_Number(),他的一个很伟大的作用就是可以在数据表中添加一列从1开始的行号,这样大大代替所有多余的代码来产生行号.下面就教大家如何使用Row_Number()函数. 假设数据库中有如下表: 复制代码 代码如下: id    name 1    aa 3    bb 4    cc 执行如下SQL语句后将得到如下结果: SELECT ROW_NUMBER() OVER(ORDER BY id) as rowNum,* FROM 表

  • 深入解析JavaScript中的立即执行函数

    它是什么 在 JavaScript 里,每个函数,当被调用时,都会创建一个新的执行上下文.因为在函数里定义的变量和函数是唯一在内部被访问的变量,而不是在外部被访问的变量,当调用函数时,函数提供的上下文提供了一个非常简单的方法创建私有变量. function makeCounter() { var i = 0; return function(){ console.log(++i); }; } //记住:`counter`和`counter2`都有他们自己的变量 `i` var counter =

  • 解析C++中的字符串处理函数和指针

    C++字符串处理函数 字符串连接函数 strcat 其函数原型为 strcat(char[],const char[]); strcat是string catenate(字符串连接)的缩写.该函数有两个字符数组的参数,函数的作用是:将第二个字符数组中的字符串连接到前面字符数组的字符串的后面.第二个字符数组被指定为const,以保证该数组中的内容不会在函数调用期间修改.连接后的字符串放在第一个字符数组中,函数调用后得到的函数值,就是第一个字符数组的地址.例如: char str1[30]=″Peo

  • 解析php中如何调用用户自定义函数

    先放上来别人的例子吧:call_user_func函数类似于一种特别的调用函数的方法,使用方法如下:    复制代码 代码如下: function a($b,$c)    {    echo $b;    echo $c;    }    call_user_func('a', "111","222");    call_user_func('a', "333","444");    //显示 111 222 333 444 

  • 解析android中系统日期时间的获取

    复制代码 代码如下: import    java.text.SimpleDateFormat; SimpleDateFormat    formatter    =   new    SimpleDateFormat    ("yyyy年MM月dd日    HH:mm:ss     ");     Date    curDate    =   new    Date(System.currentTimeMillis());//获取当前时间     String    str    =

  • SQL行号排序和分页(SQL查询中插入行号 自定义分页的另类实现)

    (一)行号显示和排序 1.SQL Server的行号 A.SQL 2000使用identity(int,1,1)和临时表,可以显示行号 SELECT identity(int,1,1) AS ROWNUM, [DataID] INTO #1 FROM DATAS order by DataID; SELECT * FROM #1 B.SQL 2005提供一个很好用的函数row_number(), 可以直接用来显示行号,当然也可以使用SQL 2000的identity SELECT row_num

随机推荐