创建 SSIS 自定义数据流组件 + 2008年国际安全峰会

Question

我是 SSIS 自定义组件的新手。刚刚开始编写一个组件，其中输入行数永远不会与输出行数相同。对于每个输入行，它会进行一些验证并生成需要映射到输出缓冲区的 n 行。

因此，在设计时验证编码之后，一切都很好。

我的运行时代码如下：

    public override void PreExecute()
    {
        IDTSInput100 input = ComponentMetaData.InputCollection[0];
        inputBufferColumnIndex = new int[input.InputColumnCollection.Count];

        for (int x = 0; x < input.InputColumnCollection.Count; x++)
        {
            IDTSInputColumn100 column = input.InputColumnCollection[x];
            inputBufferColumnIndex[x] = BufferManager.FindColumnByLineageID  (input.Buffer, column.LineageID);
        }

        IDTSOutput100 output = ComponentMetaData.OutputCollection[0];
        outputBufferColumnIndex = new int[output.OutputColumnCollection.Count];

        for (int x = 0; x < output.OutputColumnCollection.Count; x++)
        {
            IDTSOutputColumn100 outcol = output.OutputColumnCollection[x];
            outputBufferColumnIndex[x] = BufferManager.FindColumnByLineageID(input.Buffer, outcol.LineageID);
        }

    }


    public override void ProcessInput(int inputID, PipelineBuffer buffer)
    {
        if(!buffer.EndOfRowset)
        {
            while (buffer.NextRow())
            {
                var rec = new Record
                                 {
                                     Source = buffer[0].ToString(),
                                     Nk = buffer[1].ToString(),
                                     Guid = new Guid(buffer[2].ToString()),
                                     FromDate = Convert.ToDateTime(buffer[3].ToString()),
                                     ToDate = Convert.ToDateTime(buffer[4].ToString())
                                 };
                sourceRecords.Add(rec);
            }
            ProcessArray(sourceRecords,buffer);
        }
    }
    public void ProcessArray(List<Record> records, PipelineBuffer buffer)
    {
        //Get Distinct NKs from the source Records
        List<string> nKs = (from c in records select c.Nk).Distinct().ToList();


        foreach (var nk in nKs)
        {
            //Get all the record for particular NK
            List<Record> filteredRecords = (from c in sourceRecords where c.Nk == nk select c)
                                                .OrderBy(c => c.Source)
                                                .ThenBy(c => c.FromDate)
                                                .ThenBy(c => c.ToDate).ToList();

            foreach (var filteredRecord in filteredRecords)
            {
                _start = filteredRecord.FromDate;
                _end = filteredRecord.ToDate;
                while (filteredRecord.WriteComplete == false)
                {
                    foreach (var record in filteredRecords)
                    {
                        if (record.FromDate > _start && record.FromDate < _end) _end = record.ToDate;
                        if (record.ToDate < _end && record.ToDate > _start) _end = record.ToDate;
                    }

                    //Output0Buffer.AddRow();
                    //Output0Buffer.outSource = filteredRecord.Source;
                    //Output0Buffer.outNK = filteredRecord.Nk;
                    //Output0Buffer.outRecid = filteredRecord.Guid;
                    //Output0Buffer.outFromDate = _start;
                    //Output0Buffer.outToDate = _end;
                    buffer.SetString(5,filteredRecord.Source);
                    buffer.SetString(6,filteredRecord.Nk);
                    buffer.SetGuid(7,filteredRecord.Guid);
                    buffer.SetDateTime(8,filteredRecord.FromDate);
                    buffer.SetDateTime(9,filteredRecord.ToDate);

                    _start = _end;
                    _end = filteredRecord.ToDate;

                    if (_start == _end) filteredRecord.WriteComplete = true;
                }
            }
        }
    }
}
public class Record
{
    public Guid Guid { get; set; }
    public string Nk { get; set; }
    public string Source { get; set; }
    public DateTime FromDate { get; set; }
    public DateTime ToDate { get; set; }
    public bool WriteComplete { get; set; }
}

在我的 ProcessArray 方法中，我尝试填充输出缓冲区。我什至不确定这是否可以做到。

任何指导将不胜感激。

谢谢

Answer 1

是的，可以完成这种类型的转换，它称为异步转换。你的代码对我来说看起来不错。从您的问题中并不清楚您是否遇到了特定问题。

您可能想要尝试创建异步脚本组件转换，这样您就不必摸索所有 SSIS 管道。

更多信息在这里：
http://msdn.microsoft.com/en-us/library/ms136133。 aspx

http://msdn.microsoft.com/en-us /library/ms135931.aspx

Answer 2

我不确定我是否理解您想要实现的目标，但看起来您正在尝试对所有数据进行排序，然后按顺序处理排序后的列表。请注意，您的 ProcessInput 方法被调用多次，每次都有一个新的缓冲区。您对接收缓冲区所做的任何排序仅适用于该特定缓冲区 - 数据不会全局排序，因此您的结果可能会根据缓冲区边界而有所不同。

这对于特定场景来说可以吗？如果没有，请使用排序变换对所有数据进行排序，在排序后添加变换，然后逐行处理数据 - 它已经排序了。因此，只需逐行读取它，然后在读取后修改当前行 - 这就是 buffer.SetString 的用途。

另外，不要对列索引进行硬编码，例如 buffer.SetString(5, ...) - 数字可能会改变，最好在 PreExecute 中获取并保存列索引，然后使用类似的东西
buffer.SetString(nkColumnIndex, nkColumnValue);