SSIS - PipelineComponent 中的 ProcessInput 被多次调用

发布于 2024-07-12 04:06:55 字数 1691 浏览 9 评论 0原文

伙计们。 我正在为 SSIS 开发一个自定义组件。 我在处理输入时遇到问题。 问题是“ProcessInput”方法被执行多次。 在这种情况下两次。

这是流程输入片段:

public override void ProcessInput(int inputID, PipelineBuffer buffer)
{
    IDTSInput90 input = ComponentMetaData.InputCollection.GetObjectByID(inputID);
    if (input.InputColumnCollection.Count > 0)
    {
        while (buffer.NextRow())
        {
            try
            {
                for (int columnIndex = 0; columnIndex < input.InputColumnCollection.Count; columnIndex++)
                {

                    ColumnInfo columnInfo = _columnInfos[input.InputColumnCollection[columnIndex].ID];
                    IDTSInputColumn90 inputColumn = input.InputColumnCollection[columnIndex];
                    try
                    {
                        //write to destination
                    }
                    catch (Exception writeEx)
                    {
                        throw new Exception("Couldn't write to destination");
                    }
                }
            }
            catch (Exception ex)
            {
                throw ex;
            }
        }
    }
    else
    {
        throw new Exception("There is no columns in the input collection");
    }

}

我不知道为什么它被调用两次。 这是数据流:

数据流 http://img371.imageshack.us/img371/3001/ dataflowprocessinputrb6.png

这是映射窗口: 映射窗口 http://img78.imageshack.us/img78/3772/mappingprocessinputzs2.png< /a>

H guys.
I'm developing a custom component for SSIS. I'm having a problem when processing inputs.
The problem is that the "ProcessInput" method gets executed more than once. Two times in this case.

This is the process input snippet:

public override void ProcessInput(int inputID, PipelineBuffer buffer)
{
    IDTSInput90 input = ComponentMetaData.InputCollection.GetObjectByID(inputID);
    if (input.InputColumnCollection.Count > 0)
    {
        while (buffer.NextRow())
        {
            try
            {
                for (int columnIndex = 0; columnIndex < input.InputColumnCollection.Count; columnIndex++)
                {

                    ColumnInfo columnInfo = _columnInfos[input.InputColumnCollection[columnIndex].ID];
                    IDTSInputColumn90 inputColumn = input.InputColumnCollection[columnIndex];
                    try
                    {
                        //write to destination
                    }
                    catch (Exception writeEx)
                    {
                        throw new Exception("Couldn't write to destination");
                    }
                }
            }
            catch (Exception ex)
            {
                throw ex;
            }
        }
    }
    else
    {
        throw new Exception("There is no columns in the input collection");
    }

}

I have no idea why its being called twice.
This is the dataflow:

Dataflow http://img371.imageshack.us/img371/3001/dataflowprocessinputrb6.png

And this is the mapping window:
Mapping window http://img78.imageshack.us/img78/3772/mappingprocessinputzs2.png

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

酒浓于脸红 2024-07-19 04:06:55

这是设计使然。 SSIS 以块的形式发送数据(SSIS 术语中的缓冲区),以优化内存使用。 缓冲区大小是有限的,因此SSIS不必将所有数据读入内存(否则SSIS将无法处理TB级数据)。 因此,您可以获得多个 ProcessInput 调用 - 每个缓冲区一个 ProcessInput 调用。

此外,您将得到一个空缓冲区,并且在最后将 EndOfRowset 标志设置为 true。 但不要依赖于此 - 这更多的是一个实现细节(最后一个缓冲区被记录为具有 EndOfRowset = true,但它没有被记录为空)。

This is by design. SSIS sends data in chunks (buffers in SSIS terminology), to optimize memory usage. The buffer size is limited, so SSIS does not have to read all the data into memory (otherwise SSIS would not be able to process terabytes of data). So you can get multiple ProcessInput calls - one ProcessInput call per buffer.

In addition, you'll get one empty buffer with EndOfRowset flag set to true at the very end. But don't rely on this - this is more of an implementation detail (the last buffer is documented to have EndOfRowset = true, but it is not documented to be empty).

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文