帮助编辑代码以修复“参数列表太长”问题错误

Question

我目前正在对基于 ICU 字典的中断迭代器的新添加进行一些测试。 我有代码允许我在文本文档上测试断字，但是当文本文档太大时，会出现错误： bash: ./a.out: Argument list too long

我不知道如何编辑代码当参数列表太长时将其分解，以便任何大小的文件都可以通过代码运行。原代码作者很忙，请问有人愿意帮忙吗？

我尝试删除正在检查的内容的打印，看看是否有帮助，但我仍然在大文件上遇到错误（不需要打印正在检查的内容 - 我只需要结果）。

如果可以修改代码以逐行读取源文本文件并将结果逐行导出到另一个文本文件（完成后得到所有行），那就完美了。

代码如下：

/*
Written by George Rhoten to test how word segmentation works.
Code inspired by the break ICU sample.

Here is an example to run this code under Cygwin.

PATH=$PATH:icu-test/source/lib ./a.exe "`cat input.txt`" > output.txt

Encode input.txt as UTF-8.
The output text is UTF-8.
*/

#include <stdio.h>
#include <unicode/brkiter.h>
#include <unicode/ucnv.h>

#define ZW_SPACE "\xE2\x80\x8B"

void printUnicodeString(const UnicodeString &s) {
    int32_t len = s.length() * U8_MAX_LENGTH + 1;
    char *charBuf = new char[len];
    len = s.extract(0, s.length(), charBuf, len, NULL);
    charBuf[len] = 0;
    printf("%s", charBuf);
    delete charBuf;
}

/* Creating and using text boundaries */
int main(int argc, char **argv)
{
    ucnv_setDefaultName("UTF-8");
    UnicodeString stringToExamine("Aaa bbb ccc. Ddd eee fff.");
    printf("Examining: ");
    if (argc > 1) {
        // Override the default charset.
        stringToExamine = UnicodeString(argv[1]);
        if (stringToExamine.charAt(0) == 0xFEFF) {
            // Remove the BOM
            stringToExamine = UnicodeString(stringToExamine, 1);
        }
    }
    printUnicodeString(stringToExamine);
    puts("");

    //print each sentence in forward and reverse order
    UErrorCode status = U_ZERO_ERROR;
    BreakIterator* boundary = BreakIterator::createWordInstance(NULL, status);
    if (U_FAILURE(status)) {
        printf("Failed to create sentence break iterator. status = %s", 
            u_errorName(status));
        exit(1);
    }

    printf("Result:    ");
    //print each word in order
    boundary->setText(stringToExamine);
    int32_t start = boundary->first();
    int32_t end = boundary->next();
    while (end != BreakIterator::DONE) {
        if (start != 0) {
            printf(ZW_SPACE);
        }
        printUnicodeString(UnicodeString(stringToExamine, start, end-start));
        start = end;
        end = boundary->next();
    }

    delete boundary;

    return 0;
}

非常感谢！ -内森

Answer 1

Argument list too long 错误消息来自 bash shell，并且在您的代码开始执行之前就发生了。

您可以修复以消除此问题的唯一代码是 bash 源代码（或者可能位于内核中），然后，您总是会遇到限制。如果您将命令行上的文件从 2048 个增加到 10,000 个，那么有一天您将需要处理 10,001 个文件；-)

有许多解决方案可以管理“太大”的参数列表。

标准化解决方案是 xargs 实用程序。

 find / -print | xargs echo 

是一个无用但有效的示例。

请参阅如何在参数时正确使用“xargs”列表太长，无法获取更多信息。

甚至 xargs 也有问题，因为文件名可能包含空格、换行符和其他不友好的内容。

我希望这有帮助。

Answer 2

下面的代码读取文件名作为命令行第一个参数给出的内容，并将其放置在 str::buffer 中。然后，不要使用 argv[1] 调用函数 UnicodeString，而是使用该缓冲区。

#include<iostream>
#include<fstream>

using namespace std;

int main(int argc, char **argv)
{
    std::string buffer;

    if(argc > 1) {
        std::ifstream t;
        t.open(argv[1]);
        std::string line;
        while(t){
            std::getline(t, line);
            buffer += line + '\n';
        }
    }
    cout << buffer;
    return 0;
}

更新：

UnicodeString 的输入应为 char*。函数GetFileIntoCharPointer 可以做到这一点。
请注意，下面仅实现了最基本的错误检查！

#include<iostream>
#include<fstream>

using namespace std;

char * GetFileIntoCharPointer(char *pFile, long &lRet)
{
    FILE * fp = fopen(pFile,"rb");
    if (fp == NULL) return 0;

    fseek(fp, 0, SEEK_END);
    long size = ftell(fp);
    fseek(fp, 0, SEEK_SET);

    char *pData = new char[size + 1];
    lRet = fread(pData, sizeof(char), size, fp);

    fclose(fp);

    return pData;
}

int main(int argc, char **argv)
{
    long Len;
    char * Data = GetFileIntoCharPointer(argv[1], Len);
    std::cout << Data << std::endl;

    if (Data != NULL)
        delete [] Data;

    return 0;
}