使用带有不同参数的 Boost Tokenizer escaped_list_separator

Question

你好，我一直在尝试使用 boost 库 tokenizer 类让 tokenizer 工作。 我在 boost 文档中找到了本教程：

http://www .boost.org/doc/libs/1 _36 _0/libs/tokenizer/escaped _list _separator.htm

问题是我无法获取转义 _list _separator("","",""); 的参数

但如果我修改 boost/tokenizer.hpp 文件，它就可以工作。 但这不是，理想的解决方案是想知道我是否缺少任何东西来将不同的参数放入转义的 _list _separator 中。

我想让它在空格上分割，用 " 和 ' 进行转义，并且在引用的字符串内没有转义字符。

这用于游戏控制台系统中的参数解析系统。

#include <iostream>
#include <boost/tokenizer.hpp>
#include <string>

int main()
{
    using namespace std;
    using namespace boost;
    string s = "exec script1 \"script argument number one\"";
    string separator1("");//dont let quoted arguments escape themselves
    string separator2(" ");//split on spaces
    string separator3("\"\'");//let it have quoted arguments
    tokenizer<escaped_list_separator<char>(separator1,separator2,separator3)> tok(s);
    for(tokenizer<escaped_list_separator<char>(separator1,separator2,separator3)>::iterator beg=tok.begin(); beg!=tok.end();++beg)
    {
        cout << *beg << "\n";
    }
}

来自 Visual Studio 2005 的错误是 错误 C2974: 'boost::tokenizer' : 'TokenizerFunc' 的模板参数无效，输入预期的

编辑： 这个问题由费鲁西奥提出，并由彼得·谢克的大家解释。

Answer 1

尝试这个：

#include <iostream>
#include <boost/tokenizer.hpp>
#include <string>

int main()
{
    using namespace std;
    using namespace boost;
    string s = "exec script1 \"script argument number one\"";
    string separator1("");//dont let quoted arguments escape themselves
    string separator2(" ");//split on spaces
    string separator3("\"\'");//let it have quoted arguments

    escaped_list_separator<char> els(separator1,separator2,separator3);
    tokenizer<escaped_list_separator<char>> tok(s, els);

    for(tokenizer<escaped_list_separator<char>>::iterator beg=tok.begin(); beg!=tok.end();++beg)
    {
        cout << *beg << "\n";
    }
}

Answer 2

您似乎错误地声明了您的分词器类型。

typedef boost::tokenizer< boost::escaped_list_separator<char> > Tokenizer;
boost::escaped_list_separator<char> Separator( '\\', ' ', '\"' );
Tokenizer tok( s, Separator );

for( Tokenizer::iterator iter = tok.begin(); iter != tok.end(); ++iter )
{ cout << *iter << "\n"; }

您想要创建一个 boost::tokenizerboost::tokenizer< boost::escaped_list_separator< 字符> > 带有 boost::escaped_list_separator的类型化对象 char > 分隔符对象作为其 TokenizerFunc。

Answer 3

一个相关但不是答案的问题是，如果用户想在结果中输出双引号，则维基百科 (像这里) 应替换为 (\\\") 字符串，其中 \\ 表示转义字符，\" 表示引号。 这样输出结果中就会显示引号。
以下代码片段是一个示例。

typedef boost::escaped_list_separator<char> std_token;
typedef boost::tokenizer<boost::escaped_list_separator<char>> tokenizer;

std_token a_token( "\\", ",", "\"" );
std::string s = "\"Boost,\\\" C++ Libraries\" ";
tokenizer tok{ s, a_token };
for ( const auto &t : tok )
    std::cout << t << '\n';

这是典型的输出