在多行文本文件上使用 StringTokenizer 时出错

Question

我正在尝试读取一个文本文件并使用java中的字符串分词器实用程序单独分割单词。

文本文件如下所示；

a 2000

4  
b 3000  
c 4000  
d 5000

现在，我想做的是从文本文件中获取每个单独的字符并将其存储到数组列表中。然后我尝试最后打印数组列表中的每个元素。

这是我的代码；

import java.io.BufferedReader;
import java.io.FileReader;
import java.io.IOException;
import java.util.ArrayList;
import java.util.StringTokenizer;

public static void main(String[] args) {

    String fileSpecified = args[0];

    fileSpecified = fileSpecified.concat(".txt");
    String line;
    System.out.println ("file Specified = " + fileSpecified);

    ArrayList <String> words = new ArrayList<String> ();


    try {
        FileReader fr = new FileReader (fileSpecified);
        BufferedReader br = new BufferedReader (fr);
        line = br.readLine();

        StringTokenizer token;
        while ((line  = br.readLine()) != null) {
            token = new StringTokenizer (line);
            words.add(token.nextToken());
        }
    } catch (IOException e) {
        System.out.println (e.getMessage());
    }

    for (int i = 0; i < words.size(); i++) {
        System.out.println ("words = " + words.get(i));
    }



}

我收到的错误消息是这样的；

Exception in thread "main" java.util.NoSuchElementException   
                at java.util.StringTokenizer.nextToken<Unknown Source>  
                at getWords.main<getWords.java:32>  

其中“getWords”是我的 java 文件的名称。

谢谢。

Answer 1

a）您始终必须检查 首先是StringTokenizer.hasMoreTokens()。如果没有更多可用的标记，则抛出 NoSuchElementException 是记录的行为：

token = new StringTokenizer (line);
while(token.hasMoreTokens())
    words.add(token.nextToken());

b) 不要为每一行创建一个新的 Tokenizer，除非您的文件太大而无法放入内存。将整个文件读取为字符串并让分词器对其进行处理

Answer 2

您的一般方法似乎是合理的，但您的代码中有一个基本问题。

您的解析器很可能在输入文件的第二行失败。该行是一个空行，因此当您调用 words.add(token.nextToken()); 时，您会收到错误，因为没有标记。这也意味着您只能获得每行的第一个标记。

您应该像这样迭代令牌：

while(token.hasMoreTokens())
{
    words.add(token.nextToken())
}

您可以在此处的 javadocs 中找到更通用的示例：

http://download.oracle.com/javase/1.4.2/docs/api/java/util/StringTokenizer.html

Answer 3

这个问题是由于您在尝试获取下一个令牌之前没有测试是否有下一个令牌。在调用 nextToken() 之前，您应该始终测试 hasMoreTokens() 是否返回 true。

但是您还有其他错误：

• 第一行被读取，但未标记化
• 您只将每行的第一个单词添加到单词列表中
• 不好的做法：标记变量应该在循环内部声明，而不是在
• 您不关闭的 外部声明你的读者在finally块中

Answer 4

您需要使用 hasMoreTokens() 方法。还解决了 JB Nizet 指出的代码中的各种编码标准问题

import java.io.BufferedReader;
import java.io.FileReader;
import java.io.IOException;
import java.util.ArrayList;
import java.util.StringTokenizer;

public class TestStringTokenizer {

    /**
     * @param args
     * @throws IOException 
     */
    public static void main(String[] args) throws IOException {
        String fileSpecified = args[0];

        fileSpecified = fileSpecified.concat(".txt");
        String line;
        System.out.println ("file Specified = " + fileSpecified);

        ArrayList <String> words = new ArrayList<String> ();

        BufferedReader br =  new BufferedReader (new FileReader (fileSpecified));
        try{
            while ((line  = br.readLine()) != null) {
                StringTokenizer token = new StringTokenizer (line);
                while(token.hasMoreTokens())
                    words.add(token.nextToken());
            }
        } catch (IOException e) {
            System.out.println (e.getMessage());
            e.printStackTrace();
        } finally {
            br.close();
        }

        for (int i = 0; i < words.size(); i++) {
            System.out.println ("words = " + words.get(i));
        }
    }
}