如何将字符串拆分为单词列表？

Question

如何拆分句子并将每个单词存储在列表中？ 例如

"these are words"   ⟶   ["these", "are", "words"]

---

_{要按其他分隔符拆分，请参阅在 python 中按分隔符拆分字符串。}

_{To拆分为单个字符，请参阅如何将字符串拆分为字符列表？。}

Answer 1

给定一个字符串 sentence，它将每个单词存储在名为 words 的列表中：

words = sentence.split()

Answer 2

要在任何连续的空格上分割字符串 text：

words = text.split()      

要在自定义分隔符（例如 ","）上分割字符串 text：

words = text.split(",")   

< code>words 变量将是一个 list 并包含在分隔符上拆分的 text 中的单词。

Answer 3

使用 str.split()：

返回字符串中的单词列表，使用sep作为分隔符
...如果未指定 sep 或为 None，则应用不同的分割算法：连续的空格被视为单个分隔符，并且结果将不包含如果字符串有前导或尾随空格，则在开头或结尾处为空字符串。

>>> line = "a sentence with a few words"
>>> line.split()
['a', 'sentence', 'with', 'a', 'few', 'words']

Answer 4

根据您计划对句子列表执行的操作，您可能需要查看自然语言工具包。 它主要涉及文本处理和评估。 您还可以使用它来解决您的问题：

import nltk
words = nltk.word_tokenize(raw_sentence)

这具有拆分标点符号的额外好处。

示例：

>>> import nltk
>>> s = "The fox's foot grazed the sleeping dog, waking it."
>>> words = nltk.word_tokenize(s)
>>> words
['The', 'fox', "'s", 'foot', 'grazed', 'the', 'sleeping', 'dog', ',', 
'waking', 'it', '.']

这允许您过滤掉任何不需要的标点符号并仅使用单词。

请注意，如果您不打算对句子进行任何复杂的操作，那么使用 string.split() 的其他解决方案会更好。

[编辑]

Answer 5

这个算法怎么样？ 在空白处拆分文本，然后修剪标点符号。 这会小心地删除单词边缘的标点符号，而不会损坏单词内的撇号，例如 were。

>>> text
"'Oh, you can't help that,' said the Cat: 'we're all mad here. I'm mad. You're mad.'"

>>> text.split()
["'Oh,", 'you', "can't", 'help', "that,'", 'said', 'the', 'Cat:', "'we're", 'all', 'mad', 'here.', "I'm", 'mad.', "You're", "mad.'"]

>>> import string
>>> [word.strip(string.punctuation) for word in text.split()]
['Oh', 'you', "can't", 'help', 'that', 'said', 'the', 'Cat', "we're", 'all', 'mad', 'here', "I'm", 'mad', "You're", 'mad']

Answer 6

我希望我的 python 函数分割一个句子（输入）并将每个单词存储在列表中

str().split() 方法执行此操作，它需要一个字符串，将其拆分为一个列表：

>>> the_string = "this is a sentence"
>>> words = the_string.split(" ")
>>> print(words)
['this', 'is', 'a', 'sentence']
>>> type(words)
<type 'list'> # or <class 'list'> in Python 3.0

Answer 7

如果您想要列表中单词/句子的所有字符，请执行以下操作：

print(list("word"))
#  ['w', 'o', 'r', 'd']


print(list("some sentence"))
#  ['s', 'o', 'm', 'e', ' ', 's', 'e', 'n', 't', 'e', 'n', 'c', 'e']

Answer 8

shlex 有一个 .split() 函数。 它与 str.split() 的不同之处在于它不保留引号并将带引号的短语视为单个单词：

>>> import shlex
>>> shlex.split("sudo echo 'foo && bar'")
['sudo', 'echo', 'foo && bar']

注意：它适用于类 Unix 命令行字符串。 它不适用于自然语言处理。

Answer 9

如果您想将字符串拆分为单词列表，并且字符串包含标点符号，则建议删除它们。 例如，str.split()以下字符串为

s = "Hi, these are words; these're, also, words."
words = s.split()
# ['Hi,', 'these', 'are', 'words;', "these're,", 'also,', 'words.']

其中Hi,,words;,also,等. 附有标点符号。 Python 有一个内置的 string 模块，该模块将标点符号字符串作为属性 (string.punctuation)。 摆脱标点符号的一种方法是简单地从每个单词中删除它们：

import string
words = [w.strip(string.punctuation) for w in s.split()]
# ['Hi', 'these', 'are', 'words', "these're", 'also', 'words']

另一种方法是制作要删除的字符串的综合字典

table = str.maketrans('', '', string.punctuation)
words = s.translate(table).split() 
# ['Hi', 'these', 'are', 'words', 'thesere', 'also', 'words']

它不处理像 these're 这样的单词，因此它会处理case nltk.word_tokenize 可以用作tgray 建议。 只是，过滤掉完全由标点符号组成的单词。

import nltk
words = [w for w in nltk.word_tokenize(s) if w not in string.punctuation]
# ['Hi', 'these', 'are', 'words', 'these', "'re", 'also', 'words']

Answer 10

拆分单词而不损害单词内的撇号
请求出input_1和input_2摩尔定律

def split_into_words(line):
    import re
    word_regex_improved = r"(\w[\w']*\w|\w)"
    word_matcher = re.compile(word_regex_improved)
    return word_matcher.findall(line)

#Example 1

input_1 = "computational power (see Moore's law) and "
split_into_words(input_1)

# output 
['computational', 'power', 'see', "Moore's", 'law', 'and']

#Example 2

input_2 = """Oh, you can't help that,' said the Cat: 'we're all mad here. I'm mad. You're mad."""

split_into_words(input_2)
#output
['Oh',
 'you',
 "can't",
 'help',
 'that',
 'said',
 'the',
 'Cat',
 "we're",
 'all',
 'mad',
 'here',
 "I'm",
 'mad',
 "You're",
 'mad']