如何使用正则表达式删除 python 字符串中的十六进制值？

Question

我在matlab中有一个元胞数组

columns = {'MagX', 'MagY', 'MagZ', ...
           'AccelerationX',  'AccelerationX',  'AccelerationX', ...
           'AngularRateX', 'AngularRateX', 'AngularRateX', ...
           'Temperature'}

，我使用这些脚本，它们利用matlab的hdf5write函数来保存hdf5 格式的数组。

然后我使用 pytables 将 hdf5 文件读入 python 中。元胞数组作为字符串的 numpy 数组出现。我转换为列表，这是输出：

>>>columns
['MagX\x00\x00\x00\x08\x01\x008\xe6\x7f',
 'MagY\x00\x7f\x00\x00\x00\xee\x0b9\xe6\x7f',
 'MagZ\x00\x00\x00\x00\x001',
 'AccelerationX',
 'AccelerationY',
 'AccelerationZ',
 'AngularRateX',
 'AngularRateY',
 'AngularRateZ',
 'Temperature']

这些十六进制值从某处弹出到字符串中，我想删除它们。它们并不总是出现在列表的前三项中，我需要一种很好的方法来处理它们，或者首先找出它们出现的原因。

>>>print columns[0]
Mag8�
>>>columns[0]
'MagX\x00\x00\x00\x08\x01\x008\xe6\x7f'
>>>repr(columns[0])
"'MagX\\x00\\x00\\x00\\x08\\x01\\x008\\xe6\\x7f'"
>>>print repr(columns[0])
'MagX\x00\x00\x00\x08\x01\x008\xe6\x7f'

我尝试使用正则表达式来删除十六进制值，但运气不佳。

>>>re.sub('(\w*)\\\\x.*', '\1', columns[0])
'MagX\x00\x00\x00\x08\x01\x008\xe6\x7f'
>>>re.sub('(\w*)\\\\x.*', r'\1', columns[0])
'MagX\x00\x00\x00\x08\x01\x008\xe6\x7f'
>>>re.sub(r'(\w*)\\x.*', '\1', columns[0])
'MagX\x00\x00\x00\x08\x01\x008\xe6\x7f'
>>>re.sub('([A-Za-z]*)\x00', r'\1', columns[0])
'MagX\x08\x018\xe6\x7f'
>>>re.sub('(\w*?)', '\1', columns[0])
'\x01M\x01a\x01g\x01X\x01\x00\x01\x00\x01\x00\x01\x08\x01\x01\x01\x00\x018\x01\xe6\x01\x7f\x01'

关于如何处理这个问题有什么建议吗？

Answer 1

您可以通过以下方式删除所有非单词字符：

>>> re.sub(r'[^\w]', '', 'MagX\x00\x00\x00\x08\x01\x008\xe6\x7f')
'MagX8'

正则表达式 [^\w] 将匹配除字母、数字或下划线之外的任何字符。通过在 re.sub 中提供该正则表达式并使用空字符串作为替换，您将删除该字符串中的所有其他字符。

由于您可能还想保留其他字符，因此更好的解决方案可能是指定要保留的更大范围的字符（不包括控制字符）。例如：

>>> re.sub(r'[^\x20-\x7e]', '', 'MagX\x00\x00\x00\x08\x01\x008\xe6\x7f')
'MagX8'

或者您可以将 [^\x20-\x7e] 替换为等效的 [^ -~]，具体取决于您认为哪个更清楚。

要排除第一个控制字符之后的所有字符，只需添加 .*，如下所示：

>>> re.sub(r'[^ -~].*', '', 'MagX\x00\x00\x00\x08\x01\x008\xe6\x7f')
'MagX'

Answer 2

它们实际上并不在字符串中：您有未转义的控制字符，Python 使用十六进制表示法显示这些字符 - 这就是为什么您在打印值时会看到不寻常的符号。

您应该能够简单地删除正则表达式中的额外引用级别，但您也可能只是依赖于 regexp 模块的通用空白类之类的东西，它将匹配除制表符和空格之外的空白字符：

>>> import re
>>> re.sub(r'\s', '?', "foo\x00bar")
'foo\x00bar'
>>> print re.sub(r'\s', '?', "foo\x00bar")
foobar

我使用这个有点将所有输入空白字符（包括不间断空格字符）替换为单个空格：

>>> re.sub(r'[\xa0\s]+', ' ', input_str)

Answer 3

您也可以在不导入 re 的情况下执行此操作。例如，如果您满足于仅保留 ascii 字符：

good_string = ''.join(c if ord(c) < 129 else '?' for c in bad_string)