PHP 中将数组的值与字符串相匹配

Question

我正在做一个小项目，我需要一些帮助。我有一个包含 150,000 行的 CSV 文件（每行有 10 列数据）。我使用 fscvread 来读取文件，在循环期间我想将每行的一列（称为 stringx）与 10,000 个单词的数组进行匹配。如果 stringx 中存在 10,000 个单词中的任何一个，则使用 preg_replace 将其删除。

现在这一切都很好。我一切正常，但问题是，它太慢了。

我尝试了两种方法来匹配数组。 1）我使用explode(" ", $stringx)将stringx转换为数组，然后使用array_diff($array_stringx, $array_10000); 2) 在 $array_10000 上使用 foreach 并在 $stringx 上使用 preg_replace

方法 1 需要大约 60 秒来遍历 200 行数据，方法 2 可以在 60 秒内循环 500 行。

有更好的方法吗？

再次，我正在寻找一种有效的方法（基本上） array_diff 一次将 10,000 个单词的数组与 150,000 个字符串进行比较。

非常感谢您的帮助。

Answer 1

以下只是一个替代方案。它可能会也可能不会满足您的要求。

在我的笔记本电脑上，它每秒执行 84 次操作，包含 10k 单词字典和 15k 字符串。

缺点是它不会删除单词周围的空格。

$wordlist 只是每行一个单词，可以是一个文件。

$dict = array_flip(preg_split('/\n/',$wordlist));

function filter($str,$dict) {
  $words = preg_split('/\s/',$str);
  sort($words);
  $words = array_unique($words);

  foreach ($words as $word) {
    if (key_exists($word,$dict)) {
        $removeWords[] = '/\b' . $word . '\b/';
    }
  }
  return preg_replace($removeWords, '', $str);
}

另一个执行速度更快的示例（107ops/s，15kb 字符串和 10k 单词字典）

function filter2($str,$dict) {
  $words = preg_split('/\b/',$str);
  foreach ($words as $k => $word) {
    if (key_exists($word,$dict)) {
        unset($words[$k]);
    }
  }
  return implode('', $words);
}

Answer 2

不爆炸 stringx，并对每个单词执行 stripos() 怎么样？在 $array_10000 中？

像这样：

foreach ($array_10000 as $word)
{
    if (stripos($stringx, $word) !== false)
    {
        // do your stuff
    }
}

Answer 3

你的 10000 字数组排序了吗？如果没有，请先尝试排序。

编辑：好的，因为它已经排序了，我猜也许 PHP 的 array_search 不执行二进制搜索，所以我会寻找二进制搜索实现并使用它。如果确实只是线性搜索，那么您将获得一个数量级的速度提升。

Answer 4

PHP 不是追求速度的语言，但我想您知道这一点。我必须在我正在编写的项目中执行类似的操作，并且我正在使用 PHP 编写一个文件，然后使用独立的 Matlab 来读取该文件，对其进行处理并将其输出到另一个文件。

您可以执行相同的操作，并用 C 编写一个小程序，其功能与 array_diff() 相同。我认为会有很大的差异，尽管我没有做过任何测试。

Answer 5

我还没有测试过这一点，但我突然想到：

您可以尝试使用正则表达式预先解析文件以获得要过滤的 150,000 个单词（基于列分隔符），然后您可以进行文本替换，选择基于我在谷歌上搜索的这篇文章的最佳功能。

我希望它有帮助！干杯!

Answer 6

您可以只执行 foreach 和 implode。

$words = array("one","two", "three");
$number = 0;
foreach ($words as $false_array)
{
$number += 1;
$array[$number] = $false_array;
echo "Added ". $false_array . ". ";
}
foreach ($words as $false_array)
{
echo "Array Contains " . $false_array . ". ";
}

如果你在 php 中执行这个，你会得到：

Added one. Added two. Added three. Array Contains one. Array Contains two. Array Contains three.