Haskell 用低内存解析大 xml 文件

Question

因此，我尝试过几个 Haskell XML 库，包括 hexpat 和 xml-enumerator。在阅读了 Real World Haskell (http://book.realworldhaskell.org/read/io.html) 中的 IO 章节后，我的印象是，如果我运行以下代码，它会在我执行它时被垃圾收集。

但是，当我在大文件上运行它时，内存使用量会随着运行而不断攀升。

runghc parse.hs bigfile.xml

我做错了什么？我的假设是错误的吗？地图/过滤器是否强制它评估所有内容？

import qualified Data.ByteString.Lazy as BSL
import qualified Data.ByteString.Lazy.UTF8 as U
import Prelude hiding (readFile)
import Text.XML.Expat.SAX 
import System.Environment (getArgs)

main :: IO ()
main = do
    args <- getArgs
    contents <- BSL.readFile (head args)
    -- putStrLn $ U.toString contents
    let events = parse defaultParseOptions contents 
    mapM_ print $ map getTMSId $ filter isEvent events

isEvent :: SAXEvent String String -> Bool 
isEvent (StartElement "event" as) = True
isEvent _ = False

getTMSId :: SAXEvent String String -> Maybe String
getTMSId (StartElement _ as) = lookup "TMSId" as

我的最终目标是使用简单的类似 sax 的界面来解析一个巨大的 xml 文件。我不想必须了解整个结构才能收到我发现“事件”的通知。

Answer 1

我是 hexpat 的维护者。这是一个错误，我现在已在 hexpat-0.19.8 中修复了该错误。感谢您引起我的注意。

该错误是 ghc-7.2.1 上的新错误，它与绑定到三元组的 where 子句和 unsafePerformIO 之间的交互有关，我没有预料到它与 unsafePerformIO 之间的交互有关，我需要使与 C 代码的交互在哈斯克尔。

Answer 2

这似乎是 hexpat 的问题。运行编译后的优化，并且仅针对简单的任务（例如length），会导致线性内存使用。

看看 hexpat，我认为存在过多的缓存（请参阅 parseG 函数）。我建议联系 hexpat 维护者并询问这是否是预期的行为。无论哪种方式，它都应该在黑线鳕中提到，但资源消耗似乎在库文档中经常被忽略。