1

背景故事

我有许多数据文件,每个文件都包含一个数据记录列表(每行一个)。与 CSV 类似,但完全不同,我更愿意编写自己的解析器,而不是使用 CSV 库。出于这个问题的目的,我将使用一个每行仅包含一个数字的简化数据文件:

1
2
3
error
4

如您所见,文件可能包含格式错误的数据,在这种情况下,应将整个文件视为格式错误。

我想做的那种数据处理可以用地图和折叠来表达。所以,我认为这将是一个学习如何使用pipes图书馆的好机会。

{-# LANGUAGE NoMonomorphismRestriction #-}
{-# LANGUAGE TypeFamilies #-}
{-# LANGUAGE FlexibleContexts #-}

import           Control.Monad.Except
import           Pipes ((>->))
import qualified Pipes as P
import qualified Pipes.Prelude as P
import qualified Pipes.Safe as P
import qualified System.IO as IO

首先,我在文本文件中创建行的生产者。这与文档中的示例非常相似Pipes.Safe

getLines = do
    P.bracket (IO.openFile "data.txt" IO.ReadMode) IO.hClose P.fromHandle

接下来,我需要一个函数来解析每一行。正如我之前提到的,这可能会失败,我将用Either.

type ErrMsg = String

parseNumber :: String -> Either ErrMsg Integer
parseNumber s = case reads s of
                  [(n, "")] -> Right n
                  _         -> Left $ "Parse Error: \"" ++ s ++ "\""

为简单起见,作为第一步,我想将所有数据记录收集到记录列表中。最直接的方法是将所有行通过解析器传递,然后将整个内容收集到一个列表中。

readNumbers1 :: IO [Either ErrMsg Integer]
readNumbers1 = P.runSafeT $ P.toListM $
    getLines >-> P.map parseNumber

不幸的是,这会创建一个记录列表。但是,如果文件包含一条错误记录,则应将整个文件视为错误。我真正想要的是记录列表中的一个。当然,我可以只sequence用来转置要么列表。

readNumbers2 :: IO (Either ErrMsg [Integer])
readNumbers2 = sequence <$> readNumbers1

但是,即使第一行已经格式错误,它也会读取整个文件。这些文件可能很大,而且我有很多,所以,如果在第一个错误时停止读取会更好。

问题

我的问题是如何实现这一目标。如何中止解析第一个格式错误的记录?

到目前为止我得到了什么

我的第一个想法是使用 and 的 monad 实例Either ErrMsgP.mapM不是P.map. 由于我们正在从我们已经拥有的文件中读取,IO并且SafeT在我们的 monad 堆栈中,所以,我想我需要ExceptT在那个 monad 堆栈中进行错误处理。这就是我卡住的地方。我尝试了许多不同的组合,但总是被类型检查员大喊大叫。以下是我能得到的最接近它的编译器。

readNumbers3 = P.runSafeT $ runExceptT $ P.toListM $
    getLines >-> P.mapM (ExceptT . return . parseNumber)

推断的readNumbers3读取类型

*Main> :t readNumbers3
readNumbers3
  :: (MonadIO m, P.MonadSafe (ExceptT ErrMsg (P.SafeT m)),
      P.MonadMask m, P.Base (ExceptT ErrMsg (P.SafeT m)) ~ IO) =>
     m (Either ErrMsg [Integer])

这看起来接近我想要的:

readNumbers3 :: IO (Either ErrMsg [Integer])

但是,一旦我尝试实际执行该操作,我就会在 ghci 中收到以下错误消息:

*Main> readNumbers3

<interactive>:7:1:
    Couldn't match expected type ‘IO’
                with actual type ‘P.Base (ExceptT ErrMsg (P.SafeT m0))’
    The type variable ‘m0’ is ambiguous
    In the first argument of ‘print’, namely ‘it’
    In a stmt of an interactive GHCi command: print it

如果我尝试应用以下类型签名:

readNumbers3 :: IO (Either ErrMsg [Integer])

然后我收到以下错误消息:

error.hs:108:5:
    Couldn't match expected type ‘IO’
                with actual type ‘P.Base (ExceptT ErrMsg (P.SafeT IO))’
    In the first argument of ‘(>->)’, namely ‘getLines’
    In the second argument of ‘($)’, namely
      ‘getLines >-> P.mapM (ExceptT . return . parseNumber)’
    In the second argument of ‘($)’, namely
      ‘P.toListM $ getLines >-> P.mapM (ExceptT . return . parseNumber)’
Failed, modules loaded: none.

在旁边

将错误处理移动到管道的基本 monad 的另一个动机是,如果我不必在我的地图和折叠中处理任何一个问题,它将使进一步的数据处理变得更加容易。

4

1 回答 1

1

这是解决问题的增量方法。

按照 Tekmo 在这个 SO 答案中的建议, 我们的目标是在以下单子中运行:

ExceptT String (Pipe a b m) r

我们从导入和定义开始parseNumber

import           Control.Monad.Except
import           Pipes ((>->))
import qualified Pipes as P
import qualified Pipes.Prelude as P

parseNumber :: String -> Either String Integer
parseNumber s = case reads s of
                  [(n, "")] -> Right n
                  _         -> Left $ "Parse Error: \"" ++ s ++ "\""

这是我们将用作输入的 IO-monad 中的普通字符串生产者:

p1 :: P.Producer String IO ()
p1 = P.stdinLn >-> P.takeWhile (/= "quit")

要将它提升到 exceptT monad,我们只需使用lift

p2 :: ExceptT String (P.Producer String IO) ()
p2 = lift p1

这是一个管道段,它在 exceptT monad 中将字符串转换为整数:

p4 :: ExceptT String (P.Pipe String Integer IO) a
p4 = forever $ 
       do s <- lift P.await
          case parseNumber s of
            Left e  -> throwError e
            Right n -> lift $ P.yield n

可能可以更组合地编写,但为了清楚起见,我已经把它说得很清楚了。

接下来我们将 p2 和 p4 连接在一起。结果也在 exceptT 单子中。

-- join together p2 and p4
p7 :: ExceptT String (P.Producer Integer IO) ()
p7 = ExceptT $ runExceptT p2 >-> runExceptT p4

Tekmo 的 SO 回答建议为此创建一个新的运营商。

最后,我们可以使用toListM'来运行这个管道。(我已经包含了toListM'这里的定义,因为它没有出现在我安装的 Pipes.Prelude 版本中)

p8 :: IO ([Integer], Either String ())
p8 = toListM' $ runExceptT p7

toListM' :: Monad m => P.Producer a m r -> m ([a], r)
toListM' = P.fold' step begin done
  where
    step x a = x . (a:)
    begin = id
    done x = x []

p8 工作原理的示例:

ghci> p8
4
5
6
quit
([4,5,6],Right ())

ghci> p8
5
asd
([5],Left "Parse Error: \"asd\"")

更新

您可以通过这样的概括来简化代码parseNumber

parseNumber' :: (MonadError [Char] m) => String -> m Integer
parseNumber' s = case reads s of
                   [(n, "")] -> return n
                   _         -> throwError $ "Parse Error: \"" ++ s ++ "\""

那么p4可以写成:

p4' :: ExceptT String (P.Pipe String Integer IO) a
p4' = forever $ lift P.await >>= parseNumber' >>= lift . P.yield
于 2016-05-05T15:35:26.737 回答