Windows版HaskellでUTF8のファイル読み書き
Haskell Platform 7.10.2-aをインストールした際に、日本語(utf8)の扱いがわからなくなってしまって、ずっとほっといたのだが、ふと思い出して調べてみた。
紆余曲折したが、ポイントとしては下記の2点。
- Handleにutf8を指定
ファイルの読み書きなどのデフォルトのエンコーディングがcp932になっているため、utf8のファイルを読み込む場合は、Handleのエンコーディングをutf8に変更する
- ByteStringを扱う場合は、utf8-stringモジュールを使う
ただし、Stringで読みこんだ文字列をByteStringに変換して使う。標準でインストールされるByteStringモジュールに存在するreadFileなどの関数がないため。
サンプルとして、第一引数で指定したファイルをutf8の文字コードで読み込み、内容を標準出力するプログラムを記載する。
import System.Environment import System.IO main = do filename <- head <$> getArgs withFile filename ReadMode f where f h = hSetEncoding h utf8 >> hGetContents h >>= putStrLn
また、Powershellから標準出力をrunghcに渡す場合、下記のコマンドを実行する。
$OutputEncoding = [Text.Encoding]::Default
コマンドに渡す際のエンコーディングがasciiになっているため、cp932に変更する。
毎回ハンドルのエンコーディングを変更するのは面倒だという場合は、
GHC.IO.EncodingのsetLocaleEncoding関数で、デフォルト値を変更することができる。ただし、標準出力などのエンコーディングも変更されるので、注意する。
23
23. セクション構造
記事中に含まれるセクション名とそのレベル(例えば"== セクション名 =="なら1)を表示せよ
23.hs
{-# LANGUAGE OverloadedStrings, DeriveGeneric #-} import Data.Aeson as A import Control.Applicative import System.IO.UTF8 as I8 import System.Environment import Data.Maybe import Data.ByteString.Lazy.UTF8 as B import GHC.Generics import Text.Regex.Posix import Prelude as P data Article = Article { text :: String, title :: String } deriving (Eq, Show, Generic) instance FromJSON Article main = do filename <- head <$> getArgs body <- fromString <$> I8.readFile filename I8.writeFile "23.txt" $ unlines $ map f $ filter isHeadline $ concatMap P.lines $ map (text . fromJust . A.decode) $ B.lines $ body where f x = headline x ++ "," ++ depth x isHeadline = ((=~ ("^={2,6}.*={2,6}" :: String)) :: String -> Bool) headline = filter (\x -> (x /= ' ') && (x /= '=')) depth = show . P.length . ((=~ ("=+" :: String)) :: String -> String)
22
22. カテゴリ名の抽出
記事のカテゴリ名を(行単位ではなく名前で)抽出せよ.
22.hs
{-# LANGUAGE OverloadedStrings, DeriveGeneric #-} import Data.Aeson as A import Control.Applicative import System.IO.UTF8 as I8 import System.Environment import Data.Maybe import Data.ByteString.Lazy.UTF8 as B import GHC.Generics import Text.Regex.Posix import Prelude as P data Article = Article { text :: String, title :: String } deriving (Eq, Show, Generic) instance FromJSON Article main = do filename <- head <$> getArgs body <- fromString <$> I8.readFile filename I8.writeFile "22.txt" $ unlines $ map f2 $ filter f $ concatMap P.lines $ map (text . fromJust . A.decode) $ B.lines $ body where f = ((=~ ("^[[][[]:?(カテゴリ|Category):" :: String)) :: String -> Bool) f2 = tail . ((=~ (":[^]|]*" :: String)) :: String -> String)
21
21. カテゴリ名を含む行を抽出
記事中でカテゴリ名を宣言している行を抽出せよ.
21.hs
{-# LANGUAGE OverloadedStrings, DeriveGeneric #-} import Data.Aeson as A import Control.Applicative import System.IO.UTF8 as I8 import System.Environment import Data.Maybe import Data.ByteString.Lazy.UTF8 as B import GHC.Generics import Text.Regex.Posix import Prelude as P data Article = Article { text :: String, title :: String } deriving (Eq, Show, Generic) instance FromJSON Article main = do filename <- head <$> getArgs body <- fromString <$> I8.readFile filename I8.writeFile "21.txt" $ unlines $ filter (\x -> x =~ ("^[[][[]:?(カテゴリ|Category)" :: String) :: Bool) $ concatMap P.lines $ map (text . fromJust . A.decode) $ B.lines $ body
ヘルプ:Wiki マークアップ早見表 - WordPress Codex 日本語版
wikipediaの記法では、日本語の「カテゴリ」を許可しているのかわからなかったが、いくつかあるみたいだったので、抽出した。
20
Wikipedia記事のJSONファイルを読み込み,「イギリス」に関する記事本文を表示せよ.問題21-29では,ここで抽出した記事本文に対して実行せよ.
20.hs
{-# LANGUAGE OverloadedStrings, DeriveGeneric #-} import Data.Aeson as A import Control.Applicative import System.IO.UTF8 as I8 import System.Environment import Data.Maybe import Data.ByteString.Lazy.UTF8 import GHC.Generics data Article = Article { text :: String, title :: String } deriving (Eq, Show, Generic) instance FromJSON Article main = do filename <- head <$> getArgs body <- fromString <$> I8.readFile filename I8.writeFile "out2.txt" $ text $ fromJust $ A.decode body
JSONの読み込み方法
言語処理100本ノックの第3章に入るにあたり、JSON形式の読み取り方法について調べた。
標準のライブラリにはないため、別途パッケージが必要で、Googleで検索した限りでは、下記の2つの名前が上がった。
aeson: Fast JSON parsing and encoding | Hackage
json: Support for serialising Haskell to and from JSON | Hackage
この他にもHackageのJSONカテゴリにはいくつもあるが、とりあえず読み込めればよいため、この2つを試した。
要求としては、日本語(UTF8)が処理できて、宣言したdataに取り込めることの2点があるため、
下記の構造を持つJSONデータを読み込み、titleを出力するサンプルを作成することにした。
{ "title" : "...", "text" : "..." }
Aeson
まずは、Aesonでのサンプル。Aesonのバージョンは0.9.0.1。
下記のプログを参考に作成した。
Parsing JSON with Aeson - School of Haskell | FP Complete
{-# LANGUAGE OverloadedStrings, DeriveGeneric #-} import Data.Aeson as A import Control.Applicative import System.IO.UTF8 as I8 import System.Environment import Data.Maybe import Data.ByteString.Lazy.UTF8 import GHC.Generics data Article = Article { text :: String, title :: String } deriving (Eq, Show, Generic) instance FromJSON Article main = do filename <- head <$> getArgs body <- fromString <$> I8.readFile filename I8.writeFile "out2.txt" $ title $ fromJust $ A.decode body
json
次に、jsonのサンプルプログラム。バージョンは0.9.1
下記のブロクを参考に作成
Haskell で XML と JSON をパースする方法 - satosystemsの日記
{-# LANGUAGE DeriveDataTypeable #-} import Text.JSON import Text.JSON.Generic import Control.Applicative import System.IO.UTF8 as I8 import System.Environment data Article = Article { text :: String, title :: String } deriving (Eq, Show, Data, Typeable) main = do filename <- head <$> getArgs body <- I8.readFile filename I8.writeFile "out.txt" $ text $ decodeJSON body
まとめ
若干心配していた日本語の扱いもどちらも問題なく、この程度の利用では、利便性はあまり変わらなかった。
ひとまず、Aesonを使用していこうと思う。
調べた限りでは、Aesonのほうが検索のヒットが多く、
また、jsonよりもAesonを薦めている記事があったので。