go - 如何读取文件，如果它不是有效的 UTF-8，则中止错误？

Question

在 Go 中，我想逐行读取文件，读入str's 或[]rune's。

该文件应该以 UTF-8 编码，但我的程序不应该信任它。如果它包含无效的 UTF-8，我想正确处理错误。

有bytes.Runes(s []byte) []rune，但没有错误返回值。遇到无效的 UTF-8 会恐慌吗？

Answer 1

例如，

package main

import (
    "bufio"
    "fmt"
    "io/ioutil"
    "os"
    "strings"
    "unicode/utf8"
)

func main() {
    tFile := "text.txt"
    t := []byte{'\xFF', '\n'}
    ioutil.WriteFile(tFile, t, 0666)
    f, err := os.Open(tFile)
    if err != nil {
        fmt.Println(err)
        os.Exit(1)
    }
    defer f.Close()
    r := bufio.NewReader(f)
    s, err := r.ReadString('\n')
    if err != nil {
        fmt.Println(err)
        os.Exit(1)
    }
    s = strings.TrimRight(s, "\n")
    fmt.Println(t, s, []byte(s))
    if !utf8.ValidString(s) {
        fmt.Println("!utf8.ValidString")
    }
}

输出：

[255 10] � [255]
!utf8.ValidString

Answer 2

例如：

import (
    "io/ioutil"
    "log"
    "unicode/utf8"
)

// ...

buf, err := ioutil.ReadAll(fname)
if error != nil {
        log.Fatal(err)
}

size := 0
for start := 0; start < len(buf); start += size {
        var r rune
        if r, size = utf8.DecodeRune(buf[start:]); r == utf8.RuneError {
                log.Fatalf("invalid utf8 encoding at ofs %d", start)
        }
}

utf8.DecodeRune godocs：

DecodeRune 解压缩 p 中的第一个 UTF-8 编码并返回符文及其宽度（以字节为单位）。如果编码无效，则返回 (RuneError, 1)，这是正确 UTF-8 的不可能结果。