3

我最近继承了一个 python 项目，但我遇到了一些我正在努力解释的行为。

该代码有两个部分，可以将文件导入数据库，也可以将数据库转储到输出文件。导入看起来像这样：

def importStuff(self):
    mysqlimport_args = ['mysqlimport', '--host='+self.host, '--user='+self.username, '--password='+self.password, '--fields-terminated-by=|', '--lines-terminated-by=\n', '--replace', '--local', self.database, filename, '-v']
    output = check_output(mysqlimport_args)

转储看起来像这样：

def getStuff(self):
    db = MySQLdb.connect(self.host, self.username, self.password, self.database)
    cursor = db.cursor()
    sql = 'SELECT somestuff'
    cursor.execute(sql)
    records = cursor.fetchall()
    cursor.close()
    db.close()
    return records

def toCsv(self, records, csvfile):
    f = open(csvfile, 'wb')
    writer = csv.writer(f, quoting=csv.QUOTE_ALL)
    writer.writerow(['StuffId'])
    count = 1
    for record in records:
        writer.writerow([record[0]])

    f.close()

好吧，这不是你见过的最漂亮的蟒蛇（欢迎发表风格评论，因为我很想了解更多信息），但这似乎是合理的。

但是，我收到一位消费者的投诉，说我的输出不是 UTF-8（顺便说一下，mysql 表使用的是 utf8 编码）。如果程序像这样执行，这就是我迷路的地方：

importStuff(...)

getStuff(...)

toCsv(...)

然后输出文件似乎不是有效的 utf-8。当我将执行分为两个不同的步骤时

importStuff(...)

然后在另一个文件中

getStuff(...)

toCsv(...)

突然我的输出显示为有效的 utf-8。除了我有一个解决办法之外，我似乎无法解释这种行为。谁能阐明我在这里做错了什么？还是我可以提供更多信息来澄清发生了什么？

谢谢。

（python 2.7，以防万一）

编辑：根据要求提供更多代码。我做了一些小的调整来保护像我公司这样的无辜者，但它或多或少在这里：

def main():

    dbutil = DbUtil(config.DB_HOST, config.DB_DATABASE, config.DB_USERNAME, config.DB_PASSWORD)
    if(args.import):
        logger.info('Option: --import')

        try:
            dbutil.mysqlimport(AcConfig.DB_FUND_TABLE)
        except Exception, e:
            logger.warn("Error occured at mysqlimport. Error is %s" % (e.message))

    if(args.db2csv):
        try:
            logger.info('Option: --db2csv')
            records = dbutil.getStuff()
            fileutil.toCsv(records, csvfile)
        except Exception, e:
            logger.warn("Error Occured at db2csv. Message:%s" %(e.message))

main()

就是这样。它真的很短，这使得这一点变得不那么明显。

我不确定如何忠实地表示输出，它看起来像这样：

"F0NR006F8F"

在我看来，它们都或多或少像 ASCII 字符，所以我不确定它们会造成什么问题。也许我从错误的角度接近这个问题，我目前依靠我的文本编辑器对文件编码的最佳猜测。我不确定如何最好地检测哪个字符导致它停止读取我的文件作为 utf-8。

4

1 回答 1

0

有史以来最愚蠢的答案。输入数据不是 UTF-8 格式。有人通过编写另一个存储过程来解决这个问题，该存储过程会定期调用以将非 utf-8 字符转换为 utf-8。在我把我的代码分成两个文件并分别运行它们的时间里，工作运行了。它只是碰巧以这种方式运行，我尝试了 4-5 次，导致我得出错误的结论。我现在正在更改读取过程以适应非 utf-8 输入源，因此我没有隐藏在系统中的奇怪竞争条件。很抱歉带领大家参加这场鹅追逐。

于 2012-11-12T22:23:03.183 回答