8

我正在尝试了解如何在 Python 3.4 中使用新的 AsyncIO 功能，并且正在努力解决如何使用event_loop.add_reader()。从我发现的有限讨论中，它看起来像是从单独的进程中读取标准，而不是打开文件的内容。真的吗？如果是这样，似乎没有 AsyncIO 特定的方式来集成标准文件 IO，这也是真的吗？

我一直在玩下面的代码。以下输出给出了PermissionError: [Errno 1] Operation not permitted/python3.4/selectors.py 的第 399 行的异常，该异常由下面的行self._epoll.register(key.fd, epoll_events)触发add_reader()

import asyncio
import urllib.parse
import sys
import pdb
import os

def fileCallback(*args):
    pdb.set_trace()

path = sys.argv[1]
loop = asyncio.get_event_loop()
#fd = os.open(path, os.O_RDONLY)
fd = open(path, 'r')
#data = fd.read()
#print(data)
#fd.close()
pdb.set_trace()
task = loop.add_reader(fd, fileCallback, fd)
loop.run_until_complete(task)
loop.close()

编辑

对于那些正在寻找如何使用 AsyncIO 一次读取多个文件的示例的人，我很好奇，这里有一个如何实现的示例。秘密就在这条线上yield from asyncio.sleep(0)。这实质上会暂停当前函数，将其放回事件循环队列中，以便在所有其他就绪函数执行后调用。函数根据它们的调度方式确定为准备就绪。

import asyncio

@asyncio.coroutine
def read_section(file, length):
    yield from asyncio.sleep(0)
    return file.read(length)

@asyncio.coroutine
def read_file(path):
    fd = open(path, 'r')
    retVal = []
    cnt = 0
    while True:
        cnt = cnt + 1
        data = yield from read_section(fd, 102400)
        print(path + ': ' + str(cnt) + ' - ' + str(len(data)))
        if len(data) == 0:
            break;
    fd.close()

paths = ["loadme.txt", "loadme also.txt"]
loop = asyncio.get_event_loop()
tasks = []
for path in paths:
    tasks.append(asyncio.async(read_file(path)))
loop.run_until_complete(asyncio.wait(tasks))
loop.close()
4

2 回答 2

10

这些函数需要一个文件描述符，即操作系统使用的底层整数，而不是 Python 的文件对象。基于文件描述符的文件对象在方法上返回该描述符fileno()，例如：

>>> sys.stderr.fileno()
2

在 Unix 中，文件描述符可以附加到文件或许多其他东西上，包括其他进程。

编辑 OP 的编辑：

正如评论中的 Max 所说，您不能epoll在本地文件上使用（和 asyncio 使用epoll）。是的，这有点奇怪。但是，您可以在管道上使用它，例如：

import asyncio
import urllib.parse
import sys
import pdb
import os

def fileCallback(*args):
    print("Received: " + sys.stdin.readline())

loop = asyncio.get_event_loop()
task = loop.add_reader(sys.stdin.fileno(), fileCallback)
loop.run_forever()

这将回显您在标准输入上编写的内容。

于 2014-08-17T17:59:41.050 回答
0

您不能在本地文件上使用 add_reader，因为：

  • 无法使用 select/poll/epoll 完成
  • 这取决于操作系统
  • 由于操作系统限制，它不能完全异步（linux 不支持异步 fs 元数据读/写）

但是，从技术上讲，是的，您应该能够进行异步文件系统读/写，（几乎）所有系统都具有用于“在后台”进行 i/o 的 DMA 机制。不，本地 i/o 并不是真的很快，以至于没有人想要它，CPU 的速度是磁盘 i/o 的数百万倍。

如果您想尝试异步 i/o，请查找 aiofile 或 aiofiles

于 2019-02-26T00:02:05.437 回答