3

我正在尝试使用 pyppeteer 使用无头 chrome 发出请求。但是在收到一定数量的请求后,我不断收到“OSError:[Errno 24] 打开的文件太多”。我用 losf 检查了 python 进程的开放资源,发现每个新请求都有一个新行,如下所示

python3 14840 root   11r  FIFO        0,8      0t0 64208510 pipe

谁能告诉我哪些资源没有被关闭?产生此错误的代码如下

def search(self, search_path):
    async def main(url):
        browser = await launch(args=['--no-sandbox'], handleSIGINT=False, handleSIGTERM=False, handleSIGHUP=False)
        page = await browser.newPage()
        await page.setJavaScriptEnabled(False)
        try:
            response = await page.goto(url, options={"timeout": 50000})
        except pyppeteer.errors.TimeoutError:
            pass

        src = await page.content()
        await browser.close()
        return src

    loop = asyncio.new_event_loop()
    asyncio.set_event_loop(loop)
    url = "https://www.example.com" + search_path
    val = asyncio.get_event_loop().run_until_complete(main(url))
    loop.close()

编辑

我设法通过调用关闭了打开的管道

browser.process.communicate() 
4

0 回答 0