1

我正在使用 Azure 的Web 语言模型 API。我正在使用 API 的“标准”(非免费)版本。我面临两个问题:

(1) 服务请求的速度是 1000 次调用/分钟,远低于这里提到的每秒 1000 次服务。

(2) 连接频繁中断,在 10-15k 次通话后,我收到“连接超时”或“对等连接重置”错误。

这是我收到的错误:

/usr/lib/python3.5/ssl.py in read(self, len, buffer)
    573         """
    574         if buffer is not None:
--> 575             v = self._sslobj.read(len, buffer)
    576         else:
    577             v = self._sslobj.read(len)

TimeoutError: [Errno 110] Connection timed out

===

在最初的连接请求之后,我所有的帖子请求都发送到同一个连接。

这是我尝试进行查询的代码片段:

self.params = urllib.parse.urlencode(dict({
    # Request parameters
    'model': 'body',
    'order': 3,
}))

self.conn = http.client.HTTPSConnection('westus.api.cognitive.microsoft.com')

jsonq = {"queries": [{"words": words, "word": word}]}
self.conn.request("POST", "/text/weblm/v1.0/calculateConditionalProbability?%s"  %self.params, str(jsonq), self.headers)
output = json.loads(self.conn.getresponse().read().decode())
4

0 回答 0