我正在尝试使用 boost::beast 创建一个 HTTP 服务器,但我注意到响应时间延迟了一秒。我使用了高级服务器示例和同步客户端示例来对这种行为进行基准测试。
还尝试禁用 Nagle 的算法,但没有效果,似乎不是优化问题。
每隔几秒钟手动发出一个请求,因此服务器端的高负载是不合理的。
它似乎与 boost::asio 套接字有关,因为我前段时间还创建了一个 HTTP 服务器(我认为使用 boost::asio - Boost v1.64,当 Beast 不在时)并且我体验到同样高的响应时间- 这就是我改用野兽的原因。
我的问题:
这是 boost::asio 套接字的已知行为吗?
这种延迟可以解决吗?
为什么在套接字上设置 no_delay 可能不起作用?
基准测试结果:
示例服务器的平均响应时间在 1005 毫秒到 1020 毫秒之间,如下面的屏幕截图所示。相比之下,同一客户端在 120 毫秒内收到来自 google.com 的响应。
这是对我的本地服务器的请求与对 www.google.com 的请求之间的比较
因此,问题又来了:这 900 毫秒的延迟是从哪里来的?这不是任何 HTTP 服务器可接受的响应时间。
并且还尝试了快速示例服务器和同步服务器示例,结果相同:响应时间超过 1000 毫秒。
基准设置
测试系统:
- Windows 10 专业版 x64
- 处理器 Intel i7-7700,16GB RAM
- 提升 1.66
- 视觉工作室 2015
在 x86 和 x64 中使用 Debug 和 Release 版本进行测试。正如预期的那样,唯一的区别是 Debug 构建的额外延迟为 20-30 毫秒。
服务器设置
- 我从 Beast 文档中获取了高级服务器示例
- 在 Visual Studio 2015 中创建了一个新的空控制台项目
- 将示例代码添加到新的 cpp 源文件
- 在项目的属性 > VC++ 目录 > 包含目录中设置 boost "...boost\include" 包含文件夹
- 在项目的属性 > VC++ 目录 > 库目录中设置 boost 库文件夹
- 在 C/C++ > 预处理器中添加了“_WIN32_WINNT=0x0601”
- 在“调试”>“命令参数”中,我添加了“0.0.0.0 8080 . 3”,这意味着“将服务器绑定到端口为 8080 的所有本地地址,使用 .(当前目录)作为根文件夹并在 3 个线程上运行服务器”。
客户端设置
- 我使用了 Beast 文档中的同步客户端
- 创建了一个类似的 Visual Studio 项目
为了测量请求时间,我在客户端代码中添加了计时器,并注释掉了对 cout 的响应输出:
auto start = std::chrono::steady_clock::now();
/* client code */
// printing the response to cout can slow the client
//std::cout << res << std::endl;
auto finish = std::chrono::steady_clock::now();
auto ms = std::chrono::duration_cast<std::chrono::milliseconds>(finish - start);
std::cout << "request time: " << ms.count() << "\n";
这是禁用 TCP 延迟的客户端代码:
boost::asio::connect(socket, results.begin(), results.end());
socket.set_option(tcp::no_delay(true));
这是服务器示例代码的唯一修改。以及禁用 TCP 延迟的服务器代码:
void
on_accept(boost::system::error_code ec)
{
if(ec)
{
fail(ec, "accept");
}
else
{
// disable TCP delay
socket_.set_option(tcp::no_delay(true));
// Create the http_session and run it
std::make_shared<http_session>(
std::move(socket_),
doc_root_)->run();
}
// Accept another connection
do_accept();
}
这是修改后的客户端:
//
// Copyright (c) 2016-2017 Vinnie Falco (vinnie dot falco at gmail dot com)
//
// Distributed under the Boost Software License, Version 1.0. (See accompanying
// file LICENSE_1_0.txt or copy at http://www.boost.org/LICENSE_1_0.txt)
//
// Official repository: https://github.com/boostorg/beast
//
//------------------------------------------------------------------------------
//
// Example: HTTP client, synchronous
//
//------------------------------------------------------------------------------
//[example_http_client
#include <boost/beast/core.hpp>
#include <boost/beast/http.hpp>
#include <boost/beast/version.hpp>
#include <boost/asio/connect.hpp>
#include <boost/asio/ip/tcp.hpp>
#include <cstdlib>
#include <iostream>
#include <string>
#include <chrono>
using tcp = boost::asio::ip::tcp; // from <boost/asio/ip/tcp.hpp>
namespace http = boost::beast::http; // from <boost/beast/http.hpp>
// Performs an HTTP GET and prints the response
int main(int argc, char** argv)
{
try
{
// Check command line arguments.
if(argc != 4 && argc != 5)
{
std::cerr <<
"Usage: http-client-sync <host> <port> <target> [<HTTP version: 1.0 or 1.1(default)>]\n" <<
"Example:\n" <<
" http-client-sync www.example.com 80 /\n" <<
" http-client-sync www.example.com 80 / 1.0\n";
return EXIT_FAILURE;
}
auto const host = argv[1];
auto const port = argv[2];
auto const target = argv[3];
int version = argc == 5 && !std::strcmp("1.0", argv[4]) ? 10 : 11;
auto start = std::chrono::steady_clock::now();
// The io_context is required for all I/O
boost::asio::io_context ioc;
// These objects perform our I/O
tcp::resolver resolver{ioc};
tcp::socket socket{ioc};
// Look up the domain name
auto const results = resolver.resolve(host, port);
// Make the connection on the IP address we get from a lookup
boost::asio::connect(socket, results.begin(), results.end());
//socket.set_option(tcp::no_delay(true));
// Set up an HTTP GET request message
http::request<http::string_body> req{http::verb::get, target, version};
req.set(http::field::host, host);
req.set(http::field::user_agent, BOOST_BEAST_VERSION_STRING);
// Send the HTTP request to the remote host
http::write(socket, req);
// This buffer is used for reading and must be persisted
boost::beast::flat_buffer buffer;
// Declare a container to hold the response
http::response<http::dynamic_body> res;
// Receive the HTTP response
http::read(socket, buffer, res);
// Write the message to standard out
//std::cout << res << std::endl;
// Gracefully close the socket
boost::system::error_code ec;
socket.shutdown(tcp::socket::shutdown_both, ec);
// not_connected happens sometimes
// so don't bother reporting it.
//
if(ec && ec != boost::system::errc::not_connected)
throw boost::system::system_error{ec};
// If we get here then the connection is closed gracefully
auto finish = std::chrono::steady_clock::now();
auto ms = std::chrono::duration_cast<std::chrono::milliseconds>(finish - start);
std::cout << "request time: " << ms.count() << "\n";
}
catch(std::exception const& e)
{
std::cerr << "Error: " << e.what() << std::endl;
return EXIT_FAILURE;
}
return EXIT_SUCCESS;
}
//]