4

我正在尝试 Linux libaio 以优化服务器应用程序中的 IO 性能。我相信我已经完成了所有必要的事情(使用 O_DIRECT,将缓冲区与内存页面对齐......)。我期待对 io_submit 的调用立即返回,但一个简单的测试表明它实际上需要大约 80 微秒才能在我的核心 i7 笔记本电脑上返回。是我期望太高还是我的测试程序有问题?(用 g++ --std=c++0x -laio 编译)

#include <unistd.h>
#include <fcntl.h>
#include <libaio.h>
#include <errno.h>
#include <cstdlib>
#include <cstdio>
#include <iostream>
#include <chrono>

// Open the file for write, return the file descriptor
int open_write(char const* file)
{
  int fd = open(file, O_DIRECT|O_CREAT|O_WRONLY, S_IRWXU|S_IRWXG|S_IROTH);
  if (fd < 0) {
    perror("open_write");
    exit(1);
  }
}

// Make a buffer of _size_ byte, fill with 'a', return the buffer, it should be aligned to memory page
void* make_write_buffer(size_t size)
{
  void* buf = 0;
  int ret = posix_memalign((void**)&buf, sysconf(_SC_PAGESIZE), size);
  if (ret < 0 || buf == 0) {
    perror("make_write_buffer");
    exit(1);
  }
  memset(buf, 'a', size);
  return buf;
}

int main (int argc, char *argv[])
{    
  static const size_t SIZE = 16 * 1024;

  // Prepare file and buffer to write
  int write_fd = open_write("test.dat");
  void* buf = make_write_buffer(SIZE);

  // Prepare aio
  io_context_t ctx;
  memset(&ctx, 0, sizeof(ctx));
  const int maxEvents = 32;
  io_setup(maxEvents, &ctx);

  iocb *iocbpp = new iocb;
  io_prep_pwrite(iocbpp, write_fd, buf, SIZE, 0);

  using namespace std::chrono;
  // Submit aio task
  auto start = monotonic_clock::now();
  int status = io_submit(ctx, 1, &iocbpp);
  if (status < 0) {
    errno = -status;
    perror("io_submit");
    exit(1);
  }
  auto dur = duration_cast<microseconds>(monotonic_clock::now() - start);
  std::cout << "io_submit takes: " << dur.count() << " microseconds." << std::endl;

  io_event events[10];
  int n = io_getevents(ctx, 1, 10, events, NULL);

  close(write_fd);
  io_destroy(ctx);
  delete iocbpp;
  free(buf);
  return 0;
}
4

3 回答 3

5

简而言之:io_submit块,除了修复内核之外,您无能为力。

这是linux-aio 邮件列表上 2011 年9 月23 日的“阻塞 io_submit”线程。

正如该线程中所指出的,您可以尝试增加/sys/block/xxx/queue/nr_requests

于 2011-12-28T10:45:36.057 回答
0

需要多长时间io_getevents?如果大部分时间都花在 io_submit 而不是在,io_getevents那么 io 实际上可能已经在io_submit. (就我而言,我怀疑这是 ext4s 的错……)

您可以尝试的另一件事是使用taskset?

顺便说一句,您还可以使用strace -T.

编辑:我怀疑 ext4 是错误的,结果证明缺少 O_DIRECT 标志是导致同步行为的原因。

于 2016-04-02T10:24:42.307 回答
0

正如@Arvid 在另一个答案中指出的那样io_submit()可以阻止。有一个非详尽的原因io_submit()可以在 Ubuntu Linux 中阻塞异步 IO io_submit 延迟的原因,在这里我猜想文件扩展写入正在 ext4 文件系统上执行,从而导致io_submit()在写入文件系统元数据时同步。 .

于 2019-08-24T10:01:24.567 回答