这是一个关于在严重情况下扩展的有趣问题。
您实质上是在问,“我如何建立到 Internet 服务的 N 个连接,其中 N >= 250,000”。
有效且高效地做到这一点的唯一方法是集群。您不能在单个主机上执行此操作,因此您需要能够将您的客户端群分割和划分为多个不同的服务器,以便每个服务器只处理一个子集。
这个想法是让单个服务器保持打开尽可能少的连接(均匀地分散连接),同时保持足够的连接以通过将服务器间通信保持在最低水平来使您托管的任何服务都可行。这意味着任何两个相关的连接(例如两个经常互相交谈的帐户)都必须位于同一主机上。
您将需要可以处理此问题的服务器和网络基础设施。您将需要一个 IP 地址子网,每台服务器都必须与 Internet 进行无状态通信(即您的路由器不会进行任何 NAT 以便不必跟踪 250,000 多个连接)。
您将不得不与 AOL 交谈。如果不考虑切断您的连接,AOL 将无法处理这种级别的连接。这种规模的任何服务都必须与 AOL 协商,以便您和他们都能够处理连接。
您应该研究一些 i/o 多路复用技术。想到了 Kqueue 和 epoll。
为了编写这个大规模并发和电信级的解决方案,我建议研究 erlang。Erlang 专为诸如此类的情况而设计(多服务器、大规模多客户端、大规模多线程电信级软件)。它目前用于运行爱立信电话交换机。