有一个现有的社交网络应用程序，客户现在想为它制作移动应用程序。我们需要创建一个强大的 API，当 10 万现有用户开始使用这些移动应用程序时，它不会挂起。
您对构建此 API 的正确方法有什么建议吗？
我们过去制作了数百个 API，也使用了 10 万用户。但是这个应用程序有点具体，我们预计会有更多的并发 API 请求，是过去的 20 倍。
这就是为什么在我看看这里是否有人可以建议一些好的策略之前，我不愿意使用我们的“标准”API 逻辑。
在高层次上，服务器上有一个数据库和一个处理所有通信的 API 层。
简而言之：查看您的硬件解决方案。
尽可能减少 IO。如果可能的话，将应用程序所需的尽可能多的包含资源打包到一个有效负载中，服务器端，然后一次性将其推送到客户端。您真的不希望客户端有数百个包含。
一个想法是监控有多少同时发生的请求，如果它超过阈值（你可以做模拟来找出痛苦的阈值）开始缓冲队列中的请求，以确保每个用户获得流畅的体验. 也许他们会在开始时等待更长的时间，但是一旦加载开始，它将是平滑的，而不是应用程序加载的一部分。对于用户来说最烦人的事情是不知道事物是否已完成加载，或者加载到一半然后停止。
但最终，您需要查看硬件解决方案。如果它是 IO 密集型的，请查看带有 SSD 驱动器的硬件 LB 和服务器的设置。