我们正在尝试将事件中心 (EH) 数据(每分钟约 200MB 和 50k 条消息)集成到 SQL 数据仓库 (DW) 暂存区。
到目前为止,我们已尝试通过使用 Azure 函数 (AF) 直接读取 EH 数据并将其输出到 Synapse 来解决此问题,但我们已达到 DW 的最大并发打开会话数(< DWU500c 为 512)。我们还尝试增加从 EH 读取的maxBatchSize,以减少 DW 端所需的会话,但这似乎使 AF 非常不稳定。
今天我在 Microsoft 文档中找到了本教程,该教程通过使用 EH 捕获功能和事件网格 (EG) 在写入 Blob 文件时触发 AF 将 EH 与 AF 分离。那么我是否正确地假设这应该会大大减少 DW 中的最大并发打开会话,因为我们谈论的是更大的批量大小,当 AF 读取捕获的 Blob 文件时,其大小可达 500MB?
一种解决方案和另一种解决方案之间有哪些优势?您还有其他最佳实践来实现这一目标吗?
提前谢谢!