amazon-web-services - 在 AWS Lambda 上部署 OpenVINO 模型

Question

AWS Lambda限制代码和依赖项的大小，250mb因此安装OpenVINO不可行。但是，OpenVINO提供了一个部署管理器，它通过将模型、IR 文件、您的应用程序和相关的依赖项组装到目标设备的运行时包中来创建部署包。

问题是部署包不支持Python而不AWS Lambda支持 C++。有什么解决方法吗？是否可以在 上部署OpenVINO模型AWS Lambda？

Answer 1

AWS Lambda 不支持 C++

AWS确实支持 C++，但不是从控制台开箱即用：

• 介绍 C++ Lambda 运行时：

AWS 正在为 Lambda 发布 C++ 运行时的参考实现。这个 C++ 运行时带来了解释语言的简单性和表现力，同时保持了 C++ 性能和低内存占用的优势。

因此，解决您的问题的一种方法是使用 AWS 提供的 C++ lambda 参考示例，并根据您的需要对其进行修改。