9

我正在研究新的 CameraX API，以了解从我们当前的 Camera2 系统切换的可行性。

在我们的 Camera2 系统中，我们使用 OpenGL 表面从 PreviewCaptureSession 捕获帧，并且我们在大多数设备上都达到了一致的 30fps 图像处理速度，其中一些能够在启用 AutoExposure 设置的情况下达到 60fps。

CameraX 没有提供接近那个速度的任何东西，我不确定我在设置中是否错过了它。

我已经为 CameraX 和 ImageAnalysis 设置了测试示例，但是对于通过的图像数量，我得到了锁定的帧速率。

例如，我可以将分辨率设置为低至 320x240 到 1920x960，两者都将以（看似有上限）16fps 的速度输出。

当我添加一个 Preview 用例以在其旁边运行并设置 enableTorch(true) 时，ImageAnalysis 用例将突然开始变得更像 20fps，有时会达到 30ish 的峰值。

很明显，预览用例改变了相机的一些自动曝光状态？

这是我当前设置的截图...

 private fun startCameraAnalysis() {
        val metrics = DisplayMetrics().also { viewFinder.display.getRealMetrics(it) }
        var resolution = Size(metrics.widthPixels, metrics.heightPixels)
        resolution = Size(640, 480) //set to fixed size for testing

        val aspectRatio = Rational(resolution.width, resolution.height)
        val rotation = viewFinder.display.rotation

        // Setup image analysis pipeline
        val analyzerConfig = ImageAnalysisConfig.Builder().apply {
            val analyzerThread = HandlerThread(
                "LuminosityAnalysis").apply { start() }
            setCallbackHandler(Handler(analyzerThread.looper))
     setImageReaderMode(ImageAnalysis.ImageReaderMode.ACQUIRE_LATEST_IMAGE)
            setTargetRotation(rotation)
            setTargetAspectRatio(aspectRatio)
            setTargetResolution(resolution)
        }.build()

        // Setup preview pipeline
        val previewConfig = PreviewConfig.Builder().apply {
            setTargetRotation(rotation)
            setTargetAspectRatio(aspectRatio)
            setTargetResolution(resolution)
        }.build()

        // Build Preview useCase
        val preview = Preview(previewConfig)
        preview.enableTorch(true)

        // Build Analysis useCase
        val analyzer = ImageAnalysis(analyzerConfig)
        analyzer.analyzer = LuminosityAnalyzer()

        CameraX.bindToLifecycle(this, preview, analyzer )
        preview.enableTorch(true)
}

有没有办法在 ImageAnalysis 周围改变 CameraX 中的相机设置以获得更高的帧速率？

无论如何，实际上是否可以改变诸如传感器持续时间、ISO、曝光之类的东西？

4

4 回答 4

10

所以我花了更多时间进行调查，我想我现在已经想出了一个解决方案。

事实证明，ImageAnalysisConfig 不可扩展，因此仅使用其中一个时您无法更改相机配置，因此将使用我的手机上的默认相机设置，我认为这会导致 AE 开启并达到 16ish FPS。

如果您同时启动 PreviewConfig 以与它一起运行，则可以使用 Camera2Config.Extender 扩展它并直接更改 camera2 属性。这可以提高相机预览帧速率，并且分析器也将开始以相同的速率获取帧。

因此，例如，我将其添加到我的 PreviewConfig ...

    // Create Camera2 extender
    var camera2Extender = Camera2Config.Extender(previewConfig)
        .setCaptureRequestOption(CaptureRequest.CONTROL_MODE, CaptureRequest.CONTROL_MODE_OFF)
        .setCaptureRequestOption(CaptureRequest.CONTROL_AE_MODE, CaptureRequest.CONTROL_AE_MODE_OFF)
        .setCaptureRequestOption(CaptureRequest.CONTROL_AF_MODE, CaptureRequest.CONTROL_AF_MODE_OFF)
        .setCaptureRequestOption(CaptureRequest.CONTROL_AWB_MODE, CaptureRequest.CONTROL_AWB_MODE_OFF)
        .setCaptureRequestOption(CaptureRequest.FLASH_MODE, CaptureRequest.FLASH_MODE_TORCH)
        .setCaptureRequestOption(CaptureRequest.SENSOR_SENSITIVITY, 100)
        .setCaptureRequestOption(CaptureRequest.SENSOR_FRAME_DURATION, 16666666)
        .setCaptureRequestOption(CaptureRequest.SENSOR_EXPOSURE_TIME, 20400000)

所以这开始在 ImageAnalyser 中达到 30fps。

如果我想打到60，我可以设置...

.setCaptureRequestOption(CaptureRequest.CONTROL_AE_MODE, CaptureRequest.CONTROL_AE_MODE_OFF)
.setCaptureRequestOption(CaptureRequest.CONTROL_AE_TARGET_FPS_RANGE, Range(60,60))

显然假设设备支持 (60,60) 目标 FPS 范围。

所以看起来完整的 Camera2 逻辑在 CameraX 中仍然可用，只是有点笨拙，它有点隐藏在 Camera2Config 扩展器中，而且这只适用于预览用例。

于 2019-08-14T08:32:09.757 回答
7

好吧，这让我发疯了好几个小时。

扩展 Ian 对最新版本 CameraX 的回答，您现在可以直接扩展 ImageAnalysis。请参阅CameraX 等效于 Camera2 的 CaptureRequest

所以要获得 60FPS，我们可以使用这个修改后的代码（Java 和 Kotlin 中的示例）：

// 爪哇

ImageAnalysis.Builder builder = new ImageAnalysis.Builder();
Camera2Interop.Extender ext = new Camera2Interop.Extender<>(builder);
ext.setCaptureRequestOption(CaptureRequest.CONTROL_AE_MODE, CaptureRequest.CONTROL_AE_MODE_OFF);
ext.setCaptureRequestOption(CaptureRequest.CONTROL_AE_TARGET_FPS_RANGE, new Range<Integer>(60, 60));
ImageAnalysis imageAnalysis = builder.build();

// 科特林

val builder = ImageAnalysis.Builder()
val ext: Camera2Interop.Extender<*> = Camera2Interop.Extender(builder)
ext.setCaptureRequestOption(
                CaptureRequest.CONTROL_AE_MODE,
                CaptureRequest.CONTROL_AE_MODE_OFF
            )
ext.setCaptureRequestOption(
                CaptureRequest.CONTROL_AE_TARGET_FPS_RANGE,
                Range<Int>(60, 60)
            )
val imageAnalysis = builder.build()
于 2020-05-19T22:27:46.770 回答
3

不幸的是，伊恩斯坦福的回答对我没有帮助。在将这些行中的任何一行添加到 Camera2Config.Extender 后，我的应用程序就会崩溃：

.setCaptureRequestOption(CaptureRequest.CONTROL_MODE, CaptureRequest.CONTROL_MODE_OFF)
.setCaptureRequestOption(CaptureRequest.CONTROL_AE_MODE, CaptureRequest.CONTROL_AE_MODE_OFF)
.setCaptureRequestOption(CaptureRequest.CONTROL_AF_MODE, CaptureRequest.CONTROL_AF_MODE_OFF)
.setCaptureRequestOption(CaptureRequest.CONTROL_AWB_MODE, CaptureRequest.CONTROL_AWB_MODE_OFF)

我收到了这个错误：

IllegalArgumentException: Unsupported session configuration combination

但是，幸运的是，我找到了另一种在 Pixel 2 XL 上获得 60 FPS 的方法。从这里拿了一些代码。不幸的是，它只有在我将预览绘制为 TextureView 时才有效。如果我使用不使用 AutoFitPreviewBuilder 功能并且不将 Preview 绘制为 TextureView，则所有 Extender 设置都将被忽略。

所以，我的代码：

imageAnalysis = ImageAnalysis(createImageAnalysisConfig())

val previewConfig  = createImagePreviewConfig()
Camera2Config.Extender(previewConfig)
    .setCaptureRequestOption(CaptureRequest.CONTROL_AE_TARGET_FPS_RANGE, Range(60, 60))             
    .setCaptureRequestOption(CaptureRequest.CONTROL_AE_EXPOSURE_COMPENSATION, 1)

val preview = AutoFitPreviewBuilder.build(previewConfig.build(), viewFinder)

CameraX.bindToLifecycle(lifecycleOwner, imageAnalysis, preview)
preview.enableTorch(true)

AutoFitPreviewBuilder 是来自 android repo 示例的函数，viewFinder 是 TextureView，imageAnalysis 是 ImageAnalysisConfig.Builder().build，createImagePreviewConfig() 返回 PreviewConfig.Builder()。顺便说一句，不要忘记在 ImageAnalysisConfig 和 PreviewConfig 中为相机设置最大分辨率：

.setMaxResolution(Size(800, 800))

希望，它会帮助你。

于 2019-09-18T11:15:42.373 回答
-1

我遇到了同样的问题，我只是在 .setTargetResolution(Size(1280, 720)) 中添加了这一行：- val imageAnalyzer = ImageAnalysis.Builder().setTargetResolution(Size(1280, 720)) .build() .also { it.setAnalyzer(cameraExecutor, LuminosityAnalyzer { luma> Log.d(TAG, "Average luminosity: $luma") }) } 参考：- https://developer.android.com/training/camerax/configuration

于 2021-08-02T06:58:53.747 回答