将效果应用于 iPhone 相机预览“视频”

Question

我的目标是编写一个自定义相机视图控制器，该控制器：

1. 可以使用后置摄像头和前置摄像头（如果可用）以所有四个界面方向拍摄照片。
2. 正确旋转和缩放预览“视频”以及全分辨率照片。
3. 允许将（简单）效果应用于预览“视频”和全分辨率照片。

实现（在 iOS 4.2 / Xcode 3.2.5 上）：

由于要求（3），我需要下拉到 AVFoundation。

我从 技术问答 QA1702 开始并进行了这些更改：

1. 将 sessionPreset 更改为 AVCaptureSessionPresetPhoto。
2. 在启动会话之前添加了 AVCaptureStillImageOutput 作为附加输出。

我遇到的问题是处理预览图像（预览“视频”的一帧）的性能。

首先，我从 captureOutput:didOutputSampleBuffer:fromConnection: 获取示例缓冲区上 imageFromSampleBuffer: 的 UIImage 结果。然后，我使用 CGGraphicsContext 在屏幕上缩放和旋转它。

此时，帧速率已经低于会话视频输出中指定的 15 FPS，当我添加效果时，帧速率降至 10 以下或左右。由于内存不足，应用程序很快崩溃。

我已成功将 iPhone 4 上的帧速率降至 9 FPS，将 iPod Touch（第 4 代）的帧速率降至 8 FPS。

我还添加了一些代码来“刷新”调度队列，但我不确定它实际上有多大帮助。基本上，每 8-10 帧就会设置一个标志，指示 captureOutput:didOutputSampleBuffer:fromConnection: 立即返回而不是处理帧。输出调度队列上的同步操作完成后，该标志将被重置。

在这一点上，我什至不介意低帧速率，但显然我们不能忍受低内存崩溃。任何人都知道如何采取措施来防止这种情况下的内存不足情况（和/或“刷新”调度队列的更好方法）？

Answer 1

为了防止内存问题，只需在 captureOutput:didOutputSampleBuffer:fromConnection: 中创建一个自动释放池即可。

这是有道理的，因为 imageFromSampleBuffer: 返回一个自动释放的 UIImage 对象。另外，它会立即释放由图像处理代码创建的任何自动释放的对象。

// Delegate routine that is called when a sample buffer was written
- (void)captureOutput:(AVCaptureOutput *)captureOutput 
didOutputSampleBuffer:(CMSampleBufferRef)sampleBuffer 
fromConnection:(AVCaptureConnection *)connection
{ 
    NSAutoreleasePool *pool = [[NSAutoreleasePool alloc] init];

    // Create a UIImage from the sample buffer data
    UIImage *image = [self imageFromSampleBuffer:sampleBuffer];

    < Add your code here that uses the image >

    [pool release];
}

我的测试表明，即使请求的 FPS 非常高（例如 60）并且图像处理非常慢（例如 0.5+ 秒），这也将在 iPhone 4 或 iPod Touch（第 4 代）上运行而不会出现内存警告。

旧解决方案：

正如 Brad 指出的那样，Apple 建议在后台线程上进行图像处理，以免干扰 UI 响应能力。在这种情况下，我没有注意到太多延迟，但最佳实践就是最佳实践，因此将上述解决方案与自动释放池一起使用，而不是在主调度队列/主线程上运行它。

为了防止内存问题，只需使用主调度队列而不是创建一个新队列。

这也意味着当您想要更新 UI 时，不必在 captureOutput:didOutputSampleBuffer:fromConnection: 中切换到主线程。

在 setupCaptureSession 中，将 FROM: 更改

// Configure your output.
dispatch_queue_t queue = dispatch_queue_create("myQueue", NULL);
[output setSampleBufferDelegate:self queue:queue];
dispatch_release(queue);

为:

// we want our dispatch to be on the main thread
[output setSampleBufferDelegate:self queue:dispatch_get_main_queue()];

Answer 2

从根本上来说更好的方法是使用 OpenGL 为您处理尽可能多的与图像相关的繁重工作（正如我看到您在 您的最新尝试）。然而，即使如此，您在构建要处理的帧时也可能会遇到问题。

虽然在处理帧时遇到内存积累似乎很奇怪（根据我的经验，如果处理速度不够快，您就会停止获取它们），但如果 Grand Central Dispatch 队列正在等待，它们可能会被堵塞输入/输出。

也许调度信号量可以让您限制向处理队列添加新项目。有关这方面的更多信息，我强烈推荐 Mike Ash 的“