直播（Socket）-如何同步音频和视频？

Question

1- 哪一种更适合用于流媒体视频？ TCP 或 UDP 套接字以及为什么？

2-直播时，音频和视频分别来自服务器，那么如何确保我显示的视频和设备上播放的音频同步？

Answer 1

我不久前编写了一个语音聊天应用程序，TCP 是不可能的，如果您正在寻找近实时数据流，UDP 多播实际上是唯一的方法。不过，通过 UDP 进行流传输有两个主要问题：

1. 丢包。就音频而言，这是一个非常简单的修复。通常，丢弃的数据包不会产生听得见的差异（数据包是单独解压缩的）。然而，在处理视频时，特别是在视频被压缩的情况下（通常是压缩的），找出确保网络稳健性的适当传输协议至少可以说是一项艰巨的任务，特别是如果您从头开始这样做。视频帧被分成不同的数据包。弄清楚当这些数据包丢失时该怎么办是很困难的。
2. 音频和视频之间的同步。这是一个非常棘手的问题，我建议阅读 RTSP（实时流协议）等协议。这不是一件容易的事，但这里有一些介绍性信息：http://www.cs。 columbia.edu/~hgs/rtsp/ - 有时它是通过发送单独的同步数据包（某些协议通过 TCP 发送这些数据包）来完成的，告诉播放器声音应如何与视频匹配。

Answer 2

我会做UDP。然而，这取决于你想要什么。 UDP 将丢弃数据包而不是等待 (TCP)。权衡在于您是否想要一种稳定但有时缓慢且成本高昂的产品，或者一种高效但有时可能无法交付的产品。当涉及到如何实现它以及如何使用它时，选择权在您手中。

Answer 3

如今，甚至 YouTube 也通过 HTTP 进行流传输...这是一个 Nodejs 应用程序，它将文件流式传输到浏览器客户端...用作实时流视频与音频完美同步的起点

// usage 
// do following on server side (your laptop running nodejs)
// node this_file.js
//
// then once above is running point your browser at
//    http://localhost:8888
//
// of course your browser could be on your mobile or own custom app



var http = require('http'),
    fs = require('fs'),
    util = require('util');

var path = "/path/to/audio/or/video/file/local/to/server/cool.mp4"; // put any audio or video file here

var port = 8888;
var host = "localhost";

http.createServer(function (req, res) {

  var stat = fs.statSync(path);
  var total = stat.size;

  if (req.headers.range) {   // meaning client (browser) has moved the forward/back slider
                                         // which has sent this request back to this server logic ... cool
    var range = req.headers.range;
    var parts = range.replace(/bytes=/, "").split("-");
    var partialstart = parts[0];
    var partialend = parts[1];

    var start = parseInt(partialstart, 10);
    var end = partialend ? parseInt(partialend, 10) : total-1;
    var chunksize = (end-start)+1;
    console.log('RANGE: ' + start + ' - ' + end + ' = ' + chunksize);

    var file = fs.createReadStream(path, {start: start, end: end});
    res.writeHead(206, { 'Content-Range': 'bytes ' + start + '-' + end + '/' + total, 'Accept-Ranges': 'bytes', 'Content-Length': chunksize, 'Content-Type': 'video/mp4' });
    file.pipe(res);

  } else {

    console.log('ALL: ' + total);
    res.writeHead(200, { 'Content-Length': total, 'Content-Type': 'video/mp4' });
    fs.createReadStream(path).pipe(res);
  }
}).listen(port, host);

console.log("Server running at http://" + host + ":" + port + "/");