Streaming Protocol & Streaming Coding

流式传输协议¶

常用的流媒体协议主要有两类：

HTTP渐进下载
基于RTSP/RTP的实时流媒体协议。

在流式传输的实现方案中，一般采用

HTTP/TCP来传输控制信息，
用RTP/UDP来传输实时多媒体数据。

RTP 、 RTCP (Real-time Transport Control Protocol)¶

由IETF的多媒体传输工作小组1996年在RFC 1889中公布。
RTCP是RTP的一个姐妹协议
RTP协议的特点
RTP协议是建立在UDP协议上的。
RTP并不保证传送或防止无序传送，也不确定底层网络的可靠性。
RTP实行有序传送，RTP中的序列号允许接收方重组发送方的包序列。
RTP不像http和ftp可完整的下載整個影視檔，它是以固定的資料率在網路上發送資料，用戶端也是按照這種速度觀看影視檔，當影視畫面播放過後，就不可以再重複播放，除非重新向伺服器端要求資料。
RTCP特点
RTCP的主要功能是为RTP所提供的服务质量提供反馈来试图提高服务质量。RTCP收集相关媒体连接的统计信息，例如：传输字节数，传输分组数，丢失分组数，时延抖动，单向和双向网络延迟等等。来判断是否限制信息流量或改用压缩比较小的编解码器。
RTCP本身不提供数据加密或身份认证，其伴生协议SRTCP安全实时传输控制协议则可用于此类用途。

SRTP & SRTCP（Secure Real-time Transport Protocol）¶

最早由IETF於2004年3月作為RFC3711發佈，提供加密、消息認證、完整性保證和重放保護。

RTSP(Realtime Streaming Protocol)¶

于1998年发布为RFC 2326。RTSP 2.0 于2016年发布为RFC 7826，作为RTSP 1.0的替代品。
专为娱乐和通信系统的使用，以控制流媒体服务器。
媒体服务器的客户端发布VCR命令，例如播放，录制和暂停，以便于实时控制从服务器到客户端（视频点播）或从客户端到服务器（语音录音）的媒体流。
流数据本身的传输不是RTSP的任务。大多数RTSP服务器使用实时传输协议（RTP）和实时传输控制协议（RTCP）结合媒体流传输。
与RTP最大的区别在于：
RTSP是一种双向实时数据传输协议，它允许客户端向服务器端发送请求，如回放、快进、倒退等操作
当然RTSP可基于RTP来传送数据，还可以选择TCP、UDP、组播UDP等通道来发送数据，具有很好的扩展性。
它是一种类似于HTTP协议的网络应用协议。

RTMP(Real Time Messaging Protocol)¶

Adobe于2012年12月21日发布了该协议1.0版本的规范。
是 Adobe Systems 公司为 Flash 播放器和服务器之间音频、视频和数据传输开发的开放协议。
协议基于 TCP，是一个协议族，包括 RTMP 基本协议及 RTMPT/RTMPS/RTMPE 等多种变种。
RTMPT封装在HTTP请求之中，可穿越防火墙；
RTMPS类似RTMPT，但使用的是HTTPS连接。
RTMPE，使用Adobe自有安全機制加密的RTMP。雖然實現上的細節是專有的，但該機制使用行業標準的密碼學加密演算法。
RTMP 是目前主流的流媒体传输协议，广泛用于直播领域。
默认通信端口1935。RTMP URL格式：rtmp://ip:[port]/appName/streamName
特点
RTMP协议是采用实时的流式传输，所以不会缓存文件到客户端，这种特性说明用户想下载RTMP协议下的视频是比较难的；
视频流可以随便拖动，既可以从任意时间点向服务器发送请求进行播放，并不需要视频有关键帧。相比而言，HTTP协议下视频需要有关键帧才可以随意拖动。
RTMP协议支持点播/回放（通俗点将就是支持把flv,f4v,mp4文件放在RTMP服务器，客户端可以直接播放），直播（边录制视频边播放）。

MMS（Microsoft Media Server Protocol）¶

访问并流式接收Window Media服务器中.asf文件的一种协议。
可以用Windows自带的Windows Media Player来观看

Web RTC（Web Real-Time Communications）¶

于2011年6月1日开源并在Google、Mozilla、Opera支持下被纳入万维网联盟的W3C推荐标准。
是一个支持网页浏览器进行实时语音对话或视频对话的API。
目前主要应用于视频会议和连麦中。

HLS(Http Live Streaming, 明显是基于HTTP)¶

是由苹果提出基于HTTP的流媒体传输协议。
原理
直播客户端获取到的并不是一个完整的数据流，HLS协议在服务器端将直播数据流存储为连续的、很短时长的媒体文件（MPEG-TS格式）（MPEG-2 Transport Stream；又称MPEG-TS、MTS、TS），而客户端则不断的下载并播放这些小文件，因为服务器总是会将最新的直播数据生成新的小文件，这样客户端只要不停的按顺序播放从服务器获取到的文件，就实现了直播。
特点
优点就是HTML5可以直接打开播放；分段文件的时长很短，客户端可以很快的选择和切换码率，以适应不同带宽条件下的播放。
缺点就是延迟高。

HTTP-FLV（明显是基于HTTP)¶

将直播流模拟成FLV文件，通过HTTP协议进行下载的模式来实现流媒体传输的协议。

各种软件使用的流式协议¶

moonlight¶

官网写着

Moonlight (formerly Limelight) is an open source implementation of NVIDIA's GameStream protocol.

那么 NVIDIA's GameStream protocol是什么呢？

NVIDIA uses high speed, low latency video encoders built into GeForce GTX or RTX GPUs along with an efficient streaming software protocol integrated into GeForce Experience.

我只能说看上去像自研的~但是马上也要没了

Nvidia isn’t just ending support for GameStream, it’s planning to fully remove the feature from existing Shield hardware in February 2023. Nvidia is recommending that Shield users switch to Steam Link, which is a similar way of streaming PC games to a Shield device.

Steam Link¶

有github老哥分析了。但我只能说肯定不是上面常见的类型。

sequenceDiagram
  Client ->> Host: Discovery/Connect
  Note over Client: Send client connection ID
  Host ->> Client: Discovery/Connect ACK
  Note over Client: Got host connection ID, start client handshake
  Client ->> Host: Reliable/Control:ClientHandshake
  par Discovery Channel
    loop While True
      Host ->> Client: Unconnected/Discovery:PingRequest
      Client ->> Host: Unconnected/Discovery:PingResponse
    end
  end
  Host ->> Client: Reliable/Control:ServerHandshake
  Note over Client: Got mtu, start authentication
  Client ->> Host: Reliable/Control:AuthenticationRequest
  Host ->> Client: Reliable/Control:AuthenticationResponse
  Host ->> Client: Reliable/Control:NegotiationInit
  Note over Client: Got host supported audio/video codecs
  Client ->> Host: Reliable/Control:NegotiationSetConfig
  Note over Client: Send selected codecs and config
  Host ->> Client: Reliable/Control:NegotiationSetConfig
  Note over Client: Got final config, respond with complete
  Client ->> Host: Reliable/Control:NegotiationComplete
  par Audio Data Channel
    Host ->> Client: Reliable/Control:StartAudioData
    loop Not StopAudioData
      Host ->> Client: Unreliable/Data:Packet 
    end
  and Video Data Channel
    Host ->> Client: Reliable/Control:StartVideoData
    loop Not StopVideoData
      Host ->> Client: Unreliable/Data:Packet 
    end
  end
  Client ->> Host: Discovery/Disconnect

流式传输视频压缩编码¶

主流还是 H.264 或者 HEVC。流式传输时为了保证帧率可能会牺牲画面。

Steam Link 的相关设置

需要进一步的研究学习¶

暂无

遇到的问题¶

暂无

开题缘由、总结、反思、吐槽~~¶

参考文献¶

山东布谷科技 https://www.bilibili.com/read/cv9502267?from=search&spm_id_from=333.337.0.0 出处：bilibili

Streaming Protocol & Streaming Coding

流式传输 协议¶

RTP 、 RTCP (Real-time Transport Control Protocol)¶

SRTP & SRTCP（Secure Real-time Transport Protocol）¶

RTSP(Realtime Streaming Protocol)¶

RTMP(Real Time Messaging Protocol)¶

MMS（Microsoft Media Server Protocol）¶

Web RTC（Web Real-Time Communications）¶

HLS(Http Live Streaming, 明显是基于HTTP)¶

HTTP-FLV（明显是基于HTTP)¶

各种软件使用的流式协议¶

moonlight¶

Steam Link¶

流式传输 视频压缩编码¶

需要进一步的研究学习¶

遇到的问题¶

开题缘由、总结、反思、吐槽~~¶

参考文献¶

流式传输协议¶

流式传输视频压缩编码¶