小程序直播连麦的技术实现与解析

算法工
• 阅读 5465

微信在去年年底开放了小程序直播接口。小程序从仅适用于阅读、生活服务、工具等应用的流量入口,成为了许多音视频应用的又一个新平台。新功能的开放让更多应用可以利用微信的熟人社交链为应用快速拉新,提供便捷的增值服务,或加速应用变现。我们的客户,荔枝 FM 就在小程序上实现语音社交直播,花椒直播也通过小程序实现直播答题一掷千金的场景。

小程序直播目前对在线教育、金融、医疗、政务民生、社交行业开放了接口,而在增加互动连麦后,将能在这些场景下实现更丰富的业务功能,拓展出更多的使用场景,例如:

  • 线上课堂:1对1、1对多的在线直播课,适用于职业教育、小班教育、学前教育等场景,实现老师、学生实时互动;
  • 视频会议:一秒快速建立多人视频会议,实现高效远程协作;
  • 在线医疗:突破医疗资源的地域限制,以及系统平台限制,实现远程多方视频会诊,降低诊断成本;
  • 在线购物:直播展示商品,同时观众连麦互动,进一步促成交易;
  • VIP 客服:专属视频客服,1对1实时交流;
  • 银行开户:专用网络,无需安装 App,通过小程序快速实现信息认证与视频开户;
  • 远程报警:从微信小程序实现一键报警,迅速连接相关部门,并通过实时视频通信,使警方能实时掌控现场情况。

通过附加低延时、高质量的音视频互动,可以为微信小程序延伸出更广阔的应用场景。不过在开发过程中还需要解决三大难点。

小程序互动连麦直播的实现与难点

iOS 的微信内核浏览器不支持 WebRTC。如果开发者通过 WebRTC 来实现小程序直播,则只能在 Android 平台上实现直播连麦。所以要想实现支持 iOS 与 Android 平台,就需要通过微信<live-pusher><live-player>两个直播接口来实现。

然而通过这两个接口都是基于 RTMP 协议进行拉流与推流。这种基于 TCP 的协议天然存在较高的延时,并不适用于直播连麦场景。

小程序直播连麦的技术实现与解析

我们曾在《详解音视频直播中的延时》一文中详细分析过不同阶段延时的产生与应对,延时的产生过程简化后如上图,延时由两大部分构成:

  • 端上的延时。采集端和播放端会出现不同程度的延时(T1)。这一段的延时受到设备性能、编解码算法、直播/通话时选取的分辨率和帧率等因素影响,延时可能是几十毫秒;
  • 在端与服务器之间的传输延时(T2)。这一段延时受到网络质量、传输线路选择、跨运营商、跨国等因素影响。上文提到小程序接口限制只能推/拉rtmp流,如果直接通过CDN传输,延时可达2-5s。设备端上的几十毫秒延时跟这个相比,微不足道。

因此,解决小程序延时问题的本质在于缩短T2的延时。

声网降低延时的做法是在音视频流经过协议转换后,不通过 CDN 传输,而是通过 Agora 的私有 UDP 协议后,进行低延时的传输。普通的 UDP 建立的是不可靠的传输,因此要进行深度开发来抗丢包,让传输变得可靠。并且,为了保证传输质量,要搭建整套低延时的 UDP 传输网络,有较高的技术和资金门槛。若直接上公网传输,无异于“裸奔”。

如何实现小程序互动连麦直播?

小程序直播连麦的技术实现与解析

如上图所示,实现逻辑中有三个关键点:

  • 协议转换:在边缘节点通过协议转换器对小程序端发出的音视频流进行协议转换;
  • 低延时传输:将转换协议后的音视频流经过声网私有 UDP 协议传输到 Agora SD-RTN™ 全球虚拟通讯网络;
  • 全平台兼容:由 Agora SD-RTN™ 通过声网私有 UDP 协议可传输到集成了声网 SDK 的各个平台 App 上。

声网小程序直播互动连麦方案基于声网Agora SD-RTN™ 实时云实现低延时、高质量的实时音视频传输。声网小程序直播互动连麦方案可帮助开发者解决开发中的多个难点:

1. 完美解决 iOS 端小程序连麦直播

声网小程序直播互动连麦方案利用微信小程序自身的推拉流接口,与声网Agora SD-RTN™ 全球虚拟通讯网络配合,通过声网私有的 UDP 协议实现了让用户可通过 iOS 端小程序与 Android 小程序的低延时连麦通话。声网可以帮助开发者解决小程序连麦直播中的协议转换与低延时传输。

2. 小程序与Native App无缝互通

声网Agora Native SDK 支持 iOS、Android、Windows、macOS、Web 主流系统平台。基于声网的小程序直播互动连麦方案开发的小程序,在 Agora SD-RTN™ 的低延时实时网络环境下可实现与其它平台 Native App 的无缝互通。

同时,Agora SD-RTN™ 在全球部署了近 200 个节点,采用分布式架构、动态路由算法,可以避免网络拥塞、骨干网络故障。由于是全球部署,因此跨国、跨洲传输也能保证高可用、低延时,可为具有全球视野的开发者提供有力支持。

3. 支持 7 人同时视频连麦

社交直播、在线教育场景需要实现多人的直播连麦。在保证画面分辨率、音频质量的同时,声网的小程序方案目前可支持 7 人同时在线连麦互动。

4. 高质量,低延时

小程序与客户端均通就“近”接入策略,让用户接入质量最好的数据节点,通过 SD-RTN™ 的软件定义优化路由选择最优路径,自动避免网络拥塞,并规避骨干网络故障的影响,并保证音视频数据以最佳质量传输。

声网小程序体验 Demo 已经上线,欢迎大家扫描下方二维码体验!我们将稍后在Github为大家提供源码。

小程序直播连麦的技术实现与解析


声网Agora 有奖征文活动 正在进行中,只要分享与声网SDK相关的开发经验博文,即有机会获得 Cherry 红轴机械键盘、T恤等声网定制奖品。详情请戳
小程序直播连麦的技术实现与解析

点赞
收藏
评论区
推荐文章
小森森 小森森
2年前
计划助手V1.0-微信小程序(QQ小程序)-源代码分享
疫情期间在家感觉好无聊啊,于是利用空闲时间做了一个用来记录和管理小目标时间的小程序,命名为《小沙漏》。QQ版本小程序同步上线,QQ小程序叫《时间小沙漏》,欢迎大家前来体验,后期也会添加其他的新功能哦【区别】:微信小程序的代码与QQ小程序的源码是不一样的。微信小程序的源码基于微信小程序云开发,需要在有网络的情况下使用,具有同步功能,所有记录在删除小
梦
4年前
微信小程序new Date()转换时间异常问题
微信小程序苹果手机页面上显示时间异常,安卓机正常问题image(https://imghelloworld.osscnbeijing.aliyuncs.com/imgs/b691e1230e2f15efbd81fe11ef734d4f.png)错误代码vardate'2021030617:00:00'vardateT
Stella981 Stella981
3年前
App唤起微信小程序和回调
在同一开放平台账号下的移动应用及小程序无需关联即可完成跳转,非同一开放平台账号下的小程序需与移动应用(APP)成功关联后才支持跳转。可在“管理中心移动应用应用详情关联小程序信息”,为通过审核的移动应用发起关联小程序操作。唤起App打开下程序他有两种方式:1,通过App分享小程序卡片到微信,然后在微信上点击小程序卡片打开小程序,
Easter79 Easter79
3年前
Taro 牵手腾讯有数,助力小程序数据化运营
“ Taro引入了腾讯有数的微信小程序无痕埋点能力,为Taro的开发者提供真·零开发的8大无痕埋点能力以及自定义埋点能力,包含小程序启动、显示、隐藏、页面浏览、页面离开、分享、下拉刷新、上拉触底等八大自动化埋点能力以及搜索、商品归因等定制化埋点,以及经营分析、直播分析、导购分析等能力,让你的小程序可以基于微信生态,串联全场景多触点,
Easter79 Easter79
3年前
Taro小程序自定义顶部导航栏
微信自带的顶部导航栏是无法支持自定义icon和增加元素的,在开发小程序的时候自带的根本满足不了需求,分享一个封装好的组件,支持自定义icon、扩展dom,适配安卓、ios、h5,全面屏。我用的是京东的Taro多端编译框架写的小程序,原生的也可以适用,用到的微信/taro的api做调整就行,实现效果如下。!在这里插入图片描述(https://i
Wesley13 Wesley13
3年前
5G消息与微信小程序互联互通?北京国都互联这么做……
最近微信小程序上线了一个超级流量的新入口URLScheme,据微信官网介绍,scheme码适用于短信、邮件、外部网页等拉起小程序的业务场景。通过小程序页面的URLScheme,可以在短信、邮件或微信外部的网页中打开微信小程序。意义在于将微信流量生态延伸到微信以外渠道,进一步完善了小程序和外部渠道互通的营销场景。北京国都互联第一时
Wesley13 Wesley13
3年前
10分钟上线
_摘要:_ 阿里云函数计算是一个事件驱动的全托管计算服务。通过函数计算,您无需管理服务器等基础设施,只需编写代码并上传。微信小程序是一种不需要下载安装即可使用的应用,它可以在微信内被便捷地获取和传播。当微信小程序遇见serverless,他们会产生奇妙火花,利用函数计算可以快速搭建微信小程序的serverle.点此查看原文:http://clic