你的浏览器版本过低,可能导致网站不能正常访问!
为了你能正常使用网站功能,请使用这些浏览器。

无线与云连接技术专题之二:利用Opus在STM32WB上实现BLE全双工语音流

[复制链接]
STMCU-管管 发布时间:2022-4-14 09:20
无线与云连接技术专题之二:利用Opus在STM32WB上实现BLE全双工语音流

# D$ a6 c4 `: D, J) D& a
一简介
在无线蓝牙领域,既能满足超低功耗,又能进行全双工语音通讯,一直是市场上的需求,比如:无线门铃,短距离对讲机等应用。针对BLE语音相关的应用场景,ST推出了FP-AUD-BVLINKWB1这个软件包供客户评估。& T* D- z; e9 x+ ~1 n

' |3 I) @1 j( |( x- V1 m- T' t$ k本文将对这个软件包展开介绍,该软件包主要包含以下特性:2 j3 ]" F6 W2 B: D3 \
·使用Opus v1.3编码和解码,通过BLE实现全双工立体音频流。
! \8 q2 A* t/ H; m·使用自定义BlueVoiceOPUS协议,通过API即可使用Opus功能。
  ?% a7 G# j' x/ p$ h·源码包含数字音频捕获和处理。! Y1 q! ~  O; r
·可以通过USB进行音频流的回放。
- B4 O) E- a- q·可使用麦克风扩展板X-NUCLEO-CCA02M2 + Nucleo开发板P-NUCLEO-WB55的组合或者探索板STM32WB5MM-DK。: b* I+ @: U1 i/ x
·兼容STBLESensor App。9 \8 Y% D$ B# h( \1 f! r  v
·免费开源。
* Q/ ~# a) Z/ u
7 J5 D- B6 O9 z/ J
感兴趣的话欢迎下载该软件包进行评估

) H# a) k2 ~- q: B$ t
二软件介绍
软件架构. G5 ~  m6 `5 X+ W) i) E
11.png
▲图1.软件架构图
( {7 G$ d% \" T# `5 y
·Hardware Abstraction:硬件抽象层,使用了STM32的HAL库提供底层的硬件驱动。$ b% Y. f2 G# O0 P0 r0 q3 P: k
·BSP层:在HAL层之上,提供了板级支持包,包含了SPI,ADC,LED和User Button等驱动。# V- }! \$ a( G; k4 S
·Middleware层:中间件层,主要包含了以下内容:
1 s* N) T% m. k4 z2 ~□ STM32 WPAN:提供BLE,Thread,Zigbee等协议相关的接口API,本应用只使用了BLE协议。
) t! O3 a2 ?- _□ USB Device:提供各种不同USB device类的实现,本应用中只使用了USB Audio类。: i9 h* {! y: D1 v) i1 m
□ PDM Lib:提供了数字麦克风PDM信号到PCM信号转换的软件实现。$ k. R+ x$ b3 w
□ OPUS:开源第三方的OPUS库,版本v1.3。
' b! R9 q" S* W$ F  z$ _5 E9 ?) |
Opus简介) ]# v" r! y* A1 N. o
Opus是完全开源免费的高通用性音频编解码协议,由Internet Engineering Task Force (IETF)标准化。* ]' `( X, q" X3 t% V

+ Y  O& y) S- |4 \% u$ e9 L5 ]Opus可以处理广泛的音频应用,包括IP语音、视频会议、游戏内聊天,甚至远程现场音乐表演。它可以从低比特率窄带语音缩放到非常高质量的立体声音乐,并且具备以下特点:: ^# L+ S* q( R3 ]
·比特率范围:6kb /s到510 kb/s- C# q+ q4 T4 Z5 z9 c& {2 a* ~
·采样率范围:8khz(窄带)到48kHz(全带)0 K* j; ?3 R6 j9 W) L7 F
·帧大小:2.5 ms到60 ms2 d/ O+ i( k; \& w- I: t2 L
·比特率,采样率,帧大小动态可调节
9 h! s+ x7 w# r·支持固定比特率(CBR)和可变比特率(VBR)0 [! s. x7 V9 Z& Q
·支持语音和音乐/ b+ @0 k" j" R/ `6 j3 B
·支持单声道和立体声* O% W: `# X: j. G: l" y2 W* Q
·最多支持255个通道
& U1 m# @9 e* ?1 o9 ~  T4 c% z·良好的鲁棒性和丢包隐藏能力
0 @% J9 [! B9 ]& L  W·支持浮点和定点# @$ L2 m+ i, V- _  A; D) O

) a; [# C5 g; F/ j  BBlueVoiceOPUS协议
' e3 Q: p) U; I" F, Z. B5 p3 kBlueVoiceOPUS是自定义的协议,Central和Peripheral是GAP层的角色,在点对点通讯中,主动发起连接请求的设备为Central。在GATT协议中,Server接受请求和命令,将数据保存在属性中。Client实施服务发现流程,并向Server请求数据。
. l" e+ I$ t: r' @
- P) N" N# H4 c& F* J2 n& S& z如果是单向的非对称语音系统,那么具备麦克风的设备可以定义为Server,客户端可以主动或被动接收Server的语音数据流。
; m: b' Q5 s/ V/ e) I# i3 F: _7 A
12.png
▲图2.GATT角色分配
如图2,FP-AUD-BVLINKWB1提供了双向的系统,双方设备都具备语音的能力,所以双方都实现了GATT Server以及Client的角色。并且,Server的语音数据基于notification性质,将以异步的方式主动发送给Client。# r7 D' J( o0 Y' ~4 \: |! |# J

- P  u' v; @6 r, y* V6 ]. \✦ BlueVoiceOPUS服务- ~6 a) P0 |% I# u  H
ATT协议用于在设备中进行数据交换,ATT的最小实体称为属性。GATT服务由各种服务组成,其中服务由服务申明属性作为起始,每一个服务又包含若干特性,特性由任意属性或属性描述符组成。# C* N! u" A  A: D
* p9 s. U' n" I% d. ~" I4 S2 L8 [
表1是典型的BLE服务的属性表,其中包含了1个服务申明以及3个特性。Audio特性用来通知对方设备音频数据。Ctrl特性通知对方设备控制数据,比如播放,暂停等。Music特性用来通知对方音乐数据,该特性只在ST BLE Sensor APP中实现,取代Audio特性,用来传输压缩后的48KHz立体音乐。6 w- }% V6 F4 W& N& n
13.png
▲表1.BlueVoiceOPUS服务属性表
✦ BLUEVoiceOPUS实现9 D$ D' V# E9 _" x* |9 U* K+ q
在Middleware层,和BlueVoiceOPUS协议相关的文件包括:
& N7 |1 ~& h, b- |" D4 Q) xbvopus_service_stm:该文件管理所有和BLE相关的功能,包括添加服务和添加特性,以及数据的接收和发送。其中包含了一个简单的数据封包和解析协议。
: H* ~8 ^; @& k$ m3 A+ n0 @% N' t! b$ G9 n- @' n, b
opus_interface_stm:该文件实现了Opus编码器和BlueVoiceOPUS服务的接口。提供简单的API用于Opus初始化,配置,数据压缩和解压等。
7 p, W7 N! s% p  W* N7 |; I- J0 X$ j1 e2 }
应用层介绍
# t* ~& r$ s5 u6 F$ k在软件包中包含了三个主要的工程:
0 O4 e& I( |" V& U·BVLCentral:作为主设备主动发起连接,并提供BlueVoiceOPUS服务。
' ]. u" i6 q! B- }* Y) k·BVLPeripheral:作为从设备广播,并提供BlueVoiceOPUS服务。
/ H% n! X& z- C$ }·BVLPeripheral_FullBand:作为从设备广播,提供BlueVoiceOPUS服务, 可以通过BLE接收立体声音乐,但目前只能和ST BLE Sensor相连。- b8 M  h$ Z0 x$ L/ ]
·BVLCentral和BVLPeripheral分别烧录到WB55的开发板中,分别作为主机和从机,通过开启或停止音频通知,可以达到三种不同类型的通讯:单工,半双工和全双工。
& I# U& {, `/ f- J% H·当设备在输出音频流时,应用层负责语音的获取,数据压缩和封包,然后通过BlueVoiceOPUS协议发送出去。
2 Z( g; _0 c. s  x( |9 w- m' [$ Y+ m5 k# R' i+ d- u( r3 H) Q7 Q
·当设备在接收音频流时,应用层通过从BlueVoiceOPUS协议中接收BLE数据包,然后解包和解码OPUS语音数据。
* M1 e  v  F. x! e6 Z5 e* C, s8 t& R; l3 [& |6 m; y  R6 s
通过P-NUCLEO-WB55上的SW1控制打开或关闭语音流通道。
! l6 b1 }& T  d通过LED显示设备的状态。
: Q$ b+ g; q- E: {% u  E3 e4 j·广播/发现状态:绿色LED闪烁# k. f6 M" w3 \# S3 Q
·连接状态:蓝色LED缓慢闪烁
; x5 N3 x/ O0 W·语音流状态:蓝色LED正常闪烁- q" D9 F/ _" f9 \7 U
·接收状态:蓝色LED稳定点亮(不闪烁)# q3 g( b! i& |, ^; ]
·全双工状态:蓝色LED快速闪烁(双方设备)
3 A2 q' I2 e3 [6 \
( m0 |! N9 Z7 I( r) s' HBVLCentral可以由APP(ST BLE Sensor)代替,完成设备和手机端的全双工语音通讯。* ?! ^5 x1 K  t& B3 t
14.png
▲图3.应用流程图
整个应用流程如图3所示,整个流程介绍如下:
. ~) F" R3 P8 g$ h  J- A+ Z8 t·从设备广播,主设备发起连接,直到连接建立成功。, ~, n$ `% D) N; w. e
·双方互相完成服务和特性发现流程。: Q) r* m+ R8 {& B
·从设备通过按钮,请求打开特性通知,主设备打开通知,从设备发送语音流,此时状态为语音流状态。
6 I2 Q% ^0 F; d9 J·相反地,主设备通过按钮,请求打开特性通知,从设备打开通知,主设备发送语音流,此时状态变为全双工状态。
$ v$ t6 \) s# i2 @·可以通过按钮,开关语音流,改变语音流状态。
3 o& I: t$ m4 Z% h% M! W( N/ v
) c( o+ ?, S+ H
三系统部署指导

8 u2 z! L0 D5 p# {' k下面将从不同方面分别介绍Demo的部署流程。& s1 [! ]' a1 c$ @
两块STM32WB开发板之间的全双工音频流
' G& ^  i; r2 I) g$ E) A6 @
15.png
▲图4.NUCLEO+CCA02M2的组合
如上图4 ,可以使用P-NUCLEO-WB55开发板与一块麦克风扩展板X-NUCLEO-CCA02M2进行组合。然后分别烧录BVLCentral工程和BVLPeripheral工程。当双方设备建立连接以后,通过Nucleo上的SW1按钮,就可以建立起半双工或全双工的语音流了。麦克风扩展板可以对语音信号以8kHz或16kHz进行采集,并通过BlueVoiceOPUS协议传输,当对方设备接收到语音数据后,也通过usb传输到PC,使用刻录软件(如audacity)进行刻录保存,然后使用Audacity或其他语音软件播放。
# }% b+ e6 r+ G" ?
16.png
▲图5.STM325MM-DK探索板

# c  N8 c" x3 e9 d+ }+ }' c; t$ }如上图5,也可以使用STM32WB5MM-DK进行同样的操作,该开发板使用了STM32WB5MM的模组,并且板载了一块OLED显示屏供开发。- X. {$ D# Z1 s6 w8 j1 |6 k' I- ?1 M
: h. u( }# C% q* G1 [6 O# c( Z
当然也可以使用图4和图5的组合,只要一块烧录的是主机程序,另一块烧录的是从机程序即可。$ h- i$ [! W( }" s% y$ V! a/ [+ `+ I
2 {1 q: a/ X. h) F( @
STM32WB开发板和手机之间的全双工音频流
; H% `. l- E" p4 ^$ U0 ^除了上面的配置方法外,ST还提供了ST BLE Sensor手机APP供测试。
% w+ {  ^$ {& q. L3 f3 J
17.png
▲图6.手机和开发板之间的音频流
  H6 K. `: d+ b) H) s  W2 {
如图6,手机可以作为主设备,扫描然后连接STM32WB55开发板,建立全双工的音频流的BLE链路。语音信号可以从开发板采集,发送到手机侧进行播放。也可以从手机侧采集,发送到开发板后,再通过USB进行播放。
/ x. F9 f* H3 @% P% y6 ]7 [
: ~' |  a" F( R% x& S* USTM32WB开发板和手机之间的立体声音乐播放
# o+ h* o" {. @5 U/ I+ v上面介绍的都是8kHz/16kHz的语音流,该软件包还提供了全带(Full-Band)的48kHz立体声音乐流方案。
# M+ M& ^! w: o1 ]) f+ ]& j% a$ d( O* ?+ q
18.png
▲图7.48kHz立体声音乐流方案

5 T  T, ?4 Q1 H: d如图7,手机扫描设备后,发起并建立连接,完成GATT服务发现流程,然后通过按钮打开特性的通知属性,建立全带音乐流。APP使用OPUS对手机内音乐进行压缩和封包,然后通过BLE发送给开发板。开发板通过USB将数据导出到PC上,最后使用Audacity或其他语音软件进行播放。/ z. Y5 u, R& [* k

# v+ h( r4 U' D; N
赞 收藏 评论7 发布时间:2022-4-14 09:20

举报

7个回答
lospring 回答时间:2022-6-16 14:46:43
内容很详细啊,马上下载试试
STMWoodData 回答时间:2022-6-16 14:46:51
学习学习
9 H+ E) y# o2 c3 b7 @5 o
STMWoodData 回答时间:2022-6-16 14:47:18
需要板子实验实验,哈哈哈哈( ]$ F$ t0 }+ o& I
态度决定一切 回答时间:2022-6-16 14:50:26
这个技术主要的应用场景是哪些呢?
ironman 回答时间:2022-6-16 14:50:39
图文注释,相当直观了!
态度决定一切 回答时间:2022-6-16 14:51:20
STMWoodData 发表于 2022-6-16 14:476 Y, ]  q: e5 X0 r' n/ n% j
需要板子实验实验,哈哈哈哈

! _* y5 z- h# X3 S2 O同意! 我还差块扩展板就可以实验了; W8 I5 a( g0 o5 _# V+ d
ghost110 回答时间:2022-6-16 15:16:33
很详细啊  ,感谢分享
2 u0 R6 ]' n! G! g

所属标签

相似技术帖

官网相关资源

关于
我们是谁
投资者关系
意法半导体可持续发展举措
创新与技术
意法半导体官网
联系我们
联系ST分支机构
寻找销售人员和分销渠道
社区
媒体中心
活动与培训
隐私策略
隐私策略
Cookies管理
行使您的权利
官方最新发布
人形机器人运动控制、感知与智能配电
半导体创新技术与应用方向
EE架构与软件定义汽车
12V/48V 汽车智能配电(SPD)
区域控制单元(ZCU)与分区架构
关注我们
st-img 微信公众号
st-img 手机版