家介绍经典C语言平方根倒数速算法(或称Fast Inverse Square Root)。详细推导魔法数字0x5f3759df究竟从何而来,并最终在MCU上对比该算法和<math.h>中double sqrt(double)方法的性能表现并给出使用建议。本文不涉及高深的数学变换或复杂的计算机原理,但希望读者具备一些C语言基础;此外任何相关领域的积累都可能有助于内容理解。+ j( T2 ?9 J+ t: n4 p y- f5 P' \) j
8 o" C% A; u1 ]- d: Y. n" W7 a希望本文能帮助到有需要的朋友。
" M( t! c/ e7 ` N3 l2 ]$ X) \ G$ D$ C+ n
平方根倒数简介
0 ^+ [# e6 g u4 M5 i+ U& P求平方根倒数在向量单位化操作中很常见,先举个例子,假设在二维平面内有一向量:
1 q9 }+ W# m& v% e 1 O3 M3 s' `/ k; [- F/ W7 q/ Q% w
将该向量单位化,即将向量模长缩放为1,用向量除以它的模,可以表达成下式:+ A7 B6 ?$ G% ]8 K

( w+ b( u# u/ m6 _此处,单位向量的坐标,即是原向量坐标和模长倒数的乘积。
9 X* b7 U4 i' d# W3 q一般而言,对任一数x,  即被称作平方根倒数。
2 M! C* W; r3 r5 g# V3 ]
$ z' j/ k) v a; X9 o' uC语言内求平方根倒数2 p8 Y- }" J5 a1 z6 a, ]- D
C语言内求平方根属于常规操作,因为<math.h>中已经提供了double sqrt(double)函数给大家调用,该函数接收一个double型变量,并返回其平方根。部分场合使用float类型,如果是我,我会这么写: - #include <math.h>4 _+ M% @+ |8 O3 Q* s
-
: q$ R' j4 [4 C - float x =0;
# @! T0 ^8 G4 B/ } k( B* L8 c - ; i b4 d2 @5 l
- float inverse_square_root =0;
. X3 m$ P j3 r$ H. ?3 n& j' m - 1 h5 |( t0 F% s2 ^, l' ]6 [
- inverse_square_root =1/sqrt(x);
复制代码
- K* i/ A6 P0 v8 i% e, x+ t( r7 ?- W/ R3 e
事实上,大多数计算机处理加法和乘法时更快,对于除法和开方运算,速度相对较慢。定义在<math.h>中的sqrt()方法其系统开销是比较大的,尤其在部分MCU上,有时不能很好地满足系统实时性要求。
+ G3 n- p0 r- l( F6 ?& C 速算法介绍
# t. \3 _' P! i& t! o1 S) Y+ c该情景与上世纪末PC算力较低的情况颇有几分相似,而在那段PC内存按MB计算的岁月里,优秀的C语言程序员们找到了该问题的解决方法:平方根倒数速算法(Fast Inverse Square Root),据说该算法最早由GaryTarolli在SGI Indigo开发中使用,对起源感兴趣的朋友可自行探究。. s! S+ F1 [; |/ g2 }
平方根倒数速算法是一个单独的函数实现,代码如下:- float FInvSqrtRoot(float x)0 S$ l b. Z/ m9 M9 K5 Q- i
-
$ ~% C2 u, E3 ^8 Z8 N& Q0 E: E! x - {
, d. G, X8 K) ?& l& y - % C6 m3 M" R$ u c
- long i = 0;7 E- B: q& ?% J' i, U: P: t, U
- / u' \9 N: }7 ?$ ?3 I+ x6 F: G
- float y, halfx;+ S' t4 H2 X. N0 ^
-
: v1 k0 w' |! s7 y3 O8 e2 x' [! ^ - halfx = 0.5 * x;$ h8 j2 ?* N5 X" z5 I* g
- * H5 h8 S5 y% q& O* L3 e1 T
- i = *(long*) &x; // 按照整型方法操作浮点数; h* S* R$ h* ^4 }
-
& R6 d. |" s% q# m. O - i = 0x5f3759df - (i >> 1); // 魔法?: Q; Z) t6 j% [
- + X$ }$ m0 b; ]$ r
- y = *(float*) &i; // 获得平方根倒数近似值% G6 S2 E- [0 m$ x) q
- % F1 X7 V' P, k& J/ d& e7 E j" v, h' j
- y = y * (1.5 - halfx * y * y); // 一次牛顿迭代
1 p, [. _; m) J6 `) j$ l -
/ C- i; Z" r4 N+ Q N$ g! p - return y;& V) A4 M- [+ S
- & e v6 O: J' G2 W) o3 d
- }
复制代码
+ @- f" J0 _; G0 \ y4 _( V- D4 ` # n0 P n2 {$ h0 q+ n( B+ {
6 U' B* o1 L0 ~8 n% N6 F! t5 J- ?+ |
该函数接收一个float型变量,并返回其平方根倒数。
7 l- c/ I" |( F* o1 t# g5 o6 Q2 Y9 |7 K
Step1.奇怪的地址类型转换 - i = *(long *) &x; // 按照整型方法操作浮点数
复制代码
) l+ q; L! I) v" ~& b/ X/ v代码第四行将浮点数x按照整型数据操作,这里的操作方法与类型转换有很大不同;类型转换将内存中按照浮点数标准表示的值近似为最接近的整数,并按照整数标准储存在内存中,像这样:i=(long)x;要理解*(long *) &x与(long)x的不同,需要了解浮点数在计算机中的表示方法。1 P' F) P% [8 |2 F6 N! p
浮点数在计算机中使用类似科学计数法的形式储存,float类型的浮点数使用32bit表示,结构如下:
9 w, i. R' u- R: ?3 [# b9 t. J* y

) V+ b# i4 x# K" U( X: n( C3 I/ ^. d
最高位,第31位,为符号位,若S=0,该浮点数为正数;若S=1,该浮点数为负数。+ b" j E# x3 O! T
接下来的8位数字,为指数部分,指数E范围为[0,255],为可以表示负指数,规定在E的范围基础上-127,即[-127,128];例如E=3表示2^(3-127)=2^(-124)。8 @) W4 k/ [9 x0 w3 O/ k
接下来的23位数字,为尾数部分,即有效数字部分。由于二进制下有效数字必为1.xxx的形式,整数部分必为1,因此无需使用第22位表示整数1,而是直接表示小数点后一位,整数部分不在尾数M中体现,只在计算时加上;即M=0101…表示二进制的1.0101。以上,float型浮点数在内存中的存放形式已经明确。0 J3 }- K4 h, W8 t% Z
现假设有一float型浮点正数x,其在内存中按照上述方式存放,即: 
则x表示的浮点数值为: 
注意平方根倒数速算法只接收正数,所以全文只讨论x为正浮点数的情况。 此时再回来看i=*(long *) &x这行代码; 第一步;取x的地址,注意此时x的地址指向一个浮点数,内存中对应的数据为:E*2^23+M 第二步;将该地址转换为指向long整型的地址,注意转换的是地址类型而不是数据,现在内存中的数据仍然是:E*2^23+M 第三步,取该地址指向的数据,赋给i;此时程序将按照整型标准去读取这个数据。因此,可以将i理解为x对应内存数据的整型解释。现在可以对i进行整型支持的操作,比如接下来要用到的位移操作。 准备工作已经完成,现在进入算法的核心,即施放魔法: - i = 0x5f3759df - (i >> 1); // 魔法?
复制代码
) z# d- S# |3 p7 @要理解这行代码,需要一点点数学铺垫;我们先给x表示的浮点数取个对数: 
其中,M表示尾数,M/2^23范围在[0,1)之间;在极限理论中,若x属于[0,1],有以下关系: 
即在x接近0或1的条件下,log2(1+x)接近x;很明显当x不靠近0或1时,误差会变大,如下图左侧所示: 
如果在等式右侧加入一个微小量u,可以使得x+u在[0,1]范围内近似log2(1+x),如上图右侧所示: 
所以有: 
因此, 
) e, H; S& W1 U7 N; s3 x6 b" s2 `0 D% ]& n- M
此时再倒回去看浮点数x在内存中的存放形式,即:E*2^23+M; 因此可以认为浮点数的对数形式与其内存存放形式相似,只是添加了缩放和平移。我们知道: 
令: 
所以有: 
将上式展开: 2 _3 ~! z' Q% l' U

稍作整理: 
这太棒了,因为浮点数在内存中的存放形式,即:E*2^23+M 而上式中 
则相当于对其内存形式右移1位,即 
由此可知,魔法数字0x5f3759df就是包含u在内的修正项: 
至此我们已经完成了魔法代码的解析: 这太棒了,因为浮点数在内存中的存放形式,即:E*2^23+M 而上式中 
则相当于对其内存形式右移1位,即 
由此可知,魔法数字0x5f3759df就是包含u在内的修正项: 
至此我们已经完成了魔法代码的解析: - i = 0x5f3759df - (i >> 1); // 魔法
复制代码 4 _& e" g' i2 [& M$ t) U( ]
i就是x对应内存数据的整型解释,将i右移1位相当于乘以二分之一,也就是1/2*(Ex*2^23+Mx); 等式右侧的运算结果,就是 
,也就是 
即 
注意此时程序认为i是整型变量,所以需要下一行代码再将其转换为浮点型; y = *(float *) &i; // 获得平方根倒数估计值此时y即是x的平方根倒数。
$ Z8 R% {1 o# u3 `2 u* y3 d Step3.优化结果, H1 w' ~- E# v( F
由于上述推导中,引入了修正系数u,所以y只是近似解。9 M! C: w/ S1 }& f1 @5 ^
% N4 F3 c" G7 d$ v1 g# ^
接下来使用牛顿法(Newton Method)进行一次迭代,使y更接近准确值。简单来说,使用牛顿法,可以从一个近似解获得一个更接近准确答案的解;牛顿法的核心思想是迭代,对于我们正在讨论的问题,属于已知x求y的类型,即$ o2 U5 |% H2 ^; u
2 N0 {: V V! m5 Y' n3 N& r
 0 q# X* T# H% D
6 A- Y+ s# v/ r( l2 _
假设已经获取一个近似解y1,则可以通过一次迭代求取更优解y2:) a1 c9 L2 ?' q4 n& s( |1 z" h
$ @6 \ Q; G' E- m

$ _& y% Y4 ]6 H8 l4 _; d: I: ^% U: L7 T* q* p% [! q0 g
神奇的是计算y2仅需要乘法和减法运算,于是有如下代码:
. S4 h; a/ P5 u, j* y' @6 R! D
! Z- `! l* s3 c" ^' ^8 K/ Xy = y * (1.5 - halfx * y * y); // 一次牛顿迭代
6 ^6 Z3 k9 F9 G' p7 J5 s) r7 i' H4 ~* D3 B: y
该行代码返回优化后的平方根倒数,也就是最终运算结果。
' Y( K+ D. B5 g; Y/ e7 ^; H# A; \) K- q9 k4 n1 u; O* c
性能测试% R/ s" g0 }1 E! I( J9 C4 j- b' ?
接下来我会在STM32G071上测试Fast Inverse Square Root算法与<math.h>中提供的double sqrt(double)算法的性能,并尝试以此证明它为何被尊为经典。STM32G071运行在64MHz下,编译器和调试器优化分别为-O0和-g3。
9 ]% S9 Z# d& f, u使用uint32_t替代long型:
% v' z, Q% P4 P: ~! T4 w# n5 ^
& {. `3 H3 m6 a/ w- ~- float FInvSqrtRoot(float x)$ ]. C& a& ~7 A) N' I$ Z; S
- * N5 E0 B7 o1 }. {+ w
- {
0 }/ v5 A2 k6 W1 M9 Q) X# w - . k7 l4 Z0 F, p4 t
- uint32_t i = 0;
$ R+ P' n. H, O' m) I2 `6 f - # C. S* Z3 X* a0 h+ r
- float y, halfx;
5 O" h- N6 n1 o, q- ]0 U -
# e) V- q! X! D" X/ m+ f, I+ Q - halfx = 0.5 * x;
2 i P( r* I9 Q$ G/ i4 u- R -
, x$ k/ ], `1 a; V) N( T% ]$ o/ r: T - i = *(uint32_t*) &x; // 按照整型方法操作浮点数5 ]5 N6 v4 i# i! S
-
^/ O6 R$ |/ t6 v. `& b+ l - i = 0x5f3759df - (i >> 1); // 施放魔法
* ~) M+ R# c6 | -
1 j6 P% i5 y) L) Y' r, a3 D! w - y = *(float*) &i; // 获得平方根倒数近似值
" g: [4 V! W2 Y' ~5 t( R5 Q - ; t) @, l0 @- f L
- y = y * (1.5 - halfx * y * y); // 一次牛顿迭代
1 p# j. C4 H# v5 D6 w2 @) j2 _ -
, w7 ?$ C! G1 [. e' R0 D. B- \9 t - return y;: s+ A7 P2 w8 i
- 3 n( {- K% P. q: ]! S' h3 x
- }
复制代码
4 U5 K+ ?/ C: y3 l2 b% J8 w
, ^% k1 ^- Y$ L# n: B7 a因为STM32G071的RAM大小为36KB,先构造了8000个float数据的数组,大小为32KB;构造方法如下:9 i$ ?# k* @% B1 h) n
$ \) ]. A4 F& r/ \7 X0 ^ # [& j1 K% x' X5 e, h0 P& ^9 i" D m
- float test_data[8000] ={ 0 };1 u# K8 b* N2 e. y. P
-
D! t- E# d* P, ^4 s k4 q& L - for (uint16_t i = 0; i < 8000; i++) J" |& K( h) A( P
- ( K2 Z( R* Z5 X t: \3 z
- test_data[i] = i * 1000 + (float)i / 1000;
复制代码 ' y+ h$ H% c, t
使用两种不同算法处理上述8000个数据,测试代码如下(注意此处仅作演示,测试方法不一定严谨):: o3 I+ |: l( o4 e6 m, z$ Q/ `6 p

, ?! T4 Y5 p9 l9 c& O0 \- //平方根倒数速算法' K0 A, X5 q) d
-
1 k4 \! r0 Q( B% b+ h4 U) M% | - printf("FISR Test Start!\r\n");
1 ]" p) ?0 c. W$ D: ]6 Y -
* ] A$ D, }4 Q7 ]2 W0 g - ticks = 0;//定时器计数,1ms/tick
0 C) Z4 v3 P3 y1 N5 s - - E3 a. n2 X! I
- HAL_TIM_Base_Start_IT(&htim1);4 O- ~- o, A& x# m
-
& O) _! { c4 s& E7 G - for (uint16_t i = 0; i < 8000; i++)/ @1 O( J9 V6 \% H% o
-
: V! p6 _+ \0 S - sroot=FInvSqrtRoot(test_data[i]);9 \( j3 }# {& b# l: e
- , s; B5 k0 e/ g, @6 c' z4 F& o- U
- HAL_TIM_Base_Stop_IT(&htim1);
0 O9 ?' k% Y8 D; f) |6 @' V - " R3 E0 C# d2 h
- printf("FISR Test Stop!\r\n");) g5 X( V L% O! E5 |0 P% ^
-
! b" h* G+ F6 U y" H, q2 \: I1 Y - printf("FISR Time Elapsed:%f\r\n", ((float) ticks) / 1000);1 m. \6 ~) y- y6 m! Y+ Y3 P( U$ F
-
D4 D2 q. @. ^5 I9 I! X; } -
! e% \" i- w* @4 Z - ) p/ D2 p8 Y8 M% F
- //传统1/sqrt()
3 C ]& s( P+ _) g5 @ -
( b( E" Y- j# w$ y - printf("SQRT Test Start!\r\n");
+ P* @9 O2 ^7 D) j( b$ f - ' M' @! B$ `4 Z5 o& c/ N" \0 K- z
- ticks = 0;) n6 P# G v. Z- J5 j/ i" U& l& n) ]
- ) @/ P7 M4 E: D$ A- C8 P2 T
- HAL_TIM_Base_Start_IT(&htim1);3 r$ ^; Z( A& `+ ^! Z" \
-
5 V/ N8 _$ v! i5 ^/ A! n - for (uint16_t i = 0; i < 8000; i++)3 _& X4 P. S: H6 W
- 2 X. G8 t9 H! B+ W( v! ?7 N
- sroot=1 / sqrt(test_data[i]);
# f N, z& r1 J7 q: G1 s - - b6 p7 z( U I. |0 x- g% |
- HAL_TIM_Base_Stop_IT(&htim1);3 R" A7 E6 w- p" Q3 j( F# `3 J
- 6 r4 S" O9 n0 f" l1 e
- printf("SQRT Test Stop!\r\n");6 d2 Q* r5 u% z1 _+ V, L' [
-
/ O i# B4 e$ _/ Z& ~ - printf("SQRT Time Elapsed:%f\r\n", ((float) ticks) / 1000);
复制代码
G) B/ K. t5 |) h% U在上述测试环境下,FInvSqrtRoot耗时181ms,1 / sqrt()耗时325ms,FInvSqrtRoot比1 / sqrt()快大约79%。由于sroot是float型,sqrt()返回double型,所以1 / sqrt()测试时有额外的类型转换损耗;将sroot更改为double型,则类型转换损耗由FInvSqrtRoot承担;该状态下,FInvSqrtRoot耗时187ms,1 / sqrt()耗时315ms,FInvSqrtRoot比1 / sqrt()快大约68%。注意FInvSqrtRoot求取的仅是平方根倒数的近似值,和1 / sqrt()比对,误差约在1%以内。* w( I2 S o# g. u* v R* ~8 O
& S! r- ?! G9 ^ F7 @1 O' P* ~
魔改:平方根速算法' _3 \8 K6 D4 Y V& W& N: b4 S* k
根据上述原理,可将平方根倒数速算法修改为平方根速算法,代码如下:
% ]6 ~6 d- C& W" w5 z8 A; @$ U4 A
3 Y% |5 W4 ~; X6 i1 Y- f- float FSqrtRoot(float x) {% f" O7 [8 ?- z5 A
- 9 v/ A, J" O+ }/ V$ Y q6 J: P! J3 \
- uint32_t i = 0;
) q _0 @$ c4 s: l3 M - 2 D2 L; m* ], T2 t
- float y;
) B8 K) f& T8 d- K8 V! S/ ? -
R5 W: {$ ?6 ?) t. _6 t% i - i = *(uint32_t *) &x; // 按照整型方法操作浮点数
! L& G# x( g; Y% S, z3 Y2 M) P -
) J( D9 M; \ u1 E- w3 p - i = 0x1fbd1df5 + (i >> 1); // 施放魔法
+ u: K( H/ B' M! P' P -
, d: z Q- V* } - y = *(float *) &i; // 获得平方根近似值
3 V7 m" ?5 @8 r& @9 E% V( u - 7 O, b- h9 d9 i
- y = 0.5 * (y + x / y); // 一次牛顿迭代/ u0 Q+ C3 n+ x! V( O/ c9 u
- 7 {7 ?# _) `' X/ }4 d6 a2 E+ L
- return y;1 N: y( {3 Q1 d3 `$ v
- 9 a* K% ~1 a+ y$ b. M5 k$ K
- }
复制代码 + M$ f( Z+ Y5 V; X' b6 q+ R
在上述测试环境下,FSqrtRoot耗时109ms,sqrt()耗时221ms,FInvSqrtRoot比sqrt()快大约100%。由于sroot是float型,sqrt()返回double型,所以sqrt()测试时有额外的类型转换损耗;将sroot更改为double型,则类型转换损耗由FSqrtRoot承担;该状态下,FSqrtRoot耗时115ms,sqrt()耗时208ms,FInvSqrtRoot比sqrt()快大约80%。' r% s4 }; _! Y% V3 D
感兴趣的朋友可自行推导实验,算法性能也请根据实际需求比对。 d5 n/ P( r5 g5 Z
---------------------9 \ i0 [# M" M% \1 d* Z$ c: M
作者:Litthins
* p0 |1 @0 l! m% s! w" p! z5 ~9 I) F9 G+ N, R4 c
# J# E* h7 e' L1 n! W4 I z
|