遇到了一个奇怪的赋值现象

zszqzzzf
炼狱天使——反者道之动 07月09日 字数 126

length(D3)

ans =

23157555

Ab=[a1(:,3)-1;length(D3)];

Ab(end)

ans =

single

23157556

为什么这么简单的赋值,引发值发生变异呢?

MathTools 数学工具
2 个回复
wushunchao
fixer 07月09日

就是single的精度问题吧,第8位不准。

> a=single(23157555)

a =

23157556

>

【 在 zszqzzzf (炼狱天使——反者道之动) 的大作中提到: 】

: length(D3)

: ans =

:     23157555

: ...................

zszqzzzf
炼狱天使——反者道之动 07月09日

谢谢!

【 在 wushunchao (fixer) 的大作中提到: 】

: 就是single的精度问题吧,第8位不准。

: a =

:     23157556

: ...................