博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
【arm】——tx2 float16测试
阅读量:4304 次
发布时间:2019-05-27

本文共 608 字,大约阅读时间需要 2 分钟。

code: main.cc

#include 
// 重点包含这个头文件#include
#include
int main(void){ int count = 100; float16_t* a = (float16_t *) malloc(count * sizeof(float16_t)); for (size_t i = 0; i < count; i++) { a[i] = i * 0.0001; } for (size_t i = 0; i < count; i++) { std::cout << a[i] << std::endl; } return 0;}

编译

g++ main.cc

输出

00.0001000170.0002000330.0002999310.0004000660.0005002020.0005998610.0006999970.0008001330.0008997920.0010004

float32的输出

00.00010.00020.00030.00040.00050.00060.00070.00080.00090.001
  • 可以看到因为精度的问题,float16的计算结果是有误差的。

转载地址:http://zuhws.baihongyu.com/

你可能感兴趣的文章
Android Context上下文解析
查看>>
第二章 向量(c)无序向量
查看>>
13_传智播客iOS视频教程_NSObject指针和id指针
查看>>
Silverlight 5 发布,新特性翻译及简单的特性解释
查看>>
TLE 中的教训
查看>>
[原]distcc源码研究五
查看>>
win21api、win32gui、win32con三个模块操作系统窗口时一些小技巧
查看>>
hbase伪分布式安装
查看>>
iOS去除字符串中的换行符
查看>>
aes 解密出现 java.lang.NumberFormatException: Invalid int: "ch"
查看>>
Lazarus 中文汉字解决方案
查看>>
使用Apache Server 的ab进行web请求压力测试
查看>>
java设计模式学习(-)
查看>>
如何消除inline-block产生的元素间空隙
查看>>
BZOJ 1103: [POI2007]大都市meg(dfs序,树状数组)
查看>>
莫队算法学习笔记
查看>>
apple pay代码实现
查看>>
数组(2)
查看>>
【bzoj 2060】[Usaco2010 Nov]Visiting Cows 拜访奶牛(树形dp)
查看>>
python cookbook 学习笔记 -- 1.4 字符串对齐
查看>>