[数值问题] forrtl:severe(179):cannot allocate array - overflow on array size calculation

490 帖子	4 主题	0 精华

大宗师

F 币: 3298 元
贡献: 1948 点

发消息

楼主

发表于 2017-2-28 08:37:37 | 显示全部楼层

本帖最后由 pasuka 于 2017-2-28 10:24 编辑

1 KB = 1024 Bytes
1 MB = 1024 KB
1 GB = 1024 MB之前算的不对，修正一下。。。
双精度维数90000的矩阵，占用计算机内存8.1e9*8/1024/1024/1024约等于60.35GB
改成动态分配数组，那么64位的操作系统和64位的Fortran编译器理论上可以分配这么大内存，但是lz的机器内存只有8G，相差一个数量级
还是修改算法吧

回复支持反对

使用道具举报

返回列表发新帖

[数值问题] forrtl:severe(179):cannot allocate array - overflow on array size calculation

水王勋章

元老勋章

热心勋章