forrtl:severe(179):cannot allocate array - overflow on array size calculation

Jackdaw · 发表于 2017-2-27 17:15:33

确实是的，按照单精度数组，每个元素4字节，一个数组81亿个元素，共30多G

Jackdaw · 发表于 2017-2-27 18:32:38

little_kar 发表于 2017-2-27 17:19
那该怎么解决呢？单纯的减小数组的话，我算的东西就失去意义了

修改算法内容，不要将数组全部放在内存里；或者换用满足要求的机器。

Jackdaw · 发表于 2017-2-28 08:45:35

pasuka 发表于 2017-2-28 08:37
1 Byte = 8 Bits

1 KB = 1024 Bytes

算错了吧，双精度要占8字节，一个数组81亿个元素，字节总数为8×81E8

[数值问题] forrtl:severe(179):cannot allocate array - overflow on array size calculation