一个简单的程序片段,
arr1 = list(range(1000000))
arr2 = list(range(1000000,2000000))
arr1_np = np.array(arr1)
arr2_np = np.array(arr2)
np.dot(arr1_np, arr2_np)
输出 -1942957984
正确的结果应该是 833332333333500000
请问大侠,问题出在哪儿呢?windows 10 64bit
我发现,把数字减小到千位数,(1000,(1000,2000)),结果正确。
arr1 = list(range(1000000))
arr2 = list(range(1000000,2000000))
arr1_np = np.array(arr1)
arr2_np = np.array(arr2)
np.dot(arr1_np, arr2_np)
输出 -1942957984
正确的结果应该是 833332333333500000
请问大侠,问题出在哪儿呢?windows 10 64bit
我发现,把数字减小到千位数,(1000,(1000,2000)),结果正确。