7

我有 36,742 个点的输入,这意味着如果我想计算距离矩阵的下三角形(使用 vincenty 近似值),我需要生成 36,742*36,741*0.5 = 1,349,974,563 距离。

我想保留彼此相距 50 公里以内的配对组合。我目前的设置如下

shops= [[id,lat,lon]...]

def lower_triangle_mat(points):
    for i in range(len(shops)-1):
        for j in range(i+1,len(shops)):
            yield [shops[i],shops[j]]

def return_stores_cutoff(points,cutoff_km=0):
    below_cut = []
    counter = 0
    for x in lower_triangle_mat(points):
        dist_km = vincenty(x[0][1:3],x[1][1:3]).km
        counter += 1
        if counter % 1000000 == 0:
            print("%d out of %d" % (counter,(len(shops)*len(shops)-1*0.5)))
        if dist_km <= cutoff_km:
            below_cut.append([x[0][0],x[1][0],dist_km])
    return below_cut

start = time.clock()
stores = return_stores_cutoff(points=shops,cutoff_km=50)
print(time.clock() - start)

这显然需要几个小时。我想到的一些可能性:

  • 使用 numpy 向量化这些计算,而不是循环遍历
  • 使用某种散列来快速粗略截断(100 公里内的所有商店),然后只计算这些商店之间的准确距离
  • 不要将点存储在列表中,而是使用四叉树之类的东西,但我认为这只有助于近距离点的排名而不是实际距离 - >所以我猜是某种地理数据库
  • 我显然可以尝试使用haversine或project并使用欧几里得距离,但是我有兴趣使用最准确的测量方法
  • 利用并行处理(但是我在想出如何剪切列表以仍然获得所有相关对时遇到了一些困难)。

编辑:我认为这里肯定需要geohashing - 一个例子来自

from geoindex import GeoGridIndex, GeoPoint

geo_index = GeoGridIndex()
for _ in range(10000):
    lat = random.random()*180 - 90
    lng = random.random()*360 - 180
    index.add_point(GeoPoint(lat, lng))

center_point = GeoPoint(37.7772448, -122.3955118)
for distance, point in index.get_nearest_points(center_point, 10, 'km'):
    print("We found {0} in {1} km".format(point, distance))

但是,我还想对地理哈希返回的商店的距离计算进行矢量化(而不是循环)。

Edit2:Pouria Hadjibagheri - 我尝试使用 lambda 和 map:

# [B]: Mapping approach           
lwr_tr_mat = ((shops[i],shops[j]) for i in range(len(shops)-1) for j in range(i+1,len(shops)))

func = lambda x: (x[0][0],x[1][0],vincenty(x[0],x[1]).km)
# Trying to see if conditional statements slow this down
func_cond = lambda x: (x[0][0],x[1][0],vincenty(x[0],x[1]).km) if vincenty(x[0],x[1]).km <= 50 else None

start = time.clock()
out_dist = list(map(func,lwr_tr_mat))
print(time.clock() - start)

start = time.clock()
out_dist = list(map(func_cond,lwr_tr_mat))
print(time.clock() - start)

它们都在61 秒左右(我将商店数量从 32,000 限制到 2000)。也许我用错了地图?

4

4 回答 4

6

这听起来像是k -D 树的经典用例。

如果您首先将您的点转换为欧几里得空间,那么您可以使用以下query_pairs方法scipy.spatial.cKDTree

from scipy.spatial import cKDTree

tree = cKDTree(data)
# where data is (nshops, ndim) containing the Euclidean coordinates of each shop
# in units of km

pairs = tree.query_pairs(50, p=2)   # 50km radius, L2 (Euclidean) norm

pairs将是一个元组set(i, j)对应于彼此相距≤50km 的商店对的行索引。


的输出tree.sparse_distance_matrix是一个scipy.sparse.dok_matrix。由于矩阵将是对称的,并且您只对唯一的行/列对感兴趣,您可以使用scipy.sparse.tril将上三角形归零,给您一个scipy.sparse.coo_matrix. .row从那里您可以通过,.col.data属性访问非零行和列索引及其对应的距离值:

from scipy import sparse

tree_dist = tree.sparse_distance_matrix(tree, max_distance=10000, p=2)
udist = sparse.tril(tree_dist, k=-1)    # zero the main diagonal
ridx = udist.row    # row indices
cidx = udist.col    # column indices
dist = udist.data   # distance values
于 2016-02-09T18:22:06.853 回答
1

您是否尝试过映射整个数组和函数而不是遍历它们?一个例子如下:

from numpy.random import rand

my_array = rand(int(5e7), 1)  # An array of 50,000,000 random numbers in double.

现在通常做的是:

squared_list_iter = [value**2 for value in my_array]

哪个当然有效,但最好是无效的。

另一种方法是使用函数映射数组。这是按如下方式完成的:

func = lambda x: x**2  # Here is what I want to do on my array.

squared_list_map = map(func, test)  # Here I am doing it!

现在,有人可能会问,这有什么不同,甚至更好?从现在开始,我们也添加了对函数的调用!这是你的答案:

对于前一个解决方案(通过迭代):

1 loop: 1.11 minutes.

与后一种解决方案(映射)相比:

500 loop, on average 560 ns. 

同时将 a 转换map()为 list bylist(map(my_list))会将时间增加 10 倍至大约500 ms.

你选!

于 2016-02-09T16:57:06.567 回答
1

谢谢大家的帮助。我想我已经通过整合所有建议解决了这个问题。

我使用 numpy 导入地理坐标,然后使用“France Lambert - 93”投影它们。这让我可以用点填充 scipy.spatial.cKDTree ,然后通过指定 50 公里的截止值来计算 sparse_distance_matrix(我的投影点以米为单位)。然后我提取提取下三角形到 CSV。

import numpy as np
import csv
import time
from pyproj import Proj, transform

#http://epsg.io/2154 (accuracy: 1.0m)
fr = '+proj=lcc +lat_1=49 +lat_2=44 +lat_0=46.5 +lon_0=3 \
+x_0=700000 +y_0=6600000 +ellps=GRS80 +towgs84=0,0,0,0,0,0,0 \
+units=m +no_defs'

#http://epsg.io/27700-5339 (accuracy: 1.0m)
uk = '+proj=tmerc +lat_0=49 +lon_0=-2 +k=0.9996012717 \
+x_0=400000 +y_0=-100000 +ellps=airy \
+towgs84=446.448,-125.157,542.06,0.15,0.247,0.842,-20.489 +units=m +no_defs'

path_to_csv = '.../raw_in.csv'
out_csv = '.../out.csv'

def proj_arr(points):
    inproj = Proj(init='epsg:4326')
    outproj = Proj(uk)
    # origin|destination|lon|lat
    func = lambda x: transform(inproj,outproj,x[2],x[1])
    return np.array(list(map(func, points)))

tstart = time.time()

# Import points as geographic coordinates
# ID|lat|lon
#Sample to try and replicate
#points = np.array([
#        [39007,46.585012,5.5857829],
#        [88086,48.192370,6.7296289],
#        [62627,50.309155,3.0218611],
#        [14020,49.133972,-0.15851507],
#        [1091, 42.981765,2.0104902]])
#
points = np.genfromtxt(path_to_csv,
                       delimiter=',',
                       skip_header=1)

print("Total points: %d" % len(points))
print("Triangular matrix contains: %d" % (len(points)*((len(points))-1)*0.5))
# Get projected co-ordinates
proj_pnts = proj_arr(points)

# Fill quad-tree
from scipy.spatial import cKDTree
tree = cKDTree(proj_pnts)
cut_off_metres = 1600
tree_dist = tree.sparse_distance_matrix(tree,
                                        max_distance=cut_off_metres,
                                        p=2) 

# Extract triangle
from scipy import sparse
udist = sparse.tril(tree_dist, k=-1)    # zero the main diagonal
print("Distances after quad-tree cut-off: %d " % len(udist.data))

# Export CSV
import csv
f = open(out_csv, 'w', newline='') 
w = csv.writer(f, delimiter=",", )
w.writerow(['id_a','lat_a','lon_a','id_b','lat_b','lon_b','metres'])
w.writerows(np.column_stack((points[udist.row ],
                             points[udist.col],
                             udist.data)))
f.close()

"""
Get ID labels
"""
id_to_csv = '...id.csv'
id_labels = np.genfromtxt(id_to_csv,
                       delimiter=',',
                       skip_header=1,
                       dtype='U')

"""
Try vincenty on the un-projected co-ordinates
"""
from geopy.distance import vincenty
vout_csv = '.../out_vin.csv'
test_vin = np.column_stack((points[udist.row].T[1:3].T,
                            points[udist.col].T[1:3].T))

func = lambda x: vincenty(x[0:2],x[2:4]).m
output = list(map(func,test_vin))

# Export CSV
f = open(vout_csv, 'w', newline='')
w = csv.writer(f, delimiter=",", )
w.writerow(['id_a','id_a2', 'lat_a','lon_a',
            'id_b','id_b2', 'lat_b','lon_b',
            'proj_metres','vincenty_metres'])
w.writerows(np.column_stack((list(id_labels[udist.row]),
                             points[udist.row ],
                             list(id_labels[udist.col]),
                             points[udist.col],
                             udist.data,
                             output,
                             )))

f.close()    
print("Finished in %.0f seconds" % (time.time()-tstart)

这种方法需要 164 秒来生成(对于 5,306,434 距离)——相比之下,需要 9 秒——并且大约需要 90 秒才能保存到磁盘。

然后我比较了文森特距离和斜边距离的差异(在投影坐标上)。

以米为单位的平均差为 2.7,每米的平均差为 0.0073% - 这看起来很棒。

于 2016-02-10T18:47:18.187 回答
0

“使用某种散列来快速粗略地切断(100 公里内的所有商店),然后只计算这些商店之间的准确距离”我认为这可能更好地称为网格化。所以首先做一个dict,以一组坐标为key,将每个商店放在该点附近50km的桶中。那么当你计算距离时,你只看附近的桶,而不是遍历整个宇宙中的每个商店

于 2016-02-09T16:59:42.447 回答