Maksymalna wartość na przekątną w tablicy 2d

9

Mam tablicę i potrzebuję maksymalnej różnicy kroczącej z dynamicznym oknem.

a = np.array([8, 18, 5,15,12])
print (a)
[ 8 18  5 15 12]

Najpierw sam tworzę różnicę:

b = a - a[:, None]
print (b)
[[  0  10  -3   7   4]
 [-10   0 -13  -3  -6]
 [  3  13   0  10   7]
 [ -7   3 -10   0  -3]
 [ -4   6  -7   3   0]]

Następnie zamień górną macierz trójkąta na 0:

c = np.tril(b)
print (c)
[[  0   0   0   0   0]
 [-10   0   0   0   0]
 [  3  13   0   0   0]
 [ -7   3 -10   0   0]
 [ -4   6  -7   3   0]]

Ostatnia potrzeba wartości maksymalnych na przekątną, więc oznacza to:

max([0,0,0,0,0]) = 0  
max([-10,13,-10,3]) = 13
max([3,3,-7]) = 3
max([-7,6]) = 6
max([-4]) = -4

Oczekiwany wynik to:

[0, 13, 3, 6, -4]

Jakie jest fajne rozwiązanie wektoryzowane? A może jest jakiś inny sposób uzyskania oczekiwanej wydajności?

jezrael
źródło

Odpowiedzi:

3

Nie jestem pewien, jak dokładnie jest to wydajne, biorąc pod uwagę zaawansowane indeksowanie, ale jest to jeden ze sposobów:

import numpy as np

a = np.array([8, 18, 5, 15, 12])
b = a[:, None] - a
# Fill lower triangle with largest negative
b[np.tril_indices(len(a))] = np.iinfo(b.dtype).min  # np.finfo for float
# Put diagonals as rows
s = b.strides[1]
diags = np.ndarray((len(a) - 1, len(a) - 1), b.dtype, b, offset=s, strides=(s, (len(a) + 1) * s))
# Get maximum from each row and add initial zero
c = np.r_[0, diags.max(1)]
print(c)
# [ 0 13  3  6 -4]

EDYTOWAĆ:

Inną alternatywą, która może nie być tym, czego szukasz, jest po prostu użycie Numba, na przykład:

import numpy as np
import numba as nb

def max_window_diffs_jdehesa(a):
    a = np.asarray(a)
    dtinf = np.iinfo(b.dtype) if np.issubdtype(b.dtype, np.integer) else np.finfo(b.dtype)
    out = np.full_like(a, dtinf.min)
    _pwise_diffs(a, out)
    return out

@nb.njit(parallel=True)
def _pwise_diffs(a, out):
    out[0] = 0
    for w in nb.prange(1, len(a)):
        for i in range(len(a) - w):
            out[w] = max(a[i] - a[i + w], out[w])

a = np.array([8, 18, 5, 15, 12])
print(max_window_diffs(a))
# [ 0 13  3  6 -4]

Porównanie tych metod z oryginałem:

import numpy as np
import numba as nb

def max_window_diffs_orig(a):
    a = np.asarray(a)
    b = a - a[:, None]
    out = np.zeros(len(a), b.dtype)
    out[-1] = b[-1, 0]
    for i in range(1, len(a) - 1):
        out[i] = np.diag(b, -i).max()
    return out

def max_window_diffs_jdehesa_np(a):
    a = np.asarray(a)
    b = a[:, None] - a
    dtinf = np.iinfo(b.dtype) if np.issubdtype(b.dtype, np.integer) else np.finfo(b.dtype)
    b[np.tril_indices(len(a))] = dtinf.min
    s = b.strides[1]
    diags = np.ndarray((len(a) - 1, len(a) - 1), b.dtype, b, offset=s, strides=(s, (len(a) + 1) * s))
    return np.concatenate([[0], diags.max(1)])

def max_window_diffs_jdehesa_nb(a):
    a = np.asarray(a)
    dtinf = np.iinfo(b.dtype) if np.issubdtype(b.dtype, np.integer) else np.finfo(b.dtype)
    out = np.full_like(a, dtinf.min)
    _pwise_diffs(a, out)
    return out

@nb.njit(parallel=True)
def _pwise_diffs(a, out):
    out[0] = 0
    for w in nb.prange(1, len(a)):
        for i in range(len(a) - w):
            out[w] = max(a[i] - a[i + w], out[w])

np.random.seed(0)
a = np.random.randint(0, 100, size=100)
r = max_window_diffs_orig(a)
print((max_window_diffs_jdehesa_np(a) == r).all())
# True
print((max_window_diffs_jdehesa_nb(a) == r).all())
# True

%timeit max_window_diffs_orig(a)
# 348 µs ± 986 ns per loop (mean ± std. dev. of 7 runs, 1000 loops each)
%timeit max_window_diffs_jdehesa_np(a)
# 91.7 µs ± 1.3 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)
%timeit max_window_diffs_jdehesa_nb(a)
# 19.7 µs ± 88.1 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)

np.random.seed(0)
a = np.random.randint(0, 100, size=10000)
%timeit max_window_diffs_orig(a)
# 651 ms ± 26 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
%timeit max_window_diffs_jdehesa_np(a)
# 1.61 s ± 6.19 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
%timeit max_window_diffs_jdehesa_nb(a)
# 22 ms ± 967 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)

Pierwszy może być nieco lepszy dla mniejszych tablic, ale nie działa dobrze dla większych. Z drugiej strony Numba jest całkiem niezła we wszystkich przypadkach.

Jdehesa
źródło
Czy możesz dodać czas, aby odpowiedzieć, np. Dla 10, 100, 1000 wartości w a?
jezrael
1
@jezrael Dodano możliwe rozwiązanie Numba i pewne środki czasu. Moje rozwiązanie NumPy tak naprawdę nie skaluje się dobrze, Numba jest dobre, chociaż nie jestem pewien, czy jest dla Ciebie przydatne.
jdehesa,
4

Posługiwać się ndarray.diagonal

v = [max(c.diagonal(-i)) for i in range(b.shape[0])]
print(v) # [0, 13, 3, 6, -4]
Chłopak
źródło
1

Możesz użyć numpy.diagonal:

a = np.array([8, 18, 5,15,12])
b = a - a[:, None]
c = np.tril(b)
for i in range(b.shape[0]):
    print(max(c.diagonal(-i)))

Wynik:

0
13
3
6
-4
Sayandip Dutta
źródło
Myślę, że wektoryzacja, brak pętli
jezrael
1

Oto wektoryzowane rozwiązanie z strides-

from skimage.util import view_as_windows

n = len(a)
z = np.zeros(n-1,dtype=a.dtype)
p = np.concatenate((a,z))

s = view_as_windows(p,n)
mask = np.tri(n,k=-1,dtype=bool)[:,::-1]
v = s[0]-s
out = np.where(mask,v.min()-1,v).max(1)

Z jedną pętlą zapewniającą wydajność pamięci -

n = len(a)
out = [max(a[:-i+n]-a[i:]) for i in range(n)]

Użyj np.maxzamiast maxlepszego wykorzystania pamięci tablicowej.

Divakar
źródło
1
@jezrael Zależy od wielkości danych, jak sądzę. W przypadku dużych rozmiarów wydaje mi się, że pętla z krojeniem + max może wygrać ze względu na wydajność pamięci.
Divakar,
1

Można nadużywać, że przekształcenia nie-kwadratowych tablice kształtem (N+1, N)do (N, N+1)uczynią przekątne pojawiają się jako kolumny

from scipy.linalg import toeplitz
a = toeplitz([1,2,3,4], [1,4,3])
# array([[1, 4, 3],
#        [2, 1, 4],
#        [3, 2, 1],
#        [4, 3, 2]])
a.reshape(3, 4)
# array([[1, 4, 3, 2],
#        [1, 4, 3, 2],
#        [1, 4, 3, 2]])

Którego potem możesz użyć jak (zwróć uwagę, że zamieniłem znak i ustawiłem dolny trójkąt na zero)

smallv = -10000  # replace this with np.nan if you have floats

a = np.array([8, 18, 5,15,12])
b = a[:, None] - a

b[np.tril_indices(len(b), -1)] = smallv
d = np.vstack((b, np.full(len(b), smallv)))

d.reshape(len(d) - 1, -1).max(0)[:-1]
# array([ 0, 13,  3,  6, -4])
Nils Werner
źródło