Dlaczego indeks gin w kolumnie jsonb spowalnia moje zapytanie i co mogę z tym zrobić?

10

Zainicjuj dane testowe:

CREATE EXTENSION IF NOT EXISTS pgcrypto;
CREATE TABLE docs (data JSONB NOT NULL DEFAULT '{}');
-- generate 200k documents, ~half with type: "type1" and another half with type: "type2", unique incremented index and random uuid per each row
INSERT INTO docs (data)
SELECT json_build_object('id', gen_random_uuid(), 'type', (CASE WHEN random() > 0.5 THEN 'type1' ELSE 'type2' END) ,'index', n)::JSONB
FROM generate_series(1, 200000) n;
-- inset one more row with explicit uuid to query by it later
INSERT INTO docs (data) VALUES (json_build_object('id', '30e84646-c5c5-492d-b7f7-c884d77d1e0a', 'type', 'type1' ,'index', 200001)::JSONB);

Pierwsze zapytanie - filtruj według danych-> typ i limit:

-- FAST ~19ms
EXPLAIN ANALYZE
SELECT * FROM docs
WHERE data @> '{"type": "type1"}'::JSONB
LIMIT 25;
/* "Limit  (cost=0.00..697.12 rows=25 width=90) (actual time=0.029..0.070 rows=25 loops=1)"
   "  ->  Seq Scan on docs  (cost=0.00..5577.00 rows=200 width=90) (actual time=0.028..0.061 rows=25 loops=1)"
   "        Filter: (data @> '{"type": "type1"}'::jsonb)"
   "        Rows Removed by Filter: 17"
   "Planning time: 0.069 ms"
   "Execution time: 0.098 ms" 
*/

Drugie zapytanie - filtruj według danych-> typ, uporządkuj według danych-> indeks i limit

-- SLOW ~250ms
EXPLAIN ANALYZE
SELECT * FROM docs
WHERE data @> '{"type": "type1"}'::JSONB
ORDER BY data->'index' -- added ORDER BY
LIMIT 25;

/* "Limit  (cost=5583.14..5583.21 rows=25 width=90) (actual time=236.750..236.754 rows=25 loops=1)"
   "  ->  Sort  (cost=5583.14..5583.64 rows=200 width=90) (actual time=236.750..236.750 rows=25 loops=1)"
   "        Sort Key: ((data -> 'index'::text))"
   "        Sort Method: top-N heapsort  Memory: 28kB"
   "        ->  Seq Scan on docs  (cost=0.00..5577.50 rows=200 width=90) (actual time=0.020..170.797 rows=100158 loops=1)"
   "              Filter: (data @> '{"type": "type1"}'::jsonb)"
   "              Rows Removed by Filter: 99842"
   "Planning time: 0.075 ms"
   "Execution time: 236.785 ms"
*/

Trzecie zapytanie - to samo co drugie (poprzednie), ale z indeksem btree na danych-> indeks:

CREATE INDEX docs_data_index_idx ON docs ((data->'index'));

-- FAST ~19ms
EXPLAIN ANALYZE
SELECT * FROM docs
WHERE data @> '{"type": "type1"}'::JSONB
ORDER BY data->'index' -- added BTREE index on this field
LIMIT 25;
/* "Limit  (cost=0.42..2473.98 rows=25 width=90) (actual time=0.040..0.125 rows=25 loops=1)"
   "  ->  Index Scan using docs_data_index_idx on docs  (cost=0.42..19788.92 rows=200 width=90) (actual time=0.038..0.119 rows=25 loops=1)"
   "        Filter: (data @> '{"type": "type1"}'::jsonb)"
   "        Rows Removed by Filter: 17"
   "Planning time: 0.127 ms"
   "Execution time: 0.159 ms"
*/

Czwarte zapytanie - teraz filtruj według danych-> id i limit = 1:

-- SLOW ~116ms
EXPLAIN ANALYZE
SELECT * FROM docs
WHERE data @> ('{"id": "30e84646-c5c5-492d-b7f7-c884d77d1e0a"}')::JSONB -- querying by "id" field now
LIMIT 1;
/* "Limit  (cost=0.00..27.89 rows=1 width=90) (actual time=97.990..97.990 rows=1 loops=1)"
   "  ->  Seq Scan on docs  (cost=0.00..5577.00 rows=200 width=90) (actual time=97.989..97.989 rows=1 loops=1)"
   "        Filter: (data @> '{"id": "30e84646-c5c5-492d-b7f7-c884d77d1e0a"}'::jsonb)"
   "        Rows Removed by Filter: 189999"
   "Planning time: 0.064 ms"
   "Execution time: 98.012 ms"
*/ 

Piąte zapytanie - to samo co czwarte, ale z indeksem gin (json_path_ops) na danych:

CREATE INDEX docs_data_idx ON docs USING GIN (data jsonb_path_ops);

-- FAST ~17ms
EXPLAIN ANALYZE
SELECT * FROM docs
WHERE data @> '{"id": "30e84646-c5c5-492d-b7f7-c884d77d1e0a"}'::JSONB -- added gin index with json_path_ops
LIMIT 1;
/* "Limit  (cost=17.55..20.71 rows=1 width=90) (actual time=0.027..0.027 rows=1 loops=1)"
   "  ->  Bitmap Heap Scan on docs  (cost=17.55..649.91 rows=200 width=90) (actual time=0.026..0.026 rows=1 loops=1)"
   "        Recheck Cond: (data @> '{"id": "30e84646-c5c5-492d-b7f7-c884d77d1e0a"}'::jsonb)"
   "        Heap Blocks: exact=1"
   "        ->  Bitmap Index Scan on docs_data_idx  (cost=0.00..17.50 rows=200 width=0) (actual time=0.016..0.016 rows=1 loops=1)"
   "              Index Cond: (data @> '{"id": "30e84646-c5c5-492d-b7f7-c884d77d1e0a"}'::jsonb)"
   "Planning time: 0.095 ms"
   "Execution time: 0.055 ms"
*/

Szóste (i ostatnie) zapytanie - to samo co trzecie zapytanie (zapytanie według danych-> typ, uporządkowanie według danych-> indeks, limit):

-- SLOW AGAIN! ~224ms
EXPLAIN ANALYZE
SELECT * FROM docs
WHERE data @> '{"type": "type1"}'::JSONB
ORDER BY data->'index'
LIMIT 25;
/* "Limit  (cost=656.06..656.12 rows=25 width=90) (actual time=215.927..215.932 rows=25 loops=1)"
   "  ->  Sort  (cost=656.06..656.56 rows=200 width=90) (actual time=215.925..215.925 rows=25 loops=1)"
   "        Sort Key: ((data -> 'index'::text))"
   "        Sort Method: top-N heapsort  Memory: 28kB"
   "        ->  Bitmap Heap Scan on docs  (cost=17.55..650.41 rows=200 width=90) (actual time=33.134..152.618 rows=100158 loops=1)"
   "              Recheck Cond: (data @> '{"type": "type1"}'::jsonb)"
   "              Heap Blocks: exact=3077"
   "              ->  Bitmap Index Scan on docs_data_idx  (cost=0.00..17.50 rows=200 width=0) (actual time=32.468..32.468 rows=100158 loops=1)"
   "                    Index Cond: (data @> '{"type": "type1"}'::jsonb)"
   "Planning time: 0.157 ms"
   "Execution time: 215.992 ms"
*/

Wygląda więc na to, że szóste (tak samo jak trzecie) zapytanie jest znacznie wolniejsze, gdy w kolumnie danych znajduje się indeks gin. Prawdopodobnie dlatego, że nie ma wielu odrębnych wartości dla pola data-> type (tylko „type1” lub „type2”)? Co mogę na to poradzić? Potrzebuję indeksu gin, aby uzyskać odpowiedzi na inne zapytania ...

użytkownik606521
źródło

Odpowiedzi:

5

Wygląda na to, że natknąłeś się na problem polegający na tym, że jsonbkolumny mają płaski współczynnik statystyczny 1%, jak podano tutaj. Pracujesz nad brakiem statystyk jsonb? . Patrząc na twoje plany zapytań, różnice między oszacowaniami a faktycznymi wykonaniami są ogromne. Szacunki mówią, że prawdopodobnie jest 200 wierszy, a faktyczny zwrot to 100158 wierszy, co powoduje, że planista faworyzuje niektóre strategie nad innymi.

Ponieważ wydaje się, że wybór w szóstym zapytaniu sprowadza się do faworyzowania skanowania indeksu bitmapowego zamiast skanu indeksu, możesz szturchnąć planistę SET enable_bitmapscan=offi spróbować przywrócić mu zachowanie, jakie miałeś w trzecim przykładzie.

Oto jak to dla mnie działało:

postgres@[local]:5432:postgres:=# EXPLAIN (ANALYZE, BUFFERS)
SELECT * FROM docs
WHERE data @> '{"type": "type1"}'::JSONB
ORDER BY data->'index'
LIMIT 25;
                                                                QUERY PLAN                                                                 
-------------------------------------------------------------------------------------------------------------------------------------------
 Limit  (cost=656.06..656.12 rows=25 width=90) (actual time=117.338..117.343 rows=25 loops=1)
   Buffers: shared hit=3096
   ->  Sort  (cost=656.06..656.56 rows=200 width=90) (actual time=117.336..117.338 rows=25 loops=1)
         Sort Key: ((data -> 'index'::text))
         Sort Method: top-N heapsort  Memory: 28kB
         Buffers: shared hit=3096
         ->  Bitmap Heap Scan on docs  (cost=17.55..650.41 rows=200 width=90) (actual time=12.838..80.584 rows=99973 loops=1)
               Recheck Cond: (data @> '{"type": "type1"}'::jsonb)
               Heap Blocks: exact=3077
               Buffers: shared hit=3096
               ->  Bitmap Index Scan on docs_data_idx  (cost=0.00..17.50 rows=200 width=0) (actual time=12.469..12.469 rows=99973 loops=1)
                     Index Cond: (data @> '{"type": "type1"}'::jsonb)
                     Buffers: shared hit=19
 Planning time: 0.088 ms
 Execution time: 117.405 ms
(15 rows)

Time: 117.813 ms
postgres@[local]:5432:postgres:=# SET enable_bitmapscan = off;
SET
Time: 0.130 ms
postgres@[local]:5432:postgres:=# EXPLAIN (ANALYZE, BUFFERS)
SELECT * FROM docs
WHERE data @> '{"type": "type1"}'::JSONB
ORDER BY data->'index'
LIMIT 25;
                                                               QUERY PLAN                                                               
----------------------------------------------------------------------------------------------------------------------------------------
 Limit  (cost=0.42..1320.48 rows=25 width=90) (actual time=0.017..0.050 rows=25 loops=1)
   Buffers: shared hit=4
   ->  Index Scan using docs_data_index_idx on docs  (cost=0.42..10560.94 rows=200 width=90) (actual time=0.015..0.045 rows=25 loops=1)
         Filter: (data @> '{"type": "type1"}'::jsonb)
         Rows Removed by Filter: 27
         Buffers: shared hit=4
 Planning time: 0.083 ms
 Execution time: 0.071 ms
(8 rows)

Time: 0.402 ms
postgres@[local]:5432:postgres:=#

Jeśli chcesz wybrać tę drogę, pamiętaj o wyłączeniu tego skanowania tylko w przypadku zapytań, które pokazują takie zachowanie, w przeciwnym razie wystąpią złe zachowania w przypadku innych planów zapytań. Wykonanie czegoś takiego powinno działać dobrze:

BEGIN;
SET enable_bitmapscan=off;
SELECT * FROM docs
WHERE data @> '{"type": "type1"}'::JSONB
ORDER BY data->'index'
LIMIT 25;
SET enable_bitmapscan=on;
COMMIT;

Mam nadzieję, że to pomaga =)

Kassandry
źródło
Nie jestem pewien, czy dobrze cię rozumiem (nie znam wewnętrznych PG) - to zachowanie jest spowodowane niską licznością w polu „typ” w kolumnie jsonb (i wewnętrznie spowodowane płaską stawką statystyczną), prawda? Oznacza to również, że jeśli chcę zoptymalizować moje zapytanie, muszę znać przybliżoną liczność pól jsonb, o które pytam, aby zdecydować, czy powinienem włączyć_bitmapscan, czy nie, prawda?
user606521,
1
Tak, wydaje się, że rozumiesz to z obu powodów. Podstawowa selektywność 1% sprzyja spojrzeniu na pole w WHEREklauzuli indeksu gin, ponieważ uważa, że ​​zwróci mniej wierszy, co nie jest prawdą. Ponieważ możesz lepiej oszacować liczbę wierszy, możesz zauważyć, że skoro to robisz ORDER BY data->'index' LIMIT 25, to skanowanie pierwszych kilku pozycji drugiego indeksu (około 50, z wyrzuconymi wierszami) spowoduje jeszcze mniej wierszy, więc mówienie planista tak naprawdę nie powinien próbować użyć bitmapscan w celu użycia szybszego planu zapytań. Mam nadzieję, że to wszystko wyjaśni. =)
Kassandry
1
Dodatkowe informacje wyjaśniające znajdują się tutaj: databasesoup.com/2015/01/tag-all-things-part-3.html oraz w tej prezentacji thebuild.com/presentations/json2015-pgconfus.pdf, aby również pomóc.
Kassandry
1
Jedyne znane mi dzieło to Oleg Bartunow, Tedor Sigaev i Alexander Kotorov na temat rozszerzenia JsQuery i jego ulepszeń w zakresie selektywności. Przy odrobinie szczęścia trafia do rdzenia PostgreSQL w wersji 9.6 lub nowszej.
Kassandry
1
Przytoczyłem 1% liczby z wiadomości e-mail w mojej odpowiedzi od Josha Berkusa, członka PostgreSQL Core Team. Skąd to wynika, wymaga znacznie głębszego zrozumienia elementów wewnętrznych niż obecnie, przepraszam. = (Możesz spróbować odpowiedzieć [email protected]na IRC lub sprawdzić na freenode IRC, #postgresqlskąd dokładnie pochodzi ta liczba.
Kassandry