Nadmiar pamięci sortowania

45

Dlaczego to proste zapytanie ma tak dużo pamięci?

-- Demo table
CREATE TABLE dbo.Test
(
    TID integer IDENTITY NOT NULL,
    FilterMe integer NOT NULL,
    SortMe integer NOT NULL,
    Unused nvarchar(max) NULL,

    CONSTRAINT PK_dbo_Test_TID
    PRIMARY KEY CLUSTERED (TID)
);
GO
-- 100,000 example rows
INSERT dbo.Test WITH (TABLOCKX)
    (FilterMe, SortMe)
SELECT TOP (100 * 1000)
    CHECKSUM(NEWID()) % 1000,
    CHECKSUM(NEWID())
FROM sys.all_columns AS AC1
CROSS JOIN sys.all_columns AS AC2;
GO    
-- Query
SELECT
    T.TID,
    T.FilterMe,
    T.SortMe,
    T.Unused
FROM dbo.Test AS T 
WHERE 
    T.FilterMe = 567
ORDER BY 
    T.SortMe;

Dla około 50 wierszy optymalizator rezerwuje prawie 500 MB na sortowanie:

Szacowany plan

Paul White
źródło

Odpowiedzi:

42

Jest to błąd w SQL Server (od 2008 do 2014 włącznie).

Mój raport o błędach jest tutaj .

Warunek filtrowania jest przekazywany do operatora skanowania jako predykat resztkowy, ale pamięć przyznana dla sortowania jest błędnie obliczana na podstawie oszacowania liczności filtra wstępnego .

Aby zilustrować problem, możemy użyć (nieudokumentowanej i nieobsługiwanej) flagi śledzenia 9130, aby zapobiec zepchnięciu filtra do operatora skanowania . Pamięć przyznana sortowaniu jest teraz poprawnie oparta na szacunkowej liczności danych wyjściowych filtra, a nie na skanie:

SELECT
    T.TID,
    T.FilterMe,
    T.SortMe,
    T.Unused
FROM dbo.Test AS T 
WHERE 
    T.FilterMe = 567
ORDER BY 
    T.SortMe
OPTION (QUERYTRACEON 9130); -- Not for production systems!

Szacowany plan

W przypadku systemu produkcyjnego należy podjąć kroki, aby uniknąć problematycznego kształtu planu (filtr wypchnięty do skanu za pomocą sortowania w innej kolumnie). Jednym ze sposobów jest zapewnienie indeksu stanu filtru i / lub zapewnienie wymaganej kolejności sortowania.

-- Index on the filter condition only
CREATE NONCLUSTERED INDEX IX_dbo_Test_FilterMe
ON dbo.Test (FilterMe);

Po wprowadzeniu tego indeksu pożądany przydział pamięci dla sortowania wynosi tylko 928 KB :

Z indeksem filtra

Idąc dalej, następujący indeks może całkowicie uniknąć sortowania ( zero przyznania pamięci):

-- Provides filtering and sort order
-- nvarchar(max) column deliberately not INCLUDEd
CREATE NONCLUSTERED INDEX IX_dbo_Test_FilterMe_SortMe
ON dbo.Test (FilterMe, SortMe);

Z filtrem i indeksem sortowania

Przetestowano i potwierdzono błąd w następujących wersjach programu SQL Server x64 Developer Edition:

2014   : 12.00.2430 (RTM CU4)
2012   : 11.00.5556 (SP2 CU3)
2008R2 : 10.50.6000 (SP3)
2008   : 10.00.6000 (SP4)

Zostało to naprawione w dodatku Service Pack 1 dla programu SQL Server 2016 . Informacje o wersji obejmują:

Numer błędu VSTS 8024987
Skany tabel i skany indeksów z predykatem push down zwykle przeceniają przyznanie pamięci dla operatora nadrzędnego.

Testowane i potwierdzone na:

  • Microsoft SQL Server 2016 (SP1) - 13.0.4001.0 (X64) Developer Edition
  • Microsoft SQL Server 2014 (SP2-CU3) 12.0.5538.0 (X64) Developer Edition

Oba modele CE.

Paul White
źródło
5

Z SQL 2012 r Państwo mogli spojrzeć na dużą rozbieżność pomiędzy SerialRequiredMemoryi SerialDesiredMemory, na przykład coś takiego:

-- Search plan cache for Memory Grant issues
IF OBJECT_ID('tempdb..#tmp') IS NOT NULL DROP TABLE #tmp

-- Collect more info about the plan here if required, eg usecounts, objtype etc, 
SELECT IDENTITY( INT, 1, 1 ) rowId, query_plan
INTO #tmp
FROM sys.dm_exec_cached_plans cp WITH(NOLOCK)
    CROSS APPLY sys.dm_exec_query_plan(plan_handle)
GO


;WITH cte AS
(
SELECT
    rowId,
    query_plan,
    m.c.value ('@SerialRequiredMemory', 'INT' ) AS SerialRequiredMemory,
    m.c.value ('@SerialDesiredMemory', 'INT' ) AS SerialDesiredMemory

FROM #tmp t
    CROSS APPLY t.query_plan.nodes ( '//*:MemoryGrantInfo[@SerialDesiredMemory[. > 0]]' ) m(c)
), cte2 AS (
SELECT *,
    CAST( CAST( SerialDesiredMemory AS DECIMAL(10,2) ) / CAST( SerialRequiredMemory AS DECIMAL(10,2) ) AS DECIMAL(10,2) ) Desired_to_Required_ratio
FROM cte
)
SELECT TOP 20
    rowId,
    query_plan,
    SerialRequiredMemory SerialRequiredMemory_KB,
    SerialDesiredMemory SerialDesiredMemory_KB,
    CAST( SerialRequiredMemory / 1024. AS DECIMAL(10,2) ) SerialRequiredMemory_MB,
    CAST( SerialDesiredMemory / 1024. AS DECIMAL(10,2) ) SerialDesiredMemory_MB,
    Desired_to_Required_ratio
FROM cte2
WHERE Desired_to_Required_ratio > 100
ORDER BY Desired_to_Required_ratio DESC

Kilka dalszych uwag na temat tych nowych atrybutów tutaj . To zapytanie jest nieco szorstkie i gotowe, ale wybrało nadmierne sortowanie z mojego okna deweloperskiego programu SQL Server 2014 ze współczynnikiem 975,47 plus kilka innych oszałamiających planów. Współczynnik „normalny” (przynajmniej z moich ograniczonych testów) wydaje się wynosić ~ 1.

HTH

wBob
źródło
3

Dzięki za wszelką pomoc. Pomyślałem, że wyślę zaktualizowaną wersję powyższego zapytania, które okazało się pomocne.

-- Search plan cache for Memory Grant issues
IF OBJECT_ID('tempdb..#tmp') IS NOT NULL DROP TABLE #tmp

-- Collect more info about the plan here if required, eg usecounts, objtype etc, 
SELECT IDENTITY( INT, 1, 1 ) rowId, query_plan, db = DB_NAME(CAST(pa.value AS int))
INTO #tmp
FROM sys.dm_exec_cached_plans cp WITH(NOLOCK)
    CROSS APPLY sys.dm_exec_query_plan(cp.plan_handle)
    OUTER APPLY sys.dm_exec_plan_attributes(cp.plan_handle) pa 
    WHERE pa.attribute = 'dbid' 
GO

;WITH cte AS
(
SELECT
    rowId,
    query_plan,
    m.c.value ('@SerialRequiredMemory', 'INT' ) AS SerialRequiredMemory,
    m.c.value ('@SerialDesiredMemory', 'INT' ) AS SerialDesiredMemory,
    db
FROM #tmp t
    CROSS APPLY t.query_plan.nodes ( '//*:MemoryGrantInfo[@SerialDesiredMemory[. > 0]]' ) m(c)
), cte2 AS (
SELECT *,
    CAST( CAST( SerialDesiredMemory AS DECIMAL(10,2) ) / CAST( SerialRequiredMemory AS DECIMAL(10,2) ) AS DECIMAL(10,2) ) Desired_to_Required_ratio
FROM cte
)
SELECT TOP 20
    rowId,
    query_plan,
    SerialRequiredMemory SerialRequiredMemory_KB,
    SerialDesiredMemory SerialDesiredMemory_KB,
    CAST( SerialRequiredMemory / 1024. AS DECIMAL(10,2) ) SerialRequiredMemory_MB,
    CAST( SerialDesiredMemory / 1024. AS DECIMAL(10,2) ) SerialDesiredMemory_MB,
    Desired_to_Required_ratio,
    db
FROM cte2
WHERE Desired_to_Required_ratio > 100
ORDER BY Desired_to_Required_ratio DESC
Doug B.
źródło