CKTIS / C++
Lokalita mezipaměti v C++: AoS a SoA
Rozložení dat volte podle toho, co program skutečně čte. AoS seskupuje pole jednoho záznamu, zatímco SoA seskupuje hodnoty stejného pole z více záznamů.
Verze: ISO C++23; implementation support may vary
Syntaxe
// AoS: one contiguous array of records
std::array<Record, N> rows; // access: rows[i].score
// SoA: one contiguous array per field
struct Columns {
std::array<int, N> score;
std::array<int, N> id;
};
Columns cols; // access: cols.score[i]
// Record and N must be defined; initialize values before reading.Datově orientovaný návrh vychází z nejčastějších operací: která pole se čtou společně, v jakém pořadí a jak často? Lokalita mezipaměti znamená přístup k blízkým místům v paměti (prostorová lokalita) nebo brzké opětovné použití stejných dat (časová lokalita). Rozložení dat přímo ovlivňuje prostorovou lokalitu.
Pole struktur (AoS) ukládá po sobě jdoucí záznamy souvisle; rows[i].score je pole záznamu i. Mezi po sobě jdoucími poli score je rozestup sizeof(Record) bajtů, včetně případné výplně. Struktura polí (SoA) ukládá hodnoty každého pole do samostatného souvislého sloupce; cols.score[i] a cols.id[i] patří do stejného logického záznamu. Při změně velikosti nebo pořadí zachovejte shodu indexů ve všech sloupcích.
Při sekvenčním průchodu pouze často používaným sloupcem score v SoA se do jedné řádky mezipaměti může vejít více užitečných hodnot a může se načítat méně nevyužitých dat. AoS může být vhodnější, když operace používá mnoho polí každého záznamu společně. C++23 zaručuje souvislé uložení prvků std::array, nikoli velikost řádky mezipaměti ani zrychlení.
Změřte obě rozložení s reprezentativními objemy dat a vzory přístupu, v optimalizovaném sestavení na cílovém hardwaru. Zahrňte náklady na převod nebo je uveďte zvlášť: kopírování a dodatečná paměť mohou vyrovnat přínos pozdějších průchodů.
Příklady
#include <array>
#include <cstddef>
#include <iostream>
struct Record {
int score;
int id;
};
template<std::size_t N>
struct Columns {
std::array<int, N> score;
std::array<int, N> id;
};
int main() {
const std::array<Record, 3> rows{Record{3, 101}, Record{5, 102}, Record{7, 103}};
Columns<3> cols{};
for (std::size_t i = 0; i < rows.size(); ++i) {
cols.score[i] = rows[i].score;
cols.id[i] = rows[i].id;
}
int aos_sum = 0;
for (const Record& row : rows) {
aos_sum += row.score;
}
int soa_sum = 0;
for (int score : cols.score) {
soa_sum += score;
}
std::cout << "AoS sum: " << aos_sum << '\n'
<< "SoA sum: " << soa_sum << '\n';
}
Výsledek
AoS sum: 15 SoA sum: 15
Program zkopíruje obě pole z `rows` do `cols` a v obou rozloženích sčítá pouze hodnoty `score`. Oba součty jsou 15. Příklad ukazuje rozložení dat, nikoli výkon.
Související lekce
- C++ · Lekce 21 · Pokročilá · Verze: 3