CKTIS / C++
Lokalita vyrovnávacej pamäte v C++: AoS a SoA
Rozloženie údajov vyberajte podľa toho, čo program skutočne číta. AoS zoskupuje polia jedného záznamu, kým SoA zoskupuje hodnoty rovnakého poľa z viacerých záznamov.
Verzia: ISO C++23; implementation support may vary
Syntax
// AoS: one contiguous array of records
std::array<Record, N> rows; // access: rows[i].score
// SoA: one contiguous array per field
struct Columns {
std::array<int, N> score;
std::array<int, N> id;
};
Columns cols; // access: cols.score[i]
// Record and N must be defined; initialize values before reading.Dátovo orientovaný návrh vychádza z najčastejších operácií: ktoré polia sa čítajú spolu, v akom poradí a ako často? Lokalita vyrovnávacej pamäte znamená prístup k blízkym miestam v pamäti (priestorová lokalita) alebo skoré opätovné použitie tých istých údajov (časová lokalita). Rozloženie údajov priamo ovplyvňuje priestorovú lokalitu.
Pole štruktúr (AoS) ukladá nasledujúce záznamy súvisle za sebou; rows[i].score je pole záznamu i. Medzi po sebe idúcimi poľami score je odstup sizeof(Record) bajtov vrátane prípadnej výplne. Štruktúra polí (SoA) ukladá hodnoty každého poľa do vlastného súvislého stĺpca; cols.score[i] a cols.id[i] patria k tomu istému logickému záznamu. Pri zmene veľkosti alebo poradia zachovajte zhodu indexov vo všetkých stĺpcoch.
Pri sekvenčnom prechode iba často používaným stĺpcom score v SoA sa do jedného riadka vyrovnávacej pamäte môže zmestiť viac užitočných hodnôt a môže sa načítať menej nevyužitých údajov. AoS môže byť vhodnejšie, keď operácia používa naraz veľa polí každého záznamu. C++23 zaručuje súvislé uloženie prvkov std::array, ale neurčuje veľkosť riadka vyrovnávacej pamäte ani nezaručuje zrýchlenie.
Zmerajte obe rozloženia s reprezentatívnymi objemami údajov a vzormi prístupu, v optimalizovanom zostavení na cieľovom hardvéri. Zahrňte náklady na konverziu alebo ich uveďte samostatne: kopírovanie a dodatočná pamäť môžu vyvážiť prínos neskorších prechodov.
Príklady
#include <array>
#include <cstddef>
#include <iostream>
struct Record {
int score;
int id;
};
template<std::size_t N>
struct Columns {
std::array<int, N> score;
std::array<int, N> id;
};
int main() {
const std::array<Record, 3> rows{Record{3, 101}, Record{5, 102}, Record{7, 103}};
Columns<3> cols{};
for (std::size_t i = 0; i < rows.size(); ++i) {
cols.score[i] = rows[i].score;
cols.id[i] = rows[i].id;
}
int aos_sum = 0;
for (const Record& row : rows) {
aos_sum += row.score;
}
int soa_sum = 0;
for (int score : cols.score) {
soa_sum += score;
}
std::cout << "AoS sum: " << aos_sum << '\n'
<< "SoA sum: " << soa_sum << '\n';
}
Výsledok
AoS sum: 15 SoA sum: 15
Program skopíruje obe polia z `rows` do `cols` a v oboch rozloženiach sčíta iba hodnoty `score`. Oba súčty sú 15. Príklad ukazuje rozloženie údajov, nemeria výkon.
Súvisiace lekcie
- C++ · Lekcia 21 · Pokročilá · Verzia: 3