WissensdatenbankPrüfungszentrum
DEDeutsch
Sprache wählen13

CKTIS / C++

Cache-Lokalität in C++: AoS und SoA

Wähle das Datenlayout danach, was das Programm tatsächlich liest. AoS bündelt die Felder eines Datensatzes, SoA die Werte desselben Felds über mehrere Datensätze hinweg.

Version: ISO C++23; implementation support may vary

Syntax

// AoS: one contiguous array of records
std::array<Record, N> rows;  // access: rows[i].score

// SoA: one contiguous array per field
struct Columns {
    std::array<int, N> score;
    std::array<int, N> id;
};
Columns cols;              // access: cols.score[i]
// Record and N must be defined; initialize values before reading.

Datenorientierter Entwurf setzt bei den häufigsten Operationen an: Welche Felder werden zusammen gelesen, in welcher Reihenfolge und wie oft? Cache-Lokalität bedeutet, auf nahe beieinanderliegende Speicheradressen zuzugreifen (räumliche Lokalität) oder dieselben Daten bald erneut zu nutzen (zeitliche Lokalität). Das Datenlayout beeinflusst die räumliche Lokalität direkt.

Ein Array von Strukturen (AoS) speichert aufeinanderfolgende Datensätze zusammenhängend; rows[i].score ist ein Feld des Datensatzes i. Aufeinanderfolgende score-Felder liegen sizeof(Record) Bytes auseinander, einschließlich möglicher Füllbytes. Eine Struktur aus Arrays (SoA) speichert jedes Feld in einer separaten, zusammenhängenden Spalte; cols.score[i] und cols.id[i] gehören logisch zum selben Datensatz. Beim Ändern der Größe oder Reihenfolge müssen die Indizes in allen Spalten übereinstimmen.

Ein sequenzieller Durchlauf nur über die häufig genutzte Spalte score kann bei SoA mehr benötigte Werte pro Cache-Zeile unterbringen und das Laden ungenutzter Daten verringern. AoS kann besser passen, wenn eine Operation viele Felder jedes Datensatzes gemeinsam nutzt. C++23 garantiert zusammenhängende std::array-Elemente, aber weder eine Cache-Zeilengröße noch einen Geschwindigkeitsgewinn.

Miss beide Layouts mit repräsentativen Datenmengen und Zugriffsmustern in einem optimierten Build auf der Zielhardware. Rechne die Umwandlungskosten ein oder weise sie separat aus: Kopieren und zusätzlicher Speicher können Vorteile späterer Durchläufe aufzehren.

Beispiele

#include <array>
#include <cstddef>
#include <iostream>

struct Record {
    int score;
    int id;
};

template<std::size_t N>
struct Columns {
    std::array<int, N> score;
    std::array<int, N> id;
};

int main() {
    const std::array<Record, 3> rows{Record{3, 101}, Record{5, 102}, Record{7, 103}};
    Columns<3> cols{};
    for (std::size_t i = 0; i < rows.size(); ++i) {
        cols.score[i] = rows[i].score;
        cols.id[i] = rows[i].id;
    }

    int aos_sum = 0;
    for (const Record& row : rows) {
        aos_sum += row.score;
    }

    int soa_sum = 0;
    for (int score : cols.score) {
        soa_sum += score;
    }

    std::cout << "AoS sum: " << aos_sum << '\n'
              << "SoA sum: " << soa_sum << '\n';
}

Ergebnis

AoS sum: 15
SoA sum: 15

Das Programm kopiert beide Felder von `rows` nach `cols` und summiert in beiden Layouts nur `score`. Beide Summen sind 15. Das Beispiel zeigt das Layout, nicht die Leistung.

Zugehörige Lektionen

  • C++ · Lektion 21 · Fortgeschritten · Version: 3

Quellen