CKTIS / C++
Проектиране, ориентирано към данните: AoS, SoA и кеш локалност
Избери подредба според начина, по който програмата използва данните: сравни цели записи с отделни колони и измери ефекта при представително натоварване.
Версия: ISO C++23; implementation support may vary
Синтаксис
// ISO C++23 — alternative layouts for N records
// T and U are field types; N is a compile-time element count.
#include <array>
#include <cstddef>
template<class T, class U>
struct Record { T x; U y; };
template<class T, class U, std::size_t N>
using AoS = std::array<Record<T, U>, N>;
template<class T, class U, std::size_t N>
struct SoA {
std::array<T, N> x;
std::array<U, N> y;
};
// Record i: aos[i].x and aos[i].y, or soa.x[i] and soa.y[i].Проектирането, ориентирано към данните, означава да избираш представянето им според операциите на програмата. Започни от важните цикли: установи кои полета четат или записват, в какъв ред и колко често. AoS и SoA са начини за подреждане в паметта, а не ключови думи или отделни възможности на C++23.
Масивът от структури (AoS) съхранява цели записи в последователни позиции в паметта: aos[i].energy и aos[i].id принадлежат на един и същ обект. Структурата от масиви (SoA) съхранява всяко поле в отделен непрекъснат масив: soa.energy[i] и soa.id[i] описват един и същ логически запис. Поддържай еднаква дължина на колоните и еднакъв ред на записите, включително при сортиране, вмъкване и изтриване.
Кеш локалността се подобрява, когато последователни достъпи използват вече заредени в кеша данни. Ако цикълът чете само често използваната (гореща) колона energy, SoA може да побере повече полезни стойности в една кеш линия и да намали зареждането на неизползвани данни. AoS може да е по-подходящ, когато операцията обикновено използва повечето полета от всеки запис заедно.
Нито една подредба не гарантира ускорение. В примера преобразуването копира и двете полета на всеки запис; запазването на двете подредби заема допълнителна памет и изисква синхронизиране на промените. Сравни оптимизирани компилации на целевия хардуер с представителни обеми данни и модели на достъп. Включи преобразуването в измерването, ако е част от реалното натоварване.
Примери
#include <array>
#include <cstddef>
#include <iostream>
struct Particle {
int energy;
int id;
};
struct ParticleColumns {
std::array<int, 3> energy;
std::array<int, 3> id;
};
int main() {
const std::array<Particle, 3> aos{{{2, 101}, {4, 102}, {6, 103}}};
ParticleColumns soa{};
for (std::size_t i = 0; i < aos.size(); ++i) {
soa.energy[i] = aos[i].energy;
soa.id[i] = aos[i].id;
}
int aosSum = 0;
for (const Particle& particle : aos) {
aosSum += particle.energy;
}
int soaSum = 0;
for (int energy : soa.energy) {
soaSum += energy;
}
std::cout << "AoS sum: " << aosSum << '\n'
<< "SoA sum: " << soaSum << '\n';
}Резултат
AoS sum: 12 SoA sum: 12
И двата цикъла сумират само `energy` и извеждат `12` за съответната подредба. Еднаквият резултат показва една и съща операция върху две подредби, а не предимство в бързодействието.
Свързани уроци
- C++ · Урок 21 · Напреднало · Версия: 3