CUDA 入门
CUDA 入门
🚀 CUDA C++ 入门教程:向量加法示例
本教程将介绍如何使用 CUDA C++ 在 GPU 上实现两个向量的加法操作。
✅ 教程流程
- 在主机(Host)上分配内存并初始化数据
- 分配设备(Device)内存
- 将数据从主机复制到设备
- 启动 CUDA 核函数(Kernel)并行执行
- 将结果复制回主机
- 验证计算结果
- 释放内存资源
📦 示例代码(vector_add.cu)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
#include <iostream>
#include <cuda_runtime.h>
// CUDA 核函数:每个线程负责加一个元素
__global__ void vectorAdd(const float* A, const float* B, float* C, int N) {
int i = blockIdx.x * blockDim.x + threadIdx.x;
if (i < N) {
C[i] = A[i] + B[i];
}
}
int main() {
int N = 1 << 20; // 1M 元素
size_t size = N * sizeof(float);
// 1. 主机内存分配
float *h_A = (float*)malloc(size);
float *h_B = (float*)malloc(size);
float *h_C = (float*)malloc(size);
// 2. 初始化数据
for (int i = 0; i < N; ++i) {
h_A[i] = static_cast<float>(i);
h_B[i] = static_cast<float>(2 * i);
}
// 3. 设备内存分配
float *d_A, *d_B, *d_C;
cudaMalloc((void**)&d_A, size);
cudaMalloc((void**)&d_B, size);
cudaMalloc((void**)&d_C, size);
// 4. 复制数据到设备
cudaMemcpy(d_A, h_A, size, cudaMemcpyHostToDevice);
cudaMemcpy(d_B, h_B, size, cudaMemcpyHostToDevice);
// 5. 启动核函数
int threadsPerBlock = 256;
int blocksPerGrid = (N + threadsPerBlock - 1) / threadsPerBlock;
vectorAdd<<<blocksPerGrid, threadsPerBlock>>>(d_A, d_B, d_C, N);
// 6. 复制结果回主机
cudaMemcpy(h_C, d_C, size, cudaMemcpyDeviceToHost);
// 7. 验证结果
bool success = true;
for (int i = 0; i < N; ++i) {
if (fabs(h_C[i] - (h_A[i] + h_B[i])) > 1e-5) {
success = false;
break;
}
}
std::cout << (success ? "Result verified!\n" : "Result incorrect!\n");
// 8. 释放内存
free(h_A); free(h_B); free(h_C);
cudaFree(d_A); cudaFree(d_B); cudaFree(d_C);
return 0;
}
本文由作者按照 CC BY 4.0 进行授权