结构体 faiss::gpu::AllocRequest

struct AllocRequest : public faiss::gpu::AllocInfo

关于分配是什么/在哪里,以及它应该有多大的信息。

公共函数

inline AllocRequest()
inline AllocRequest(const AllocInfo &info, size_t sz)
inline AllocRequest(AllocType at, int dev, MemorySpace sp, cudaStream_t st, size_t sz)
std::string toString() const

返回此请求的字符串表示形式。

公共成员

size_t size = 0

分配的大小(以字节为单位)。

AllocType type = AllocType::Other

分配的内部类别。

int device = 0

分配发生的设备。

MemorySpace space = MemorySpace::Device

分配的内存空间。

cudaStream_t stream = nullptr

将在内存上进行的新工作的流的顺序(例如,如果一块缓存的内存将为此调用返回,上次在流3上使用,并且新的内存请求是针对流4的,则内存管理器将同步流4以等待流3的完成,通过事件或其他流同步)。

内存管理器保证返回的内存可以自由使用,而不会在此指定的流上发生数据竞争。