- ONNX Desteği
- Model Dönüştürme
- Otomatik Veri Türü Dönüştürme
- Model Oluşturma
- Model Çalıştırma
- Strateji Sınayıcıda Çalıştırma
- OnnxCreate
- OnnxCreateFromBuffer
- OnnxRelease
- OnnxRun
- OnnxGetInputCount
- OnnxGetOutputCount
- OnnxGetInputName
- OnnxGetOutputName
- OnnxGetInputTypeInfo
- OnnxGetOutputTypeInfo
- OnnxSetInputShape
- OnnxSetOutputShape
- Veri Yapıları
OnnxRun
ONNX modelini çalıştırır.
bool OnnxRun(
|
Parametreler
onnx_handle
[in] OnnxCreate veya OnnxCreateFromBuffer aracılığıyla oluşturulan ONNX oturumu nesnesinin tanıtıcısı.
flags
[in] Çalışma modunu tanımlayan ENUM_ONNX_FLAGS numaralandırmasından bayraklar: ONNX_DEBUG_LOGS ve ONNX_NO_CONVERSION.
...
[in] [out] Model girdileri ve çıktıları.
Başarılı olursa true, aksi takdirde false geri döndürür. Hata kodunu almak için GetLastError fonksiyonunu çağırın.
ENUM_ONNX_FLAGS
Kimlik |
Açıklama |
|---|---|
ONNX_LOGLEVEL_VERBOSE |
Tüm mesajları günlüğe yazdırır |
ONNX_LOGLEVEL_INFO |
Bilgi mesajlarını, uyarıları ve hataları günlüğe yazdırır (bu bayrak ONNX_DEBUG_LOGS'un yerini alır) |
ONNX_LOGLEVEL_WARNING |
Uyarıları ve hataları günlüğe yazdırır (varsayılan) |
ONNX_LOGLEVEL_ERROR |
Yalnızca hataları günlüğe yazdırır |
ONNX_NO_CONVERSION |
Otomatik dönüştürmeyi devre dışı bırakır, kullanıcı verilerini olduğu gibi kullanır |
ONNX_COMMON_FOLDER |
Common\Files klasöründen model dosyası yükler; değer FILE_COMMON bayrağına eşittir |
ONNX_USE_CPU_ONLY |
ONNX modelini yalnızca CPU kullanarak yürütür |
ONNX_GPU_DEVICE_0 |
İndeksi 0 olan CUDA cihazı (varsayılan) |
ONNX_GPU_DEVICE_1 |
İndeksi 1 olan CUDA cihazı * |
ONNX_GPU_DEVICE_2 |
İndeksi 2 olan CUDA cihazı * |
ONNX_GPU_DEVICE_3 |
İndeksi 3 olan CUDA cihazı * |
ONNX_GPU_DEVICE_4 |
İndeksi 4 olan CUDA cihazı * |
ONNX_GPU_DEVICE_5 |
İndeksi 5 olan CUDA cihazı * |
ONNX_GPU_DEVICE_6 |
İndeksi 6 olan CUDA cihazı * |
ONNX_GPU_DEVICE_7 |
İndeksi 7 olan CUDA cihazı * |
ONNX_ENABLE_PROFILING |
ONNX model profillemeyi etkinleştirir |
* ONNX_GPU_DEVICE_N biçimindeki bayraklar, iki veya daha fazla CUDA özellikli GPU'ya sahip sistemlerde kullanılmalıdır. Birden fazla GPU seçim bayrağı belirtilirse, en düşük indekse sahip cihaz kullanılır.
Var olmayan bir cihaz indeksi belirtilirse, GPU otomatik olarak seçilecektir.
Örnek:
const long ExtOutputShape[] = {1,1}; // modelin çıktı şekli
|
Ayrıca bakınız