Interface IManagedOnnxEngine

Namespace

NT2I.ONNX.Abstractions.Interfaces.Engine

Assembly

NT2I.ONNX.Abstractions.dll

Définit le contrat pour un moteur ONNX managé de haut niveau.

public interface IManagedOnnxEngine : IDisposable

Inherited Members

IDisposable.Dispose()

Properties

IsInitialized

Obtient une valeur indiquant si le moteur a été initialisé.

bool IsInitialized { get; }

Property Value

bool

IsRunning

Obtient une valeur indiquant si une inférence est actuellement en cours.

bool IsRunning { get; }

Property Value

bool

Methods

CleanModelFolder()

Nettoie le dossier contenant les modèles.

void CleanModelFolder()

CleanProfilingFile()

Nettoie le fichier de profilage.

void CleanProfilingFile()

ClearInput()

Efface les données d'entrée actuelles.

void ClearInput()

GetInputDimensions(int)

Obtient les dimensions d'une entrée spécifique par son index.

IReadOnlyCollection<long> GetInputDimensions(int inputIndex = 0)

Parameters

inputIndex int

L'index de l'entrée (par défaut 0).

Returns

IReadOnlyCollection<long>

Une collection des dimensions de l'entrée.

GetInputDimensions(string)

Obtient les dimensions d'une entrée spécifique par son nom.

IReadOnlyCollection<long> GetInputDimensions(string inputName)

Parameters

inputName string

Le nom de l'entrée.

Returns

IReadOnlyCollection<long>

Une collection des dimensions de l'entrée.

GetInputNames()

Obtient les noms des entrées du modèle.

IReadOnlyDictionary<int, string>? GetInputNames()

Returns

IReadOnlyDictionary<int, string>

Un dictionnaire en lecture seule des noms des entrées.

GetOutputNames()

Obtient les noms des sorties du modèle.

IReadOnlyDictionary<int, string> GetOutputNames()

Returns

IReadOnlyDictionary<int, string>

Un dictionnaire en lecture seule des noms des sorties.

Initialize(IOnnxSessionOptions)

Initialise le moteur avec les options de session spécifiées.

void Initialize(IOnnxSessionOptions options)

Parameters

options IOnnxSessionOptions

Les options de session ONNX.

InitializeAsync(IOnnxSessionOptions, CancellationToken)

Initialise le moteur de manière asynchrone (le travail synchrone d'ORT est exécuté sur un thread du ThreadPool). Utile pour ne pas bloquer le thread appelant (UI, request thread) pendant la création de la InferenceSession.

Task InitializeAsync(IOnnxSessionOptions options, CancellationToken cancellationToken = default)

Parameters

options IOnnxSessionOptions

Les options de session ONNX.

cancellationToken CancellationToken

Jeton d'annulation.

Returns

Task

RunInference(bool)

Exécute une inférence sur les données d'entrée actuelles.

void RunInference(bool clearInputAfterRun = true)

Parameters

clearInputAfterRun bool

Indique si les données d'entrée doivent être effacées après l'exécution.

RunInferenceAsync(bool, CancellationToken)

Exécute une inférence asynchrone sur les données d'entrée actuelles.

Task RunInferenceAsync(bool clearInputAfterRun = true, CancellationToken cancellationToken = default)

Parameters

clearInputAfterRun bool

Indique si les données d'entrée doivent être effacées après l'exécution.

cancellationToken CancellationToken

Le jeton d'annulation.

Returns

Task

SetInputData<T>(T[], int, long[])

Définit les données d'entrée pour une entrée spécifique par son index.

void SetInputData<T>(T[] inputData, int inputIndex, long[] inputDimensions) where T : unmanaged

Parameters

inputData T[]

Les données d'entrée.

inputIndex int

L'index de l'entrée.

inputDimensions long[]

Les dimensions des données d'entrée.

Type Parameters

T

Le type des données (doit être non managé).

SetInputData<T>(T[], string, long[])

Définit les données d'entrée pour une entrée spécifique par son nom.

void SetInputData<T>(T[] inputData, string inputName, long[] inputDimensions) where T : unmanaged

Parameters

inputData T[]

Les données d'entrée.

inputName string

Le nom de l'entrée.

inputDimensions long[]

Les dimensions des données d'entrée.

Type Parameters

T

Le type des données (doit être non managé).

WarmUp(int, int)

Effectue un préchauffage du modèle avec un batch de taille spécifiée.

void WarmUp(int batchSize = 1, int iterations = 1)

Parameters

batchSize int

La taille du batch.

iterations int

Nombre d'itérations de préchauffage (défaut 1).

WarmUpAsync(int, int, CancellationToken)

Effectue un préchauffage asynchrone du modèle avec un batch de taille spécifiée.

Task WarmUpAsync(int batchSize = 1, int iterations = 1, CancellationToken cancellationToken = default)

Parameters

batchSize int

La taille du batch.

iterations int

Nombre d'itérations de préchauffage (défaut 1).

cancellationToken CancellationToken

Le jeton d'annulation.

Returns

Task