monitoring de l'IA permet à l'agent de reconnaître et de capturer les données de l'IA. monitoring de l'IA a des exigences de compatibilité de bibliothèque différentes selon le langage que vous avez utilisé pour votre application basée sur l'IA.
Lorsque vous désactivez le traçage distribué ou activez le mode haute sécurité, l'agent ne capturera pas les données AI.
Bibliothèque d'IA compatible
monitoring de l'IA est compatible avec ces versions agent et la bibliothèque AI :
Version de l'agent | Bibliothèque supportée |
|---|---|
| |
| |
| |
| |
| |
|
monitoring à grande échelle avec NVIDIA NIM
monitoring de l'IA peut s'intégrer et collecter des données sur tous les modèles pris en charge par NVIDIA NIM. Par exemple, si vous avez créé une application d'IA Python ou Node.js qui utilise Llama3, Mistralai ou l'un des LLM propriétaires de NVIDIA, vous pouvez instrument ces applications avec monitoring de l'IA et afficher les données de performances de vos applications.
Aucune étape supplémentaire n'est nécessaire pour intégrer NVIDIA NIM : vous pouvez suivre nos procédures manuelles d'installation ou installer directement via la plateforme New Relic.
Quelle est la prochaine étape ?
- Vous pouvez commencer par installer monitoring de l'IA.
- Explorez notre monitoring de l'IA UI pour voir comment nous pouvons vous aider à améliorer votre application basée sur l'IA.
- Découvrez comment maintenir la conformité des données en configurant des filtres de dépôt.