Monitorer les agents et les outils d'IAm

Activer le monitoring de l'IA vous permet d'observer les performances de vos agents IA de bout en bout. Lorsque votre application exécute un workflow agentique en plusieurs étapes, New Relic capture l'exécution complète, chaque invocation d'agent, chaque appel d'outil et chaque transfert, afin que vous puissiez comprendre ce qui s'est passé, où des ralentissements se sont produits et où des problèmes sont survenus.

Le monitoring des agents d'IA prend en charge les frameworks d'agents populaires, notamment LangGraph, Strands et AutoGen.

Aucune configuration supplémentaire n'est requise au-delà de l'activation du monitoring de l'IA sur votre agent APM existant. Une fois activé, New Relic détecte et instrumente automatiquement les agents et les outils au sein de ces frameworks.

Pourquoi monitorer les agents IA ?

Les agents IA modernes sont complexes. Une seule requête utilisateur peut générer plusieurs sous-agents, appeler des outils externes, interroger des bases de données vectorielles et enchaîner des appels LLM. Lorsque quelque chose ne va pas – une réponse lente, une erreur inattendue, un nombre de tokens incontrôlé – la cause est rarement évidente de l'extérieur.

Le monitoring des agents IA vous aide à ouvrir la boîte noire :

• Tracez chaque étape d'un workflow agentique, du déclencheur initial à la réponse finale, en passant par chaque invocation d'agent et d'outil.
• Identifiez précisément la latence au niveau des agents et des outils individuels pour savoir exactement où le temps est passé.
• Détectez les erreurs rapidement en mettant en évidence l'agent ou l'outil de la chaîne à l'origine d'une défaillance.
• Suivez la consommation de jetons au niveau de l'agent pour comprendre les facteurs de coûts dans les workflows complexes.

Vue d'ensemble des performances de l'agent

Une fois que votre application agentique envoie des données, vous pouvez monitorer les performances de l'agent depuis la page Réponses de l'IA. Les métriques liées à l'Agent sont affichées aux côtés de vos données d'IA existantes pour vous donner une vue d'ensemble au même endroit.

Les indicateurs clés de performance disponibles pour les agents incluent :

• Latence: Temps de réponse de bout en bout pour chaque invocation d'agent, vous aidant à identifier les agents lents dans un pipeline en plusieurs étapes.
• Taux d'erreur: La fréquence à laquelle un agent ou un outil donné renvoie une erreur, ce qui vous permet de trier rapidement les défaillances.
• Utilisation des tokens: Le nombre de tokens ventilé au niveau de l'agent, vous offrant une visibilité granulaire sur la répartition des coûts au sein de workflows complexes.

Chaque ligne du tableau Réponses représente une trace. Cliquer sur une ligne du tableau vous permet d'explorer la trace, où vous pouvez voir le graphique en cascade et la carte des entités.

Agents IA dans la carte des entités

New Relic ajoute les agents et les outils d'IA en tant qu'entités de première classe dans la carte des entités. Cela signifie que vous pouvez visualiser votre application agentique sous forme de graphe visuel :

• Les agents apparaissent sous forme de nœuds distincts, montrant comment ils sont liés aux services, modèles et outils avec lesquels ils interagissent.
• Les outils d'IA apparaissent sous forme de nœuds connectés, illustrant quels agents invoquent quels outils et dans quel ordre.
• Les relations entre agents – telles qu'un agent déléguant du travail à un sous-agent – sont représentées sous forme d'arêtes orientées, rendant les modèles d'orchestration faciles à comprendre en un coup d'œil.

Cascade de la trace de l'Agent

La vue la plus détaillée de l'exécution agentique est la cascade de traces. Les agents et outils d'IA sont entièrement intégrés à la vue en cascade des traces existante, vous offrant une décomposition unifiée, span par span, de chaque étape d'un workflow.

Chaque ligne de la cascade représente une seule span. Cela inclut les invocations d'agents et d'outils.

Dépannage avec le graphique en cascade

La cascade de traces est votre outil principal pour le dépannage des problèmes dans les pipelines agentiques complexes :

• Les erreurs sont mises en évidence en rouge pour que vous puissiez repérer immédiatement quel agent ou outil de la chaîne a provoqué une défaillance, sans avoir à parcourir manuellement les logs.
• Les spans de longue durée sont visuellement évidents grâce à la largeur de la cascade, vous permettant d'identifier l'étape responsable de la latence de bout en bout.
• Les détails du span sont accessibles en sélectionnant une ligne. Le panneau de détails affiche les attributs du span, les messages d'erreur, ainsi que les entrées et sorties pour cet appel d'agent ou d'outil.

Quelle est la prochaine étape ?

Maintenant que vous comprenez comment monitorer les agents d'IA, explorez ces sujets connexes :

• Apprenez à consulter les données de réponse de l'IA pour vos applications basées sur l'IA
• Découvrez comment personnaliser le monitoring de l'IA pour répondre à vos besoins spécifiques
• En savoir plus sur les exigences de compatibilité pour le monitoring de l'IA