Vous pouvez monitorer la fonction AWS Lambda qui utilise le streaming de réponses dans les applications Node.js pour obtenir des informations réelles détaillées sur les performances et le comportement de chaque invocation. Cette solution s'intègre à monitoring de l'IA pour vous permettre de suivre les réponses du modèle et de collecter des données d'observabilité liées à votre charge de travail d'IA. Grâce à ces fonctionnalités, vous pouvez optimiser les performances de vos applications sans serveur et maintenir une monitoring complet des processus pilotés par l'IA.
Ce document vous aide à :
- Configurer le monitoring de streaming de réponses de fonction Lambda
- Comprendre les métriques et les données disponibles pour le streaming de réponses de fonction Lambda
- Apprenez à utiliser l'interface utilisateur de New Relic pour monitorer et observer les performances de votre streaming de réponses de fonction Lambda
Configurer le streaming de réponse Lambda
Prérequis
- Vérifiez que votre fonction Lambda répond à notre compatibilité et à nos exigences.
- Utilisez la dernière couche lambda disponible pour Node.js.
Configurer le streaming de réponse Lambda
Pour activer le monitoring du streaming de réponse pour votre fonction Node.js Lambda:
Installer et configurer le monitoring Lambda sur New Relic.
Ajoutez les variables d'environnement requises pour la fonction de streaming de réponse Node.js Lambda.
Enregistrez les modifications et déployez la fonction.
Après déploiement, vous pouvez visualiser les données de réponse Lambda de streaming sur la plateforme New Relic. Pour plus d'informations, reportez-vous à Accéder aux données de réponse Lambda en streaming.
Accéder aux données de streaming de la réponse Lambda
Pour visualiser le streaming des données de réponses Lambda sur la plateforme New Relic :
Allez à one.newrelic.com > left navigation pane > All Capabilities > Serverless Functions.
Sélectionnez la fonction Lambda requise qui utilise le streaming de réponse.
Visualisez le résumé, les invocations, les métriques CloudWatch et le traçage distribués pour votre streaming de réponses de fonction Lambda.
Dans la section More views , cliquez sur AI Responses.
Pour en savoir plus sur les réponses de l’IA, reportez-vous à Afficher les réponses de l’IA.
Indicateurs clés pour le streaming des réponses
Sur la page Cloudwatch metrics, monitorez les métriques suivantes liées au streaming des réponses :
- Octets sortants diffusés : affiche le nombre moyen d'octets diffusés par la fonction Lambda.
- Débit sortant diffusé : affiche le débit moyen auquel les octets sont diffusés par la fonction Lambda.
Pour en savoir plus sur notre interface utilisateur, consultez Introduction à la plateforme New Relic.