record_llm_feedback_event (Python API d'agent)

Syntaxe

newrelic.agent.record_llm_feedback_event(trace_id, rating, category=None, message=None, metadata=None)

Enregistre un événement de feedback personnalisé pour l'application AI grands modèles de langage (LLM).

Exigences

Python agent version 9.8.0 ou supérieure.

Description

Cette API enregistre un événement de LlmFeedbackMessage rétroaction qui peut être visualisé et interrogé dans l'UI New Relic. L'événement de rétroaction met en corrélation les identifiants trace entre un message généré par l'IA et le commentaire final qu'un utilisateur a soumis à ce sujet. Pour corréler les messages avec les commentaires, vous pouvez obtenir l'ID de trace de la transaction active via un appel à current_trace_id juste après l'appel qui génère le message AI. Transmettez l'ID de trace à l'appel de commentaires ultérieurement lorsqu'un utilisateur fournit des commentaires.

Dans de nombreux cas, le point de terminaison des messages d’IA est enregistré à des endroits différents du point de terminaison de rétroaction. Ils peuvent se produire dans différentes transactions. Il est important de :

Assurez-vous que l’ID de trace est capturé à l’intérieur du point de terminaison qui génère le message AI.
Transmettez cet ID de trace à l’intérieur du point de terminaison qui enregistre le commentaire.

Paramètres

paramètres	Description
`trace_id` chaîne	Requis. ID de la trace où la ou les complétions de chat liées au commentaire ont eu lieu. Cet identifiant peut être obtenu via un appel à `current_trace_id`.
`rating` chaîne ou int	Requis. Évaluation fournie par un utilisateur final (ex : « Bon/Mauvais », « 1-10 »).
`category` chaîne	Facultatif. Catégorie du commentaire fourni par l’utilisateur final (ex : « informatif », « inexact »).
`message` chaîne	Facultatif. Commentaires sous forme de texte libre d'un utilisateur final.
`metadata` dict	Facultatif. Ensemble de paires valeur-clé pour stocker toutes les autres données souhaitées à soumettre avec l'événement de rétroaction.

Valeurs de retour

Aucun.

Exemples

Obtenir l'identifiant de trace et enregistrer les commentaires

Exemple d'enregistrement d'un événement de rétroaction :

import newrelic.agent

    def get_message(request):
        trace_id = newrelic.agent.current_trace_id()

    def post_feedback(request):
        newrelic.agent.record_llm_feedback_event(trace_id=request.trace_id, rating=request.rating, metadata= {"my_key": "my_val"})
```

Cette traduction automatique est fournie pour votre commodité.