As configurações do AI Monitoring controlam como as chamadas de grande modelo de linguagem (LLM) são instrumentadas pelo agente e como os dados de resposta da IA são capturados.
Dica
Voltar ao índice completo de configurações: configuração do agente Java
AI Monitoring
Esta seção detalha as opções de configuração do agente Java para AI Monitoring. Esse recurso pode ser configurado na sub-rotina do arquivo de configuração yaml ai_monitoring , com newrelic.config.ai_monitoring. propriedades de sistema prefixadas ou com NEW_RELIC_AI_MONITORING_ variáveis de ambiente prefixadas.
Importante
Se distributed tracing estiver desativado ou o modo de alta segurança estiver ativado, AI Monitoring não coletará dados de IA.
Importante
Quando ativado, o Monitoramento de IA registra uma cópia de streaming das entradas e saídas enviadas de e para os modelos que você escolher monitorar, incluindo quaisquer informações pessoais contidas neles. Você é responsável por obter o consentimento do seu usuário modelo para que a interação dele possa ser gravada por terceiros (New Relic) com a finalidade de fornecer o recurso de Monitoramento de IA.