在云日志记录上丢失了GKE的日志

Question

我遇到了一些 gke 容器中 cluod登录中的日志的问题。

我使用 log4j2 在GKE上部署了一个Spring Boot应用程序。该应用程序生成的所有日志始终都符合云日志记录，因此，如果我使用 jmeter 并行执行100笔交易，我可以搜索云记录中的所有日志并结束REST控制器）。

现在，我正在从 log4j2 迁移到 logback 与 cloud Loggging 完整集成，我遵循本指南：

例如，如果我使用 jmeter 发送30次并行交易，我可以看到该服务生成的所有日志，基本上我正在搜索这样的每条消息：

"This is a message "
"This is the mid of controller"
"End of trx, cleaning MDC context : "

loggers看起来像这样：

Logger.info("Starting transaction: ", transactionId).
Logger.info("This is the mid of controller").
Logger.info("End of trx, cleaning MDC context : ", transactionId).
MDC.clear();
return response.

我正在寻找在REST控制器开始生成的消息，在“返回依据”之前，在控制器中间的某些日志以及在控制器末尾生成的日志。

因此，如果我使用jmeter并行发送30个TRX，我可以在云日志记录中找到所有记录器，但是如果我在1分钟后重复相同的30 TRX，我可以找到日志，但不是所有日志。例如，我可以找到：

30 of **Starting transaction:**,
22 of "This is the mid of controller"
2  of "End of trx, cleaning MDC context : "

然后，如果

20 of **Starting transaction:**,
0  of "This is the mid of controller"
0  of "End of trx, cleaning MDC context : "

我等待5分钟，

30 of **Starting transaction:**,
30  of "This is the mid of controller"
30  of "End of trx, cleaning MDC context : "

即使在某些情况下重复，我也无法从字面上找到0个日志来进行特定事务。

在所有情况下，服务的响应总是好的，我的意思是，即使我看不到所有日志，我知道该服务都可以正常工作，因为我可以获得200 成功和预期的响应在体内。同样，响应没有矛盾之处，一切都很好。

对不起，长期介绍了，但是现在问题。

1-云日志行跳过相似的日志吗？我总是在所有情况下在Jmeter中发送相同的交易，因此交易之间的唯一区别是TransactionId（在REST Controller的开头生成）

2-如果我使用Postman手动发送请求，我可以找到所有日志。 云日志记录是否可以跳过几乎同时通过并行交易生成的类似日志？

我已经在本地测试了相同的情况，并且一切正常，即使我每秒以并行发送100件交易，一个长循环，我可以找到服务生成的所有日志（我正在将日志定为文件），所以我只是在GKE中遇到此问题。

我也知道， @RestController 是线程安全的，因此我看不到日志或响应中的不一致之处。 我正在使用 mDC 与logBack Includemdc 中的配置，基本上我正在将TransActionD添加到MDC上下文MDC.put（“ TransActionId”，TransActionId），如果我MDC也不是错误的也是安全的，因此不应该是问题。

我的记录文件看起来像这样。

<?xml version="1.0" encoding="UTF-8"?>
<configuration>
    <include resource="org/springframework/cloud/gcp/autoconfigure/logging/logback-appender.xml"/>
    <include resource="org/springframework/boot/logging/logback/defaults.xml"/>
    <include resource="org/springframework/boot/logging/logback/console-appender.xml"/>

    <appender name="CONSOLE_JSON_APP" class="ch.qos.logback.core.ConsoleAppender">
        <encoder class="ch.qos.logback.core.encoder.LayoutWrappingEncoder">
            <layout class="org.springframework.cloud.gcp.logging.StackdriverJsonLayout">
                <includeTraceId>true</includeTraceId>
                <includeSpanId>true</includeSpanId>
                <includeLevel>true</includeLevel>
                <includeThreadName>true</includeThreadName>
                <includeMDC>true</includeMDC>
                <includeLoggerName>true</includeLoggerName>
                <includeContextName>true</includeContextName>
                <includeMessage>true</includeMessage>

                <includeFormattedMessage>true</includeFormattedMessage>
                <includeExceptionInMessage>true</includeExceptionInMessage>
                <includeException>true</includeException>

                <serviceContext>
                    <service>APP-LOG</service>
                </serviceContext>
            </layout>
        </encoder>
    </appender>

    <appender name="CONSOLE_JSON_EXT" class="ch.qos.logback.core.ConsoleAppender">
        <encoder class="ch.qos.logback.core.encoder.LayoutWrappingEncoder">
            <layout class="org.springframework.cloud.gcp.logging.StackdriverJsonLayout">
                <projectId>${projectId}</projectId>
                <includeTraceId>true</includeTraceId>
                <includeSpanId>true</includeSpanId>
                <includeLevel>true</includeLevel>
                <includeThreadName>true</includeThreadName>
                <includeMDC>true</includeMDC>
                <includeLoggerName>true</includeLoggerName>
                <includeContextName>true</includeContextName>
                <includeMessage>true</includeMessage>

                <includeFormattedMessage>true</includeFormattedMessage>
                <includeExceptionInMessage>true</includeExceptionInMessage>
                <includeException>true</includeException>

                <serviceContext>
                    <service>EXT-LOG</service>
                </serviceContext>
            </layout>
        </encoder>
    </appender>

<!--    Loggers-->
    <root level="INFO" name="info-log">
        <appender-ref ref="LOCAL_EXTERNAL_DEP"/>
    </root>

    <logger name="com.example.test.service" level="INFO" additivity="false">
        <appender-ref ref="LOCAL_APP" />
    </logger>
</configuration>

RestController看起来像这样。

@RestController
public class TestServiceController {

     @PostMapping("/evaluate")
     public Response evaluate(@RequestBody Request request) {
          UUID transactionId = UUID.randomUUID();
          Logger.info("Starting transaction: ", transactionId ).
          MDC.put("transactionId", transactionId.toString());
          //Some java code here (Only simple things)
          Logger.info("This is the mid of controller").
          //Some java code here (Only simple things)
          Logger.info("End of trx, cleaning MDC context : ", transactionId).
          MDC.clear();

          return transaction.getResponse();
     }
}

目前，我唯一的猜测是云记录正在跳过短时间内生成的类似日志（基本上是相似的执行）。

Answer 1

尝试调整冲洗设置。例如，将Flushlevel设置为调试。有关flushlevel的文档：

我已经看到了您所描述的问题，当时您所描述的问题是当应用程序未配置为直接刷新到STDOUT/ stderr。