填坑!线上Presto查询Hudi表异常排查

yizhihongxing

填坑!线上Presto查询Hudi表异常排查

背景

最近我们使用Presto来查询Hudi表的时候,遇到了一些异常。我们的查询语句没有任何错误,但是查询结果始终为0,而且并没有任何报错信息。针对这个问题,我们进行了一些排查并解决了问题。在这里,我们分享一下我们的排查过程和解决方法。

排查过程

首先我们检查了数据是否有问题,使用Hadoop FSCK命令查看文件系统是否有错误。结果显示,HDFS没有错误。接着我们针对查询语句进行了全面的检查,也没有发现任何问题。

这时我们怀疑是Presto的问题,于是我们查看了Presto的日志和配置文件。在日志中发现,Presto无法读取Hudi表中的数据,因为Hudi的名称节点(NameNode)中缺少Hudi的元数据。经过我们的分析,我们认为可能是Hudi元数据不正确导致Presto无法读取数据。

接着我们尝试手动在NameNode中重新加载Hudi元数据,并重新启动Presto。但是,这个过程过程很慢且效果并不理想,仍然无法解决问题。

紧接着,我们尝试了另一种方法:我们手动停止了Presto,并清理了Presto缓存,然后重新启动Presto,并重新执行查询。这一次查询成功了,Presto可以正确的读取Hudi表中的数据。

解决方案

根据我们的经验,以下是一些关于Presto和Hudi的最佳实践:

  1. 注意Hudi元数据的准确性,确保其能够被正确的访问以支持外部查询。
  2. 定期清理Presto缓存。
  3. 如果您遇到了类似的问题,请尝试停止Presto并清理缓存,然后重新启动Presto。

## 结语

通过以上的排查过程,我们解决了在线上Presto查询Hudi表异常的问题。未来,我们将继续关注Presto和Hudi相关问题,并分享我们的经验和最佳实践。希望本文能够帮助到遇到类似问题的读者们。

本站文章如无特殊说明,均为本站原创,如若转载,请注明出处:填坑!线上Presto查询Hudi表异常排查 - Python技术站

(0)
上一篇 2023年3月28日
下一篇 2023年3月28日

相关文章

  • pycharm软件代码配色和字体设置

    以下是“PyCharm软件代码配色和字体设置的完整攻略”的标准markdown格式文本,其中包含两个示例: PyCharm软件代码配色和字体设置的完整攻略 PyCharm是款流行的Python集成开发环境(IDE),提供了丰富的代码配色和字体设置选项,以满足不同用户的求。以下是PyCharm软件代码配色和字体设置的完整攻略。 1. 代码配色设置 PyChar…

    other 2023年5月10日
    00
  • rust的package,crate,module示例解析

    Rust的Package、Crate和Module示例解析 在Rust中,有几个重要的概念需要理解,包括Package、Crate和Module。下面将详细解释它们之间的关系和示例。 Package 一个Rust项目通常由一个或多个包组成。一个包是一个包含一个或多个Crate的目录,它包含一个Cargo.toml文件,用于描述项目的元数据和依赖关系。 以下是…

    other 2023年10月13日
    00
  • 详解Mybatis核心配置文件

    下面就给您详细讲解Mybatis核心配置文件的完整攻略。 什么是Mybatis核心配置文件 Mybatis核心配置文件是Mybatis框架的重要组成部分,主要用于对数据源、缓存、事务、日志等核心功能的配置。 Mybatis核心配置文件的结构 Mybatis核心配置文件的结构如下所示: <?xml version="1.0" enco…

    other 2023年6月25日
    00
  • PythonCrashCourse 第三章习题

    下面是“PythonCrashCourse 第三章习题的完整攻略”的详细讲解,包括题目描述、解题思路和两个示例等方面。 题目描述 本题是 PythonCrashCourse 第三章的习题,要求编写一个程序,提示用户输入一个数字,并判断该数字是否是 10 的整数倍。如果是,则输出一条消息,指出这个数字是 10 的整数倍;否则,输出一条消息,指出这个数字不是 1…

    other 2023年5月5日
    00
  • Win8学生开发者账号的免费注册流程

    Win8学生开发者账号的免费注册流程如下: 步骤一:注册微软学生俱乐部账号 首先,进入微软学生俱乐部(Microsoft Imagine),点击右上角“注册”按钮; 选择“学生”选项,并填写相关信息,包括姓名、所在国家、出生日期、邮箱等; 接下来,选择“验证方式”,可以通过学校邮箱或学生证明进行验证; 在完成验证后,您需要等待微软对您的账号验证,一般需要1-…

    other 2023年6月26日
    00
  • iOS中使用UItableviewcell实现团购和微博界面的示例

    iOS中使用UITableViewCell实现团购和微博界面的示例攻略 1. 团购界面示例 步骤一:创建UITableViewCell子类 首先,我们需要创建一个UITableViewCell的子类来自定义团购界面的单元格。可以通过以下步骤完成: import UIKit class DealTableViewCell: UITableViewCell { …

    other 2023年9月6日
    00
  • Photoshop提示暂存盘已满该怎么办?虚拟内存盘增加方法介绍

    Photoshop提示暂存盘已满该怎么办?虚拟内存盘增加方法介绍 当你在使用Photoshop时,可能会遇到一个常见的问题,即暂存盘已满的提示。这通常是由于你的计算机的虚拟内存盘空间不足所导致的。在本攻略中,我将详细介绍如何解决这个问题,并提供两个示例说明。 步骤1:检查暂存盘设置 首先,我们需要检查Photoshop的暂存盘设置。按照以下步骤进行操作: 打…

    other 2023年8月1日
    00
  • 在ASP.NET 2.0中操作数据之四十:自定义DataList编辑界面

    在ASP.NET 2.0中,我们经常需要使用DataList控件来展示数据。本文将讲解如何使用自定义模板来创建DataList的编辑界面,以便我们能够在DataList中对数据进行编辑。 第一步:设置DataList的模板 首先,我们需要为DataList设置一个自定义模板。在此模板中,我们可以添加一些控件来允许用户进行数据编辑。以下是一个简单的DataLi…

    other 2023年6月25日
    00
合作推广
合作推广
分享本页
返回顶部