Вопросы по теме 'hive-metastore'

Как получить все столбцы столбцов базы данных
Я хочу получить информацию обо всех базах данных и связанных с ними таблицах и столбцах. Очевидно, я могу сделать это из метамагазина. Но у меня нет к нему доступа. Итак, есть ли другой способ вместо того, чтобы запрашивать каждую базу данных по...
1353 просмотров
schedule 22.04.2022

Как получить недавно созданные разделы в таблице Hive?
У меня есть таблица под названием EMPLOYEE со столбцами ID, NAME, DESIGNATION, CITY, COUNTRY, CONTINENT. С 3-уровневым разделением на КОНТИНЕНТ, СТРАНА, ГОРОД. Теперь мне нужно знать недавно созданные разделы, скажем, после определенной метки...
704 просмотров

Не удалось подключиться к HIVE Java
Я хочу использовать org.apache.hadoop.hive для работы с хранилищем метаданных. Улей (1.1) и hadoop (версия 2.6) были установлены на сервере Linux. На моем компьютере установлена ​​ОС Windows. Здесь я пытаюсь создать Hive conf. import...
707 просмотров
schedule 21.05.2023

Может ли улей метастор виртуально разделить данные на основе значения столбца без физического изменения структуры каталогов?
В качестве примера рассмотрим, что у меня есть данные обо всех произошедших крупных спортивных событиях. Схема приведена ниже. Имя события, Дата, Месяц, Год, Город Это данные, которые физически структурированы в HDFS по году, дате, месяцу....
84 просмотров

Улей, показывающий несуществующие разделы
У меня есть таблица в улье, DDL которой выглядит следующим образом: CREATE TABLE test(id string) PARTITIONED BY (data_updated string,batch_id string,country string,state string); data_updated=NO/batch_id=102/country='1'/state='A';...
938 просмотров
schedule 17.05.2023

Настройка удаленного хранилища метаданных улья на postgresql для EMR
Я пытаюсь настроить postgresql db в качестве внешнего хранилища метаданных Hive для AWS EMR. Я пробовал разместить его как на EC2, так и на RDS. Я уже пробовал шаги, указанные здесь . Но это не проходит, EMR не работает на этапе подготовки...
698 просмотров
schedule 07.11.2023

Невозможно сохранить таблицу в хранилище метаданных улья, HDP 3.0
Я больше не могу сохранять таблицу в базу данных куста с помощью хранилища метаданных. Я вижу таблицы в искре с использованием spark.sql , но я не вижу тех же таблиц в базе данных улья. Я пробовал это, но он не хранит таблицу в улье. Как я могу...
1844 просмотров

Не удается подключиться к хранилищу метаданных Hive из приложения Spark
Я пытаюсь подключиться к Hive-metastore из приложения Spark, но каждый раз он застревает при попытке подключения и вылетает из-за тайм-аута: INFO metastore:376 - Trying to connect to metastore with URI thrift://hive-metastore:9083 WARN...
2906 просмотров
schedule 21.10.2022

Можно ли изменить метаданные существующего столбца во ВНЕШНЕЙ таблице, которая определена файлом схемы AVRO?
Это продолжение предыдущего вопроса, который я задал: Можно ли изменить метаданные столбца, который находится в многораздельной таблице в Hive? Вопрос: Можно ли изменить метаданные существующего столбца во ВНЕШНЕЙ таблице, которая...
214 просмотров
schedule 04.10.2022

Можно ли уменьшить количество проверок MetaStore при запросе таблицы Hive с большим количеством столбцов?
Я использую Spark sql для блоков данных, который использует хранилище метаданных Hive, и я пытаюсь настроить задание / запрос, который использует довольно много столбцов (20+). Время, необходимое для выполнения проверок валидации хранилища...
791 просмотров

Отложенное выполнение запросов Explain в кластерах Prestosql
У меня есть два типа кластеров prestosql: на экземплярах aws и на Kubernetes. У Prestosql на K8s есть странная проблема с запросами EXPLAIN, поскольку это занимает много времени ~ 2-3 минуты по сравнению с 2-3 секундами в экземпляре. Запрос...
95 просмотров
schedule 27.08.2023

Можем ли мы извлечь запросы, которые выполнялись в кусте, с помощью метаданных
По сути, мне нужны метаданные запросов, которые выполнялись в улье за ​​один день. Я просмотрел метаданные, которые предоставляет hive в MySql. Но не удалось найти какую-либо таблицу, в которой хранится информация, связанная с запросом.
63 просмотров
schedule 06.03.2023

Внешнее хранилище метаданных улья Databricks с использованием мета-исключения БД Azure SQL (сообщение: информация о версии не найдена в хранилище метаданных).
Я пытаюсь настроить внешнее хранилище метаданных улья для Databricks, используя следующий сценарий инициализации: dbutils.fs.put( "/databricks/scripts/external-metastore.sh", """#!/bin/sh |# Loads environment variables to...
284 просмотров