Вопросы по теме 'google-cloud-dataprep'

Dataprep - Планирование заданий
Кто-нибудь, кто участвует в бета-версии Dataprep, может ли запланировать выполнение заданий? Если да, то это служба cron через движок приложения? Я не могу полностью следовать cron для инструкций движка приложения, но хочу убедиться, что это не...
477 просмотров

Повторно используйте один и тот же рецепт для нескольких наборов данных
Я хочу использовать тот же рецепт, который я использую для одного набора данных, для остальных моих наборов данных. Структура/заголовки всех наборов данных одинаковы. Есть ли способ импортировать или повторно использовать один и тот же рецепт без...
675 просмотров
schedule 10.12.2022

Динамический источник данных BigQuery в Google DataPrep — можно ли это сделать?
Может ли быть так, что я не могу определить динамический источник данных с помощью Dataprep. Насколько я вижу, я могу указать только на таблицу BigQuery. Мне нужно указать на определенную часть таблицы. Именование разделов всегда включает дату....
243 просмотров

Сбой Google Cloud DataPrep с межрегиональной ошибкой при использовании базы данных EU BigQuery
Сегодня я столкнулся с некоторыми проблемами, разрабатывая новые потоки - первые, которые я прочитал и загрузил в базы данных BigQuery в регионе ЕС. Чтобы изолировать проблему, я предпринял следующие шаги: Создать новую базу данных BQ в...
651 просмотров

Функция Google Cloud DataPrep DATEDIF несовместима
У меня есть четыре столбца DateTime, все в длинном формате, например 2016-08-01T21:13:02Z . Они называются EnqDateTime , QuoteCreatedDateTime , BookingCreatedDateTime и RejAt . Я хочу добавить столбцы на продолжительность (в днях) между...
113 просмотров

Предварительная обработка данных, хранящихся в BigQuery
Я только начал использовать GCP, и у меня есть некоторые сомнения относительно правильного использования некоторых из его инструментов. В частности, я пытаюсь получить данные из Google Analytics в BigQuery. Можно ли использовать Dataprep для данных,...
309 просмотров

повторяющиеся слова регулярного выражения
Мне нужно сопоставить (НЕ УДАЛИТЬ) все повторяющиеся слова в тексте. Например: Мужская·Футболка·Рубашка·Винтаж·Футболка·1990·Глубокий·Черный·Красный·Текст·Глубокий·Черный·Красный·Текст·X-Small...
508 просмотров
schedule 17.04.2023

Программное редактирование рецепта Dataprep
У нас есть задание подготовки данных для обработки входного файла и создания очищенного файла. Мы вызываем это задание подготовки данных удаленно, используя шаблоны потока данных. Мы используем python для запуска задания из шаблонов потока данных....
323 просмотров

Облачная подготовка данных Google — как создать хэш столбца
может ли кто-нибудь указать готовую или пользовательскую реализацию в Cloud Dataprep для создания хэша другого столбца, например, у bigquery есть FARM_FINGERPRINT.
247 просмотров

Подготовка данных GCP - прямое и обратное заполнение
У меня есть следующая таблица, которую я пытаюсь обработать при подготовке данных GCP: Timestamp Event 2018-04-01 0 2018-04-02 0 2018-04-03 0 2018-04-04 0 2018-04-05 1 2018-04-06 0 2018-04-07 0 2018-04-08 0 Я пытаюсь...
134 просмотров

Использование Dataprep для записи только в раздел по дате в таблице с разделом по дате
Я использую представление BigQuery для извлечения вчерашних данных из таблицы BigQuery, а затем пытаюсь записать в таблицу с разделением по датам с помощью Dataprep. Моя первая проблема заключалась в том, что Dataprep не мог правильно подбирать...
692 просмотров

Подсчет по значению, распределенному по нескольким столбцам в Google Cloud DataPrep
У меня довольно сложная задача по преобразованию данных, которую я не могу понять в программе подготовки Google Cloud Data. Исходные данные - это информация из файла избирателя. В CSV есть 10 столбцов (среди многих других), которые содержат историю...
55 просмотров
schedule 27.06.2022

GCP Dataflow API не оценивает функцию now/today(), вызываемую в рецепте, написанном на dataprep.
После запуска API dataflow.projects.locations.templates.launch (я протестировал также «создание» API) с шаблоном, сгенерированным ранее в dataprep, столбец, сгенерированный с помощью функции today() (я также протестировал «now()» функция), кажется,...
189 просмотров

Потоки исчезли из проекта
Я использую Dataprep в течение нескольких месяцев, и в одном из моих проектов встроено множество различных потоков. Я работал с ним сегодня утром, но теперь, когда я вхожу в систему, проект в Dataprep пуст, как будто я новый пользователь. Я начинаю...
72 просмотров

Google Data Prep - невозможно импортировать таблицу из BigQuery (созданной из Google Таблиц) Ничего не найдено
Я создал одну таблицу в BigQuery из Google Sheets, когда я пытался импортировать ее в Cloud Data Prep, она говорит, что в наборе данных нет таблиц. Я не уверен, является ли это проблемой с интеграцией листов Google, потому что, когда я проверяю...
116 просмотров

Несоответствие числовых значений из CSV-файла в Dataprep
Я изо всех сил пытаюсь понять, почему Dataprep присваивает несовпадающие значения числовым значениям, которые я пытаюсь импортировать из файла .csv. В моем excel все выглядит нормально: но в dataprep это значение, которое я получаю:...
175 просмотров

Используете набор данных с параметрами для BigQuery в Cloud Data Prep?
У меня есть несколько наборов данных BigQuery с ежедневными таблицами, например яблоки_201904010 яблоки_201904009 и т.п. Я хотел бы настроить расписание подготовки облачных данных для обработки этих таблиц каждую ночь, поэтому...
181 просмотров

Как устранить неполадки, когда файл не найден (удален) в пользовательском интерфейсе
Я пытаюсь исправить типы данных некоторых столбцов в моем CSV-файле, прежде чем отправлять его в большой запрос. Независимо от того, как я его запускаю, у меня получается: Файл не найден (удален): файл gs: //bucketshahtest/*****/********.csv не...
47 просмотров
schedule 03.04.2023

Набор данных импорта Dataprep не обнаруживает заголовки в первой строке автоматически
Я импортирую набор данных из Google Cloud Storage (параметризованный) в Dataprep. До сих пор это работало отлично, и одна из функций, которые мне понравились, это то, что он автоматически определяет, что первая строка в моем (application /...
411 просмотров
schedule 19.05.2023

Dataprep изменяет дату str yyyymmdd на столбец datetime
У меня есть столбец с датами (в строковом формате) в Dataprep: ггггммдд. Я хотел бы, чтобы он стал объектом datetime. Какую функцию/преобразование следует применить для автоматического достижения этого результата?
350 просмотров