En esta nueva entrega de la saga de tutoriales acerca de DataHub, vamos a trabajar en la conectividad con la plataforma a través de la API. Como ingenieros de datos, el objetivo es incorporar DataHub como herramienta de Data Governance…
La llegada de Apache Spark 4.0 se está haciendo esperar, pero para alentar a la comunidad, la famosa fundación ha liberado un preview access de la versión. Hace ya unos meses, los desarrolladores de Databricks contaron un pequeño avance de…
En este post hablaremos de los principales conceptos de DataHub a nivel funcional y estudiaremos los elementos fundamentales haciendo un tour por la aplicación. Para poder seguirlo, puedes apoyarte en la página de demo de DataHub. En la top bar…
En el Tutorial DataHub I analizamos la arquitectura de esta plataforma. En este post, vamos a ver una guía de cómo desplegar DataHub y empezar a trabajar con esta herramienta. DataHub se puede desplegar de dos formas: mediante Helm o…
Comenzamos una colección de tutoriales sobre el uso y funcionamiento de DataHub, una plataforma Data Governance que ya mencionamos en el post qué es y en qué consiste un Data Catalog. En esta serie, exploramos el concepto de gobernanza de datos…
Qué es un Catálogo de datos o Data Catalog parece algo muy intuitivo y que cualquiera mínimamente iniciado en este mundo comprendería, pero llevarlo a la práctica e implementarlo, es algo más complicado. Para aquellos que no conocen este concepto,…
En el mundo del desarrollo de aplicaciones, es cada vez más frecuente encontramos con entornos de despliegue basados en contenedores y Kubernetes se ha consolidado como el estándar para la orquestación de este tipo de elementos. Sin embargo, para muchos…
En el campo del Data Engineering, el diseño eficiente de bases de datos es esencial para manejar grandes volúmenes de datos y proporcionar análisis efectivos. A lo largo de mi experiencia como Data Engineer, he trabajado con los principales sistemas…
Hoy vamos a hablar de dos formas de realizar testing en Apache Airflow. Históricamente, realizar tests en Airflow ha sido algo que nos ha traído de cabeza a todos los usuarios del famoso framework. El acoplamiento del código con la…
En este post vamos a hablar de cómo DBT se integra con Spark y para qué puede resultarnos útil dicha integración. DBT es un framework que nos facilita el diseño del modelado de datos a lo largo de los diferentes…