En este post hablaremos de los principales conceptos de DataHub a nivel funcional y estudiaremos los elementos fundamentales haciendo un tour por la aplicación. Para poder seguirlo, puedes apoyarte en la página de demo de DataHub. En la top bar…
En el Tutorial DataHub I analizamos la arquitectura de esta plataforma. En este post, vamos a ver una guía de cómo desplegar DataHub y empezar a trabajar con esta herramienta. DataHub se puede desplegar de dos formas: mediante Helm o…
Comenzamos una colección de tutoriales sobre el uso y funcionamiento de DataHub, una plataforma Data Governance que ya mencionamos en el post qué es y en qué consiste un Data Catalog. En esta serie, exploramos el concepto de gobernanza de datos…
Qué es un Catálogo de datos o Data Catalog parece algo muy intuitivo y que cualquiera mínimamente iniciado en este mundo comprendería, pero llevarlo a la práctica e implementarlo, es algo más complicado. Para aquellos que no conocen este concepto,…
En un artículo anterior, hicimos una introducción teórica a Spark Structured Streaming donde analizamos en profundidad la API de alto nivel que proporciona Spark para el procesamiento de flujos de datos masivos en tiempo real (Structured Streaming). En él, vimos…
En el mundo del desarrollo de aplicaciones, es cada vez más frecuente encontramos con entornos de despliegue basados en contenedores y Kubernetes se ha consolidado como el estándar para la orquestación de este tipo de elementos. Sin embargo, para muchos…
El tratamiento y el consumo de datos son elementos esenciales del mundo empresarial contemporáneo. Por eso, existen unas misteriosas piezas de software, comúnmente abreviadas como APIs, cuyo rol es fundamental en éste tráfico de información. Las API (Application Programming Interface)…
En los últimos años, el procesamiento del dato con baja latencia, prácticamente en tiempo real, se está convirtiendo en un requisito cada vez más demandado por las empresas en sus procesos Big Data. Es en este contexto donde se introduce…
La API Structured Streaming de Apache Spark es una poderosa herramienta para procesar flujos de datos en tiempo real. En este contexto, existen ciertos casos de uso en los que asegurar la exactitud del dato procesado no es trivial debido…
En el campo del Data Engineering, el diseño eficiente de bases de datos es esencial para manejar grandes volúmenes de datos y proporcionar análisis efectivos. A lo largo de mi experiencia como Data Engineer, he trabajado con los principales sistemas…