En Damavis somos muy conscientes de la importancia que tiene para nuestros clientes el poder disponer de sus datos en tiempo real. Por este motivo, uno de nuestros puntos fuertes es el desarrollo con herramientas y tecnologías que puedan mover,…
Nota: el código de este post ha sido probado utilizando Apache Hadoop 2.10.1. Por favor, consulta el post de Introducción a Apache Hadoop para configurar esta versión de Hadoop en caso de que no lo hayas hecho todavía. Como ya…
¿Qué es y cómo funciona Apache Airflow? Uno de los procesos de trabajo de un data engineer es el conocido ETL (Extract, Transform, Load). Este proceso permite a las organizaciones tener la capacidad de cargar el dato desde diferentes fuentes,…
A veces puede resultar un poco agobiante entender el papel de las tecnologías open source más comunes utilizadas en contextos de Big Data. Por ejemplo, probablemente la mayoría de vosotros ha oído hablar de herramientas como Apache Hadoop, Apache Spark,…
En este artículo, presentamos la guía definitiva para configurar el entorno de desarrollo de PySpark en PyCharm, una de las opciones más completas. Apache Spark se ha convertido en la herramienta Big Data por excelencia, nos ayuda a procesar grandes…
Programa, orquesta y monitoriza tus tareas de Kettle con este plugin de Pentaho PDI para Airflow. En Damavis sabemos la importancia que tiene el procesado de los datos. Extraer, limpiar, transformar, agregar, cargar o cruzar múltiples fuentes de datos permiten…