Home

Bietl etl - 2.0

Over enige tijd zal ik een nieuwe versie van bietl etl lanceren.

In opsomming wordt er gewerkt om:

  • De interface te verbeteren (makkelijker onderhoud).
  • Het upgraden naar een nieuwe versie makkelijker te maken.
  • De staging area is historisch.
  • Download process kan ook omgaan met update times om de verschillen te extraheren (voor grote feiten tabellen is dit handig).
    • hierbij als opmerking dat deletes via een delete detectie tabel gaan lopen.
  • Geautomatiseerd testen tussen bron, staging en dwh.
  • Meer fact table types (validity: tijdstroken, actual: alleen de laatste stand).
  • Etl run gaat ook parameters bevatten wanneer deze dient te stoppen (of door te gaan).

Voor nu is er nog te weinig om online te zetten; behalve het nieuws dat er een nieuwe versie aankomt.

 

ETL Presentation

In 2010 a short presentation about bietl etl was launched on how it worked and how it should work. Later the knowledge bank followed and behind the scenes i gained some more knowledge how dwh techniques are working in practice. 
Before i start to work again on redesigning the etl inner workings i will strive to make it even more compact and i will introduce more fail safe mechanisms.

I dont know if it all remains in PHP but i will promise it remains open-source.

Keep watching the download scene for the updated etl presentation.

 

Ubuntu

Bietl streeft ernaar om software in dienst te stellen van de organisatie/ gebruiker.
Ubuntu heeft veel voordelen tov microsoft maar het vergt soms nog wat kennis (terminal commands).

Het draait overigens stabieler dan windows en met de huidige distributies is het installeren van additionele software een fluitje van een cent (euro ct).

Ubuntu is hier te vinden: http://www.ubuntu.com/

Last Updated (Wednesday, 15 December 2010 20:41)

 

Kennis Bank

Bietl ETL heeft ondertussen al meerdere fasen doorlopen.
Van een simpel mysql script tot een php programma dat zelf sql schrijft om het ETL process te ondersteunen.
Dit alles kan voor een beginnende gebruiker (maar ook voor een doorgewinterde professional) soms de nodige frustratie opleveren hoe en waarom Bietl ETL op een bepaalde manier is ingericht.

De bedoeling van deze kennisbank is om een soort online Helpfile te worden voor Bietl ETL.
Via de zoek functie op deze website zal er gepoogd worden om een integratie te bewerkstellingen tussen Bietl ETL en Bietl KB (kennisbank) zodat wanneer de gebruiker van Bietl ETL vragen heeft omtrent Bietl ETL deze opgezocht kunnen worden op bietl.nl.

De eerste paar stappen van Bietl KB zal zich richten op het installeren en gebruiken van de programmatuur.

 

Last Updated (Monday, 28 February 2011 17:26)

 

Bietl 2010-09-01

Bietl etl versie 2010-09-01 is aan de download sectie toegevoegd.

Belangrijkste wijzigingen zijn:

  • update snapshot  (voor oracle)
  • update dimension (voor oracle)
  • update checksum table (het teruglezen van de weggeschreven records in de flat file zodat het bruikbaar is voor microbatches).
  • Table actions toegevoegd aan logical mapping (truncate table, analyze tabl e.d.
  • Bugfixes in de mysql metadata.

Klik op deze link om naar de download sectie te gaan in het forum.