[190] | 1 | #!/bin/bash |
---|
| 2 | ## ------------------------------------------------- |
---|
| 3 | ## Konvertierung von ALKIS NAS-Format nach PostGIS - |
---|
| 4 | ## NAS-Daten in einem Ordner konvertieren - |
---|
| 5 | ## Batch-Teil, Aufruf mit geprueften Parametern - |
---|
| 6 | ## ------------------------------------------------- |
---|
| 7 | ## |
---|
| 8 | ## Ordner-Struktur: |
---|
| 9 | ## /mandant/ |
---|
| 10 | ## /0001/*.xml.zip |
---|
| 11 | ## /0002/*.xml.zip |
---|
| 12 | ## usw. |
---|
| 13 | ## /temp/ |
---|
| 14 | ## Auf der gleichen Ebene wie die Datenordner muss ein Ordner /temp/ existieren. |
---|
| 15 | ## Dort werden die NAS-Daten temporaer ausgepackt. |
---|
| 16 | ## Relativ zum mitgegebenen Parameter ist das: '../temp/' |
---|
| 17 | ## Parallel laufende Konvertierungen zum gleichen Mandanten |
---|
| 18 | ## wuerden hier durcheinander geraten. Vermeiden! |
---|
| 19 | ## |
---|
| 20 | ## Stand: |
---|
| 21 | ## 2012-02-10 Umbennung nach 0.7 |
---|
| 22 | ## 2012-02-17 Optimierung |
---|
| 23 | ## 2012-02-28 Neuer Parameter 4 um Post-Prozessing zu unterdruecken |
---|
| 24 | ## 2012-04-25 Durch GDAL Patch #5444 werden die Loeschungen als Trigger auf Tabelle 'delete' verarbeitet |
---|
| 25 | ## 2012-05-18 Umzug neue GDI, GDAL-Trunk unter Pfad |
---|
| 26 | ## 2012-06-04 SQL-Skripte in deren Verzeichnis ausfuehren (Voraussetzung fuer \i Includes) |
---|
| 27 | ## 2012-10-30 Umgebungsvariable setzen, delete-Tabelle am Ende fuer Analyse gefuellt lassen. |
---|
| 28 | ## Test als 0.7a mit gepatchter gdal-Version (noch 2.0dev) |
---|
[294] | 29 | ## 2013-10-16 F.J. krz: Neues Script "pp_praesentation_action.sql" für Reparatur der |
---|
| 30 | ## Präsentationsobjekte Straßenname im Post-Processing |
---|
[296] | 31 | ## 2013-10-24 F.J. krz: Zwischenlösung "praesentation_action.sql" wieder deaktiviert. |
---|
[314] | 32 | ## 2014-01-31 F.J. krz: Import Eintrag erzeugen (nach Vorschlag Marvin Brandt, Unna) |
---|
[190] | 33 | ## |
---|
| 34 | ## ToDo: Option "-skipfailures" nach Test entfernen ? |
---|
| 35 | ## |
---|
| 36 | ## Koordinaten: EPSG:25832 UTM, Zone 32 |
---|
| 37 | ## -a_srs EPSG:25832 - bleibt im UTM-System (korrigierte Werte) |
---|
| 38 | ## |
---|
| 39 | |
---|
| 40 | POSTNAS_HOME=$(dirname $0) |
---|
| 41 | |
---|
| 42 | # Konverterpfad |
---|
| 43 | PATH=/opt/gdal-2.0/bin:$PATH |
---|
| 44 | EPSG=25832 |
---|
[317] | 45 | DBUSER=postgres |
---|
[190] | 46 | |
---|
[317] | 47 | if [ $DBUSER == "" ] |
---|
| 48 | then |
---|
| 49 | $PGUSER=" -U ${DBUSER} " |
---|
| 50 | else |
---|
| 51 | $PGUSER="" |
---|
| 52 | fi |
---|
[190] | 53 | |
---|
[317] | 54 | if [ $DBUSER == "" ] |
---|
| 55 | then |
---|
| 56 | OGRPGUSER=" user=${DBUSER}" |
---|
| 57 | else |
---|
| 58 | OGRPGUSER="" |
---|
| 59 | fi |
---|
| 60 | |
---|
[190] | 61 | echo "**************************************************" |
---|
| 62 | echo "** K o n v e r t i e r u n g PostNAS 0.7a **" |
---|
| 63 | echo "**************************************************" |
---|
| 64 | ## Parameter: |
---|
| 65 | ORDNER=$1 |
---|
| 66 | DBNAME=$2 |
---|
| 67 | UPD=$3 |
---|
| 68 | PP=$4 |
---|
| 69 | if [ $ORDNER == "" ] |
---|
| 70 | then |
---|
| 71 | echo "Parameter 1 'Ordner' ist leer" |
---|
| 72 | exit 1 |
---|
| 73 | fi |
---|
| 74 | if [ $DBNAME == "" ] |
---|
| 75 | then |
---|
| 76 | echo "Parameter 2 'Datenbank' ist leer" |
---|
| 77 | exit 2 |
---|
| 78 | fi |
---|
| 79 | if [ $UPD == "a" ] |
---|
| 80 | then |
---|
| 81 | verarb="NBA-Aktualisierung" |
---|
| 82 | update=" -update " |
---|
| 83 | else |
---|
| 84 | if [ $UPD == "e" ] |
---|
| 85 | then |
---|
| 86 | verarb="Erstladen" |
---|
| 87 | update="" |
---|
| 88 | else |
---|
| 89 | echo "Parameter 3 'Aktualisierung' ist weder e noch a" |
---|
| 90 | exit 3 |
---|
| 91 | fi |
---|
| 92 | fi |
---|
| 93 | if [ $PP == "nopp" ] |
---|
| 94 | then |
---|
| 95 | echo "KEIN Post-Processing nach dieser Konvertierung." |
---|
| 96 | else |
---|
| 97 | if [ $PP == "pp" ] |
---|
| 98 | then |
---|
| 99 | echo "normales Post-Processing." |
---|
| 100 | else |
---|
| 101 | echo "FEHLER: Parameter 4 'Post-Proscessing' ist weder 'nopp' noch 'pp'" |
---|
| 102 | exit 4 |
---|
| 103 | fi |
---|
| 104 | fi |
---|
| 105 | # Fehlerprotokoll: |
---|
[294] | 106 | errprot=${POSTNAS_HOME}'/log/postnas_err_'$DBNAME'.prot' |
---|
[190] | 107 | # |
---|
| 108 | # DB-Connection |
---|
[317] | 109 | con="${PGUSER} -p 5432 -d ${DBNAME} " |
---|
[190] | 110 | echo "Datenbank-Name . . = ${DBNAME}" |
---|
| 111 | echo "Ordner NAS-Daten . = ${ORDNER}" |
---|
| 112 | echo "Verarbeitungs-Modus= ${verarb}" |
---|
| 113 | echo " " |
---|
| 114 | # noch alte delete-Eintraege in DB? |
---|
| 115 | echo "Leeren der delete-Tabelle" |
---|
| 116 | echo 'TRUNCATE table "delete";' | psql $con |
---|
[314] | 117 | |
---|
[190] | 118 | # |
---|
[314] | 119 | # Import Eintrag erzeugen |
---|
| 120 | # |
---|
| 121 | # Die dadurch erzeugte Import-ID dient zur Steuerung des Löschens alter Relationen im Trigger. |
---|
| 122 | # Wird die Datenbank MIT Historie geladen, muss die folgende Zeile auskommentiert werden. |
---|
| 123 | echo "INSERT INTO import (datum,verzeichnis,importart) VALUES ('"$(date '+%Y-%m-%d %H:%M:%S')"','"${ORDNER}"','"${verarb}"');" | psql $con |
---|
| 124 | |
---|
| 125 | # |
---|
[190] | 126 | # Ordner abarbeiten |
---|
| 127 | # |
---|
| 128 | cd ${ORDNER} |
---|
| 129 | rm ../temp/*.gfs |
---|
| 130 | echo "Dateien in " ${ORDNER} " (ls) :" |
---|
| 131 | ls |
---|
| 132 | for zipfile in *.zip ; do |
---|
| 133 | echo " " |
---|
| 134 | rm ../temp/*.xml |
---|
| 135 | echo "*********" |
---|
| 136 | #echo "* Archiv: " $zipfile |
---|
| 137 | unzip ${zipfile} -d ../temp |
---|
| 138 | # Es sollte nur ein XML-File in jedem ZIP-File stecken, aber es geht auch anders. |
---|
| 139 | for nasdatei in ../temp/*.xml ; do |
---|
| 140 | # echo "* Datei: " $nasdatei |
---|
| 141 | # Zwischenueberschrift im Fehlerprotokoll |
---|
| 142 | echo "* Datei: " $nasdatei >> $errprot |
---|
| 143 | # |
---|
| 144 | # Umgebungsvariable setzen: |
---|
| 145 | export GML_FIELDTYPES=ALWAYS_STRINGS # PostNAS behandelt Zahlen wie Strings, PostgreSQL-Treiber macht daraus Zahlen |
---|
| 146 | export OGR_SETFIELD_NUMERIC_WARNING=YES # Meldung abgeschnittene Zahlen? |
---|
| 147 | #export CPL_DEBUG=ON # Meldung, wenn Attribute ueberschrieben werden |
---|
| 148 | # |
---|
| 149 | # PostNAS Konverter-Aufruf |
---|
| 150 | # |
---|
| 151 | # -skipfailures # |
---|
| 152 | # -overwrite # |
---|
| 153 | ogr2ogr -f "PostgreSQL" -append ${update} -skipfailures \ |
---|
[317] | 154 | PG:"dbname=${DBNAME} host=localhost port=5432 ${OGRPGUSER}" -a_srs EPSG:$EPSG ${nasdatei} 2>> $errprot |
---|
[190] | 155 | nasresult=$? |
---|
| 156 | echo "* Resultat: " $nasresult " fuer " ${nasdatei} | tee -a $errprot |
---|
| 157 | done # Ende Zipfile |
---|
| 158 | done # Ende Ordner |
---|
| 159 | rm ../temp/*.xml |
---|
| 160 | echo " " |
---|
| 161 | echo "** Ende Konvertierung Ordner ${ORDNER}" |
---|
| 162 | # |
---|
| 163 | # Post-Processing / Nacharbeiten |
---|
| 164 | # |
---|
| 165 | if [ $PP == "nopp" ] |
---|
| 166 | then |
---|
| 167 | echo "** KEIN Post-Processing - Dies spaeter nachholen." |
---|
| 168 | # Dies kann sinnvoll sein, wenn mehrere kleine Aktualisierungen hintereinander auf einem grossen Bestand laufen |
---|
| 169 | # Der Aufwand fuer das Post-Processing ist dann nur bei der LETZTEN Aktualisierung notwendig. |
---|
| 170 | else |
---|
| 171 | echo "** Post-Processing (Nacharbeiten zur Konvertierung)" |
---|
[294] | 172 | |
---|
[190] | 173 | echo "** - Optimierte Nutzungsarten neu Laden:" |
---|
[317] | 174 | (cd $POSTNAS_HOME; psql $con -f nutzungsart_laden.sql) |
---|
[294] | 175 | |
---|
| 176 | |
---|
[190] | 177 | echo "** - Fluren / Gemarkungen / Gemeinden neu Laden:" |
---|
[317] | 178 | (cd $POSTNAS_HOME; psql $con -f pp_laden.sql) |
---|
[294] | 179 | |
---|
| 180 | |
---|
[296] | 181 | # echo "** - Präsentationsobjekte generieren:" |
---|
[317] | 182 | # (cd $POSTNAS_HOME; psql $con -f pp_praesentation_action.sql) |
---|
[294] | 183 | |
---|
[190] | 184 | fi |
---|
[294] | 185 | # |
---|
[190] | 186 | if [ "$(readlink $POSTNAS_HOME/alkis-trigger.sql)" = "alkis-trigger-kill.sql" ]; then |
---|
| 187 | # Durch Einfuegen in Tabelle 'delete' werden Loeschungen anderer Tabellen getriggert |
---|
| 188 | echo "** delete-Tabelle enthaelt:" |
---|
| 189 | echo 'SELECT COUNT(featureid) AS delete_zeilen FROM "delete";' | psql $con |
---|
| 190 | #echo " delete-Tabelle loeschen:" |
---|
| 191 | #echo 'TRUNCATE table "delete";' | psql $con |
---|
| 192 | # Fuer Analyse-Zwecke sollten die Delete-Eintraege erhalten bleiben bis zum naechsten Lauf. |
---|
| 193 | # TRUNCATE erfolgt VOR der Konnvertierung. |
---|
| 194 | # |
---|
| 195 | # Wenn die Datenbank MIT Historie angelegt wurde, man diese aber gar nicht braucht, |
---|
| 196 | # dann hinterher aufraeumen der historischen Objekte |
---|
| 197 | #echo "** geendete Objekte entfernen:" |
---|
| 198 | # Function: |
---|
| 199 | #echo 'SELECT alkis_delete_all_endet();' | psql $con |
---|
| 200 | #echo " ... geendete Objekte entfernen wurde fuer Test dektiviert." |
---|
| 201 | #echo " Bitte manuell ausfuehren: SELECT alkis_delete_all_endet(); " |
---|
| 202 | fi |
---|
[294] | 203 | echo "Das Fehler-Protokoll wurde ausgegeben in die Datei $errprot" |
---|
[317] | 204 | #echo "HINWEIS: -skipfailures fuer Produktion wieder einschalten." |
---|