1 | #!/bin/bash |
---|
2 | ## ------------------------------------------------- |
---|
3 | ## Konvertierung von ALKIS NAS-Format nach PostGIS - |
---|
4 | ## NAS-Daten in einem Ordner konvertieren - |
---|
5 | ## Batch-Teil, Aufruf mit geprueften Parametern - |
---|
6 | ## ------------------------------------------------- |
---|
7 | ## |
---|
8 | ## Ordner-Struktur: |
---|
9 | ## /mandant/ |
---|
10 | ## /0001/*.xml.zip |
---|
11 | ## /0002/*.xml.zip |
---|
12 | ## usw. |
---|
13 | ## /temp/ |
---|
14 | ## Auf der gleichen Ebene wie die Datenordner muss ein Ordner /temp/ existieren. |
---|
15 | ## Dort werden die NAS-Daten temporaer ausgepackt. |
---|
16 | ## Relativ zum mitgegebenen Parameter ist das: '../temp/' |
---|
17 | ## Parallel laufende Konvertierungen zum gleichen Mandanten |
---|
18 | ## wuerden hier durcheinander geraten. Vermeiden! |
---|
19 | ## |
---|
20 | ## Stand: |
---|
21 | ## 2012-02-10 Umbennung nach 0.7 |
---|
22 | ## 2012-02-17 Optimierung |
---|
23 | ## 2012-02-28 Neuer Parameter 4 um Post-Prozessing zu unterdruecken |
---|
24 | ## 2012-04-25 Durch GDAL Patch #5444 werden die Loeschungen als Trigger auf Tabelle 'delete' verarbeitet |
---|
25 | ## 2012-05-18 Umzug neue GDI, GDAL-Trunk unter Pfad |
---|
26 | ## 2012-06-04 SQL-Skripte in deren Verzeichnis ausfuehren (Voraussetzung fuer \i Includes) |
---|
27 | ## 2012-10-30 Umgebungsvariable setzen, delete-Tabelle am Ende fuer Analyse gefuellt lassen. |
---|
28 | ## Test als 0.7a mit gepatchter gdal-Version (noch 2.0dev) |
---|
29 | ## 2013-10-16 F.J. krz: Neues Script "pp_praesentation_action.sql" für Reparatur der |
---|
30 | ## Präsentationsobjekte Straßenname im Post-Processing |
---|
31 | ## 2013-10-24 F.J. krz: Zwischenlösung "praesentation_action.sql" wieder deaktiviert. |
---|
32 | ## 2014-01-31 F.J. krz: Import Eintrag erzeugen (nach Vorschlag Marvin Brandt, Unna) |
---|
33 | ## 2014-02-13 A.Emde WhereGroup: Einführung DBUSER, damit im Skript der Datenbankbenutzer angegeben werden kann |
---|
34 | ## 2014-05-12 F.J. krz: Unterschiedliche Pfade in Test (TRUNK) und Produktion (Rel. 1.11.0) |
---|
35 | ## 2014-06-18 F.J. DB-User nicht "postgres" (in $con). |
---|
36 | ## Konverter ind Nacharbeiten sonst mit unterschiedlichem User. |
---|
37 | ## Abgleich Test/Prod-Version |
---|
38 | ## Entfernen der historischen Objekte nach Konvertierung. |
---|
39 | ## 2014-09-03 F.J. Auch für 0.7-Datenstruktur die aktuelle Programmversion, PG_USE_COPY |
---|
40 | |
---|
41 | ## Koordinaten: EPSG:25832 UTM, Zone 32 |
---|
42 | ## -a_srs EPSG:25832 - bleibt im UTM-System (korrigierte Werte) |
---|
43 | |
---|
44 | POSTNAS_HOME=$(dirname $0) |
---|
45 | PATH=/opt/gdal-2.0/bin:$PATH # TRUNK-Version (immer letzter Stand der Entwicklung) |
---|
46 | #PATH=/opt/gdal-1.11/bin:$PATH # Release GDAL 1.11.0 vom April 2014 |
---|
47 | EPSG=25832 |
---|
48 | DBUSER=b600352 |
---|
49 | |
---|
50 | if [ $DBUSER == "" ] |
---|
51 | then |
---|
52 | echo "kein DBUSER gesetzt" |
---|
53 | else |
---|
54 | PGUSER=" -U ${DBUSER} " |
---|
55 | fi |
---|
56 | |
---|
57 | if [ $DBUSER == "" ] |
---|
58 | then |
---|
59 | echo "kein DBUSER gesetzt" |
---|
60 | else |
---|
61 | OGRPGUSER=" user=${DBUSER}" |
---|
62 | fi |
---|
63 | |
---|
64 | echo " |
---|
65 | ********************************************** |
---|
66 | ** K o n v e r t i e r u n g PostNAS ** |
---|
67 | ********************************************** |
---|
68 | " |
---|
69 | ## Parameter: |
---|
70 | ORDNER=$1 |
---|
71 | DBNAME=$2 |
---|
72 | UPD=$3 |
---|
73 | PP=$4 |
---|
74 | if [ $ORDNER == "" ] |
---|
75 | then |
---|
76 | echo "Parameter 1 'Ordner' ist leer" |
---|
77 | exit 1 |
---|
78 | fi |
---|
79 | if [ $DBNAME == "" ] |
---|
80 | then |
---|
81 | echo "Parameter 2 'Datenbank' ist leer" |
---|
82 | exit 2 |
---|
83 | fi |
---|
84 | if [ $UPD == "a" ] |
---|
85 | then |
---|
86 | verarb="NBA-Aktualisierung" |
---|
87 | update=" -update " |
---|
88 | else |
---|
89 | if [ $UPD == "e" ] |
---|
90 | then |
---|
91 | verarb="Erstladen" |
---|
92 | update="" |
---|
93 | else |
---|
94 | echo "Parameter 3 'Aktualisierung' ist weder e noch a" |
---|
95 | exit 3 |
---|
96 | fi |
---|
97 | fi |
---|
98 | if [ $PP == "nopp" ] |
---|
99 | then |
---|
100 | echo "KEIN Post-Processing nach dieser Konvertierung." |
---|
101 | else |
---|
102 | if [ $PP == "pp" ] |
---|
103 | then |
---|
104 | echo "normales Post-Processing." |
---|
105 | else |
---|
106 | echo "FEHLER: Parameter 4 'Post-Proscessing' ist weder 'nopp' noch 'pp'" |
---|
107 | exit 4 |
---|
108 | fi |
---|
109 | fi |
---|
110 | |
---|
111 | # Fehlerprotokoll: |
---|
112 | errprot=${POSTNAS_HOME}'/log/postnas_err_'$DBNAME'.prot' |
---|
113 | |
---|
114 | # DB-Connection |
---|
115 | con="${PGUSER} -p 5432 -d ${DBNAME} " |
---|
116 | |
---|
117 | echo "Datenbank-Name . . = ${DBNAME}" |
---|
118 | echo "DBUSER ${DBUSER}" |
---|
119 | echo "PGUSER ${PGUSER}" |
---|
120 | echo "OGRPGUSER ${OGRPGUSER}" |
---|
121 | echo "Ordner NAS-Daten . = ${ORDNER}" |
---|
122 | echo "Verarbeitungs-Modus= ${verarb}" |
---|
123 | echo "POSTNAS_HOME ${POSTNAS_HOME}" |
---|
124 | |
---|
125 | # noch alte delete-Eintraege in DB? |
---|
126 | echo "Leeren der delete-Tabelle" |
---|
127 | echo 'TRUNCATE table "delete";' | psql $con |
---|
128 | |
---|
129 | # Import Eintrag erzeugen |
---|
130 | # |
---|
131 | # Die dadurch erzeugte Import-ID dient zur Steuerung des Löschens alter Relationen im Trigger. |
---|
132 | # Wird die Datenbank MIT Historie geladen, muss die folgende Zeile auskommentiert werden. |
---|
133 | echo "INSERT INTO import (datum,verzeichnis,importart) VALUES ('"$(date '+%Y-%m-%d %H:%M:%S')"','"${ORDNER}"','"${verarb}"');" | psql $con |
---|
134 | |
---|
135 | # Ordner abarbeiten |
---|
136 | |
---|
137 | cd ${ORDNER} |
---|
138 | rm ../temp/*.gfs |
---|
139 | echo "Dateien in " ${ORDNER} " (ls) :" |
---|
140 | ls |
---|
141 | for zipfile in *.zip ; do |
---|
142 | echo " " |
---|
143 | rm ../temp/*.xml |
---|
144 | echo "*********" |
---|
145 | #echo "* Archiv: " $zipfile |
---|
146 | unzip ${zipfile} -d ../temp |
---|
147 | # Es sollte nur ein XML-File in jedem ZIP-File stecken, aber es geht auch anders. |
---|
148 | for nasdatei in ../temp/*.xml ; do |
---|
149 | # echo "* Datei: " $nasdatei |
---|
150 | # Zwischenueberschrift im Fehlerprotokoll |
---|
151 | echo "* Datei: " $nasdatei >> $errprot |
---|
152 | |
---|
153 | # Umgebungsvariable setzen: |
---|
154 | export GML_FIELDTYPES=ALWAYS_STRINGS # PostNAS behandelt Zahlen wie Strings, PostgreSQL-Treiber macht daraus Zahlen |
---|
155 | export OGR_SETFIELD_NUMERIC_WARNING=YES # Meldung abgeschnittene Zahlen? |
---|
156 | #export CPL_DEBUG=ON # Meldung, wenn Attribute ueberschrieben werden |
---|
157 | |
---|
158 | # PostNAS Konverter-Aufruf |
---|
159 | ogr2ogr -f "PostgreSQL" -append ${update} -skipfailures --config PG_USE_COPY YES \ |
---|
160 | PG:"dbname=${DBNAME} host=localhost port=5432 ${OGRPGUSER}" -a_srs EPSG:$EPSG ${nasdatei} 2>> $errprot |
---|
161 | nasresult=$? |
---|
162 | echo "* Resultat: " $nasresult " fuer " ${nasdatei} | tee -a $errprot |
---|
163 | done # Ende Zipfile |
---|
164 | done # Ende Ordner |
---|
165 | rm ../temp/*.xml |
---|
166 | echo " " |
---|
167 | echo "** Ende Konvertierung Ordner ${ORDNER} |
---|
168 | " |
---|
169 | |
---|
170 | # Post-Processing / Nacharbeiten |
---|
171 | |
---|
172 | if [ $PP == "nopp" ] |
---|
173 | then |
---|
174 | |
---|
175 | echo "** KEIN Post-Processing - Dies spaeter nachholen." |
---|
176 | # Dies kann sinnvoll sein, wenn mehrere kleine Aktualisierungen hintereinander auf einem grossen Bestand laufen |
---|
177 | # Der Aufwand fuer das Post-Processing ist dann nur bei der LETZTEN Aktualisierung notwendig. |
---|
178 | |
---|
179 | else |
---|
180 | |
---|
181 | echo "** Post-Processing (Nacharbeiten zur Konvertierung)" |
---|
182 | |
---|
183 | echo "** - Optimierte Nutzungsarten neu Laden:" |
---|
184 | (cd $POSTNAS_HOME; psql $con -f nutzungsart_laden.sql) |
---|
185 | |
---|
186 | echo "** - Fluren / Gemarkungen / Gemeinden neu Laden:" |
---|
187 | (cd $POSTNAS_HOME; psql $con -f pp_laden.sql) |
---|
188 | |
---|
189 | fi |
---|
190 | |
---|
191 | if [ "$(readlink $POSTNAS_HOME/alkis-trigger.sql)" = "alkis-trigger-kill.sql" ]; then |
---|
192 | |
---|
193 | # Durch Einfuegen in Tabelle 'delete' werden Loeschungen anderer Tabellen getriggert |
---|
194 | echo "** delete-Tabelle enthaelt:" |
---|
195 | psql $con -c 'SELECT COUNT(featureid) AS delete_zeilen FROM "delete";' |
---|
196 | |
---|
197 | echo " delete-Tabelle loeschen:" |
---|
198 | psql $con -c 'TRUNCATE table "delete";' |
---|
199 | |
---|
200 | # Wenn die Datenbank MIT Historie geladen wurde, man diese aber gar nicht braucht, |
---|
201 | # dann hinterher aufraeumen der historischen Objekte |
---|
202 | echo "** geendete Objekte entfernen:" |
---|
203 | |
---|
204 | # Function: |
---|
205 | psql $con -c "SELECT alkis_delete_all_endet();" |
---|
206 | |
---|
207 | fi |
---|
208 | |
---|
209 | echo "Das Fehler-Protokoll wurde ausgegeben in die Datei $errprot" |
---|
210 | |
---|