x

Tägliche Diffs für germany.osm?


  1. Tägliche Diffs für germany.osm? · fritzrichter (Gast) · 14.02.2013 12:54 · [flux]

    Hallo zusammen,
    wir möchten einen täglichen Abgleich der OSM-Datenbank über osmosis realisieren.

    Uns interessiert jedoch nur die germany.osm, sprich die plant.osm (für die es eine Menge Anleitungen gibt) ist uns zu groß.

    Gibt es eine Adresse (FTP) um über osmosis die täglichen Diffs zu beziehen?

    Besten Dank für Eure Hilfe
    fri


    • Re: Tägliche Diffs für germany.osm? · wambacher (Gast) · 14.02.2013 13:07 · [flux]

      fritzrichter wrote:

      Gibt es eine Adresse (FTP) um über osmosis die täglichen Diffs zu beziehen?

      Hi,
      dazu ein ganz klares Jain 😉

      Woodpeck aka Frederik hackt gerade was aus: http://forum.openstreetmap.org/viewtopi … 15#p311915

      Aufgrund der aktuellen Probleme mit dem Planet wird es wohl noch mindestens eine Woche dauern, bis da was kommt.

      Gruss
      walter


    • Re: Tägliche Diffs für germany.osm? · maxbe (Gast) · 14.02.2013 13:33 · [flux]

      Du kannst Dir auch die "normalen" diffs holen und mit osmosis ausschneiden und dann einspielen.
      Ob das mit einem Deutschland-Polygon gut funktioniert, weiss ich nicht, aber mit einem rechteckigen Kartenausschnitt geht das ganz gut. Die täglichen Diffs sind 40-50 Mbyte pro Tag.


    • Re: Tägliche Diffs für germany.osm? · wambacher (Gast) · 14.02.2013 14:17 · [flux]

      maxbe wrote:

      Du kannst Dir auch die "normalen" diffs holen und mit osmosis ausschneiden und dann einspielen.

      Ist das Theorie oder hast du das selber schon mal gemacht? Diff-Files haben nämlich nicht das Format, welches Osmosis "erwartet" um daraus Ausschnitte zu machen.

      Ob das mit einem Deutschland-Polygon gut funktioniert, weiss ich nicht, aber mit einem rechteckigen Kartenausschnitt geht das ganz gut. Die täglichen Diffs sind 40-50 Mbyte pro Tag.

      Wenn sowas mit der bbox gehen sollte, geht es auch mit 'nem Polygon. Könntest du bitte mal ein Beispiel schicken?

      Gruss
      walter


    • Re: Tägliche Diffs für germany.osm? · SunCobalt (Gast) · 14.02.2013 14:22 · [flux]

      wambacher wrote:

      maxbe wrote:

      Du kannst Dir auch die "normalen" diffs holen und mit osmosis ausschneiden und dann einspielen.

      Ist das Theorie oder hast du das selber schon mal gemacht? Diff-Files haben nämlich nicht das Format, welches Osmosis "erwartet" um daraus Ausschnitte zu machen.

      Ob das mit einem Deutschland-Polygon gut funktioniert, weiss ich nicht, aber mit einem rechteckigen Kartenausschnitt geht das ganz gut. Die täglichen Diffs sind 40-50 Mbyte pro Tag.

      Wenn sowas mit der bbox gehen sollte, geht es auch mit 'nem Polygon. Könntest du bitte mal ein Beispiel schicken?

      Gruss
      walter

      Ich hab sowas schon gemacht

      osmosis␣--rri␣--simc␣--rb␣extract.osm.pbf␣--ac␣--bp␣clipIncompleteEntities=yes␣file=mein_polygon.poly␣--wb␣new.osm.pbf␣&&␣\
      rm␣extract.osm.pbf␣&&␣\
      mv␣new.osm.pbf␣extract.osm.pbf
      

    • Re: Tägliche Diffs für germany.osm? · maxbe (Gast) · 14.02.2013 14:38 · [flux]

      wambacher wrote:

      maxbe wrote:

      Du kannst Dir auch die "normalen" diffs holen und mit osmosis ausschneiden und dann einspielen.

      Ist das Theorie oder hast du das selber schon mal gemacht? Diff-Files haben nämlich nicht das Format, welches Osmosis "erwartet" um daraus Ausschnitte zu machen.

      Ob das mit einem Deutschland-Polygon gut funktioniert, weiss ich nicht, aber mit einem rechteckigen Kartenausschnitt geht das ganz gut. Die täglichen Diffs sind 40-50 Mbyte pro Tag.

      Wenn sowas mit der bbox gehen sollte, geht es auch mit 'nem Polygon. Könntest du bitte mal ein Beispiel schicken?

      Ich hab dieses Script zum Einspielen der hourly-diffs (aber das geht auch mit daily und minutely).

      Das holt sich die diffs mit osmosis (was noch nicht schneidet, sorry, verwechselt). Und spielt dann die bbox in die Datenbank ein. bbox und einspielen erledigt osm2pgsql. Dazu hab ich nur die eine Zeile mit dem eigentlichen osm2pgsql geändert:

      if␣!␣$OSM2PGSQL␣--bbox␣9.9,47.0,14.0,49.1␣--append␣--slim␣--cache␣2048␣--cache-strategy
      

      Grüße, Max (dem gerade klar geworden ist, dass fritz vermutlich keine DB im osm2pgsql-Schema hat... sorry für die Verwirrung)


    • Re: Tägliche Diffs für germany.osm? · wambacher (Gast) · 14.02.2013 14:52 · [flux]

      SunCobalt wrote:

      Ich hab sowas schon gemacht

      osmosis␣--rri␣--simc␣--rb␣extract.osm.pbf␣--ac␣--bp␣clipIncompleteEntities=yes␣file=mein_polygon.poly␣--wb␣new.osm.pbf␣&&␣\
      rm␣extract.osm.pbf␣&&␣\
      mv␣new.osm.pbf␣extract.osm.pbf
      

      Teil-Lob mit Ganz-Ablehnung 😉

      Du machst: altes-OSM-File + "schmutziges" Diff ---> OSM+Schmutz ---> Poly-Filter --> saubere OSM-Daten

      Ich brauche: "schmutziges" Diff ---> Poly-Filter ---> sauberes Diff --> weitere Verwendung z.B. Update (*) der Datenbank

      Gruss
      walter

      • ) Update und nicht Neuaufbau!

    • Re: Tägliche Diffs für germany.osm? · SunCobalt (Gast) · 14.02.2013 14:55 · [flux]

      wambacher wrote:

      SunCobalt wrote:

      Ich hab sowas schon gemacht

      osmosis␣--rri␣--simc␣--rb␣extract.osm.pbf␣--ac␣--bp␣clipIncompleteEntities=yes␣file=mein_polygon.poly␣--wb␣new.osm.pbf␣&&␣\
      rm␣extract.osm.pbf␣&&␣\
      mv␣new.osm.pbf␣extract.osm.pbf
      

      Teil-Lob mit Ganz-Ablehnung 😉

      Du machst: altes-OSM-File + "schmutziges" Diff ---> OSM+Schmutz ---> Poly-Filter --> saubere OSM-Daten

      Ich brauche: "schmutziges" Diff ---> Poly-Filter ---> sauberes Diff --> weitere Verwendung z.B. Update (*) der Datenbank

      Gruss
      walter

      • ) Update und nicht Neuaufbau!

      hmm, dann ein osmosis Diff "altes-OSM-File" mit "saubere OSM-Daten" mit --derive-change nach den Schritten oben ^^


    • Re: Tägliche Diffs für germany.osm? · wambacher (Gast) · 14.02.2013 15:32 · [flux]

      SunCobalt wrote:

      hmm, dann ein osmosis Diff "altes-OSM-File" mit "saubere OSM-Daten" mit --derive-change nach den Schritten oben ^^

      nö, thomas

      ich hab mir vor einiger Zeit daran die Zähne ausgebissen und bin gescheitert.
      Dein Weg ist allerdings für diejenigen gangbar, die "nur" ein sauberes OSM-File von begrenzter Größe brauchen und damit keine DB updaten wollen; also wohl 95% der Betroffenen.

      Mein persönlicher Weg besteht in der Anschaffung besserer Hardware und den ganzen Planeten in der DB - dann brauch ich keine Polygone mehr.

      Gruss
      walter

      p.s. derzeit scheitern alle meine Online-Aktivitäten (Plz-Karte, aktuelle Boundary-Polygone und was ich sonst noch so hatte) daran, dass meine lokalen Rechner nach dem Wechsel zu UnityMedia als Provider nicht mehr erreichbar sind - aber das ist ein anderes Thema und liegt nicht an OSM.


    • Re: Tägliche Diffs für germany.osm? · Oli-Wan (Gast) · 14.02.2013 18:14 · [flux]

      wambacher wrote:

      maxbe wrote:

      Du kannst Dir auch die "normalen" diffs holen und mit osmosis ausschneiden und dann einspielen.

      Ist das Theorie oder hast du das selber schon mal gemacht? Diff-Files haben nämlich nicht das Format, welches Osmosis "erwartet" um daraus Ausschnitte zu machen.

      Weiß nicht, ob Dir das weiter hilft, die Anwendung ist schließlich eine ganz andere - dennoch: Ich habe in den letzten Tagen mangels brauchbarer Geofabrik-Extrakte das Futter für meinen Bot über die daily diffs beschafft und diese kurzerhand mit osmconvert zu gewöhnlichen .osm-Dateien umfunktioniert, die sich anschließend tadellos filtern und mit osmosis ausschneiden lassen. Problem beim Schneiden sind natürlich die fehlenden Knoten, wenn nur die Tags eines Weges bearbeitet werden. Das ist aber kein Problem des Formats; ggf. könntest Du fehlende Knoten aus der (lokalen) Datenbank dazuladen, um ordentlich filtern zu können.