Symcon Start auf Docker dauert durch Aggregation sehr lange

Hallo,

schon immer habe ich das Problem, dass bei jedem Start von Symcon die Aggregation ziemlich lange dauert.

Ich habe Symcon auf Docker (Synology) am Laufen. Bei einem Volumen von ca. 500 MB Archivdaten dauert die Aggregation beim Start ca. 5 Minuten. Das ist zwar keine überaus lange Zeit, aber die Zeit verlängert sich mit ansteigendem Archivvolumen stetig.

Insofern ist die Frage, ob das bei anderen Systemen (Windows oder Linux) genauso lange dauert, wenn man Symcon neu startet. Ich meine zu wissen, dass dies nach dem Archivumbau zur 5.5 eigentlich Geschichte sein sollte. Aber auf Docker ist das nach wie vor ein Problem.

Ab und zu kommt es auch vor, dass die Aggregation abbricht und Symcon ein paar mal neu startet, bevor es stabil läuft.

Gibt es hier andere Docker User, die das gleiche Problem haben?

Aktuell bin ich auf der neuesten Symcon Version 6. Da hatte ich eigentlich auf Besserung gehofft…

Ich habe Symcon ohne Probleme auf der Synology im Docker laufen.
Sind deine HDD`s vielleicht der Flaschenhals?

Hallo ich kann das Problem bestätigen.
Mein Archiv hat eine Größe von 2,72 GB mit 650 Variablen.
Bei mir dauert es 10-15 Minuten bevor Symcon nach einem Neustart wieder normal arbeitet.
Bevor ich auf Docker umgezogen bin, lief mein Symcon auf Linux (Ubuntu Server).
Da war mein Archiv auch schon sehr groß, aber ein Neustart ging sehr schnell.
Also zumindest so schnell, dass es nicht störend war.
Auch bei mir kommt es vor, dass Symcon mehrmals startet, also ich meine damit beim reaggregieren abbricht und von vorne anfängt.
Das war auf der 5.5 so und ist nun auf der 6.0 immer noch so.

Danke für Deine Antwort.
Könntest du noch Schreiben:
Wie groß ist Dein Archiv?
Werden bei Dir auch alle geloggten Variablen nach einem Neustart reaggregiert?
Wie lange dauert es bei Dir?
Was für Festplatten nutzt Du?
Wenn Du diese als Flaschenhals siehst.
Ich nutze NAS Festplatten von Segate Ironwolf.
Hast Du Cache Speicher in der Syno verbaut?

Ich hab mal den Docker neu gestartet. Symcon hat 1min 9s benötigt bis alles erstellt und aggregiert wurde.
Archiv: 2,16Gb, 591 Variablen.
Meine Docker-Container laufen allerdings auf einer SSD.

Cache habe ich nicht verbaut.

Ich hatte am Anfang auch HDD`s für meine Container, habe da aber Probleme bekommen als ich meine Zählerwerte in die InfluxDB schreiben wollte, da dies zu lange gedauert hat pro Zähler. Nach dem Verschieben auf SSD war das Problem weg. Daher der Gedanken mit dem Flaschenhals…

Hi,

ich habe Seagate Ironwolf HDD (ST3000VN007) verbaut.
Aber wenn ich es richtig verstehe, macht Dein Neustart auch jedes mal eine Aggregation. Richtig? D.h. bei Dir ist es aufgrund der SSDs schneller.

Meine Frage ist eher: Warum ist eine Reaggregation bei jedem Neustart auf Docker notwendig?

Das Verhalten habe ich auf der Symbox auch. Nun starte ich die nicht täglich neu, somit ist es kein allzu großes Dilemma. Nur wenn die Box crasht und Symcon neu startet dauert es dadurch schon recht lange bis wieder alles funktioniert.

Loerdy

Es wird nicht vollständig reaggregiert. Es werden nur die letzten, unvollständigen Aggregation wieder korrekt berechnet, da diese nicht auf der Festplatte sind. (Um Flash zu schonen speichern wir ausschließlich abgeschlossene Zeiträume. Die aktuellen Zeiträume werden beim Start dann berechnet, was leider etwas Zeit kostet und viel I/O bedeutet).

Bei dir würdest du die Zeit stark reduzieren könne, wenn du einen SSD Lese-Cache hättest.

Wie viele Daten hast du denn? Die SymBox hat ja ein Flash, welches recht schnell ist. Wir haben noch in Planung, dass alle Kerne der CPU beim Starten genutzt werden - aktuell wird nur ein Kern genutzt, wodurch das Starten unnötig länger dauert.

paresy

Danke, aber bei einer DS218+ kann man keinen SSD Cache installieren und bei meiner DS718+ geht das nur über die Expansion Unit DX517. Das macht keinen Spaß.
Dann macht es über Kurz oder Lang Sinn auf SSD Platten zu wechseln…

Hallo und danke für den Thread, wollte eben einen ähnlichen erstellen.
Bin zzt. bei etwa 5min. Allerdings auf einem Windows System.

Mit irgendeiner 5.x Version wurde die Startzeit ja massiv reduziert, da war es toll schnell. Nun dauert die Reaggregation aber schon wieder so ewig lange.

Nicht tragisch, aber irgendwas hat sich da in den letzten Monaten eingeschlichen das die Sache wieder verlangsamt.

gruß
bb

Könnte man das Abschließen und Schreiben vor einem geplanten Stoppen von Symcon nicht manuell anstoßen?
Eben damit bei darauffolgenden Neustart nicht so viel reaggregiert werden muss?

Vielleicht ist das ein mögliches Workaround?

Können ja - aber der Aufwand dies zu Implementieren ist eher hoch. Ich befürchte somit, dass dies nicht zeitnah auf die Roadmap kommt. Wir werden eher die Reaggregation parallelisieren - das wird bei den meisten mit SSD Speicher die Zeit noch einmal merklich reduzieren.

paresy

image

Kann das Aggregieren nicht ans Ende des Vorgangs gelegt werden, nachdem der Dienst gestartet ist?
Sollte doch dasselbe sein, als würde ich das Aggregieren per Hand anschubsen ?

Loerdy

Nein. Wie gesagt: Es wird nicht reaggregiert. Eine vollständige Reaggregation dauert wesentlich länger. Wir vervollständige beim Start nur die Aggregation mit den partiellen Datensätzen, die nicht auf der Festplatte sind. Das kann nicht nach dem Start passieren, da ansonsten das Archiv nach dem Start nicht verfügbar ist und sich Änderungen im System stauen, welche nicht aggregiert werden.

paresy

Habe heute eine SSD Festplatte in meine Syno eingebaut
und nun kann ich bestätigen, dass der Neustart wirklich deutlichst schneller geht als vorher. Dauert jetzt ca. 1-2 Minuten. Damit kann ich leben.
Danke für den Tipp, hätte nicht gedacht, dass dies soviel ausmacht.

Und wenn wir die Parallelisierung einbauen wird es sich noch einmal stark verkürzen, da deine Syno bestimmt mehr als einen Core hat.

paresy

Ja, ich habe eine DS918+ im Einsatz und 12GB RAM also an der Hardware Power soll es nicht liegen.
Freue mich drauf.
Gibt es schon einen ungefähren Zeitrahmen wann das kommt?