Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Alle weiteren Dienste, die nicht in die drei oberen Foren gehören.
Antworten
Benutzeravatar
TRex
Moderator
Beiträge: 8417
Registriert: 23.11.2006 12:23:54
Wohnort: KA

Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von TRex » 16.03.2025 09:20:23

Bei mir läuft (privat) an der NAS und auf dem VPS ein Backup mit Borg (mehrere Repos, nach Art/Zweck gruppierte Daten). Ich lass mir davon die Ausgabe zumailen (create mit stats, prune mit list, compact, df -h), finde das aber zunehmend ungelesen in meinem Papierkorb wieder, weil 90% der Infos nicht relevant sind.

Ich glaube, dass mir eine Änderungsanzeige reichen würde - vielleicht ein Balkendiagramm, um schnell zu erkennen, was hinzugefügt/(final) gelöscht wurde und die Gesamtauslastung des Backup-Repos... aber ich spinn da wieder nur rum und am Ende reagiere ich nur, wenn das Backup mangels Platz fehlschlägt...

Darum die Frage: wie macht ihr das, nur über Monitoring-Alerts, ausgefallene Statistiken oder pflückt ihr euer "Backup" jeden Abend in thunar mit copy+paste zusammen?
Jesus saves. Buddha does incremental backups.
Windows ist doof, Linux funktioniert nichtDon't break debian!Wie man widerspricht

Benutzeravatar
debilian
Beiträge: 1485
Registriert: 21.05.2004 14:03:04
Wohnort: 192.168.43.7
Kontaktdaten:

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von debilian » 16.03.2025 11:25:16

von Emails an mich bin ich eher abgekommen, weil ich die auch nicht lese...
manch Kundenserver schickt mir die schon noch aber ja, lesen müsste mensch die ;-)

eigentlich kontrolliere ich viele Server per Hand, also lass die backup-Skripte in Logfiles schreiben.
Ist aber eigentich unspektakulär - weitestgehend.

Will mir wazuh angucken, so ein Echtzeit Monitoring Ding.
-- nichts bewegt Sie wie ein GNU --

Benutzeravatar
schorsch_76
Beiträge: 2652
Registriert: 06.11.2007 16:00:42
Lizenz eigener Beiträge: MIT Lizenz

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von schorsch_76 » 16.03.2025 16:01:43

Das gleiche Problem habe ich auch. Viele automatische Emails werden nicht mehr gelesen....
Bin gespannt ob jemand etwas dazu sagen kann....

Benutzeravatar
heisenberg
Beiträge: 4236
Registriert: 04.06.2015 01:17:27
Lizenz eigener Beiträge: MIT Lizenz

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von heisenberg » 16.03.2025 16:21:42

Wenn E-Mail, dann nur für Alarme, bei denen dann akuter Handlungsbedarf besteht.

Für Entwicklung der Speicherauslastung habe ich mein Monitoring (geschäftlich) oder auch nicht (privat). Im Monitoring landen die grundsätzlich die Metriken, die mich interessieren. Für's Backup habe ich da aber nichts zusätzlich konfiguriert. Die Auslastung der Dateisysteme und die Entwicklung des Speicherverbrauches reicht mir da. Bei mir sind da nur Warnmeldungen drin, wenn das Backup zu alt ist oder mit den DB-Exports irgend etwas nicht stimmt.

Benutzeravatar
TRex
Moderator
Beiträge: 8417
Registriert: 23.11.2006 12:23:54
Wohnort: KA

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von TRex » 16.03.2025 18:04:18

Was ich mir bei dem aktuellen Stand dachte: ich würde gerne mitbekommen, wenn a) meine Platten volllaufen (dafür kann man einen Alarm definieren) und b) sich im Backup mehr tut als erwartet. Also dass ich beispielsweise versehentlich meinen Projekte-Ordner getilgt hab (was dank des gestaffelten Backups frühestens in nem halben Jahr zum Problem werden könnte...) oder der Mirror der Arch-Pakete versehentlich in einem Verzeichnis landete, das ich sichere (warum dann in x Monaten meine Backup-Platte voll ist, korrelier ich damit vermutlich nicht mehr). Vermutlich taugen auch hier Grenzwerte wie 1GB.
Jesus saves. Buddha does incremental backups.
Windows ist doof, Linux funktioniert nichtDon't break debian!Wie man widerspricht

Benutzeravatar
GregorS
Beiträge: 3350
Registriert: 05.06.2008 09:36:37
Wohnort: Freiburg
Kontaktdaten:

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von GregorS » 16.03.2025 19:20:03

TRex hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 09:20:23
... finde das aber zunehmend ungelesen in meinem Papierkorb wieder, weil 90% der Infos nicht relevant sind.
Kannst Du Dir nicht einfach nur die relevanten Infos schicken lassen?

Da ich mich glücklicherweise nur um meinen privaten Rechnerzoo kümmern muss, der lediglich fünf Rechner umfasst (auf denen sich obendrein nur wenig ändert), habe ich mir ein Backup-Shellscript geschrieben, dessen Kern rsync ist. Und da mein Backup prinzipbedingt nie unbeaufsichtigt läuft, genügt es, dass rsync ggf. Meldungen ausgibt, die meine hübsche Bildschirmausgabe zerreißen.
Wenn man keine Probleme hat, kann man sich welche machen. ("Großes Lötauge", Medizinmann der M3-Hopi und sog. Maker)

Benutzeravatar
heisenberg
Beiträge: 4236
Registriert: 04.06.2015 01:17:27
Lizenz eigener Beiträge: MIT Lizenz

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von heisenberg » 16.03.2025 19:28:31

TRex hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 18:04:18
Was ich mir bei dem aktuellen Stand dachte: ich würde gerne mitbekommen, wenn a) meine Platten volllaufen (dafür kann man einen Alarm definieren) und b) sich im Backup mehr tut als erwartet. Also dass ich beispielsweise versehentlich meinen Projekte-Ordner getilgt hab (was dank des gestaffelten Backups frühestens in nem halben Jahr zum Problem werden könnte...) oder der Mirror der Arch-Pakete versehentlich in einem Verzeichnis landete, das ich sichere (warum dann in x Monaten meine Backup-Platte voll ist, korrelier ich damit vermutlich nicht mehr). Vermutlich taugen auch hier Grenzwerte wie 1GB.
Also wie immer: Entweder eine Software nehmen, die das kann, oder selber scripten.

Hier mal ein Screenshot von Check-MK und dem Check "File Systems (Used Space and Growth)":

5440

Benutzeravatar
TRex
Moderator
Beiträge: 8417
Registriert: 23.11.2006 12:23:54
Wohnort: KA

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von TRex » 16.03.2025 20:15:37

GregorS hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 19:20:03
TRex hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 09:20:23
... finde das aber zunehmend ungelesen in meinem Papierkorb wieder, weil 90% der Infos nicht relevant sind.
Kannst Du Dir nicht einfach nur die relevanten Infos schicken lassen?
Scherzkeks :D Als ich das aufsetzte, hielt ich das für die relevanten Informationen. Bevor ich den Fehler nochmal mache, dachte ich, ich frage mal hier rum.
heisenberg hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 19:28:31
Also wie immer: Entweder eine Software nehmen, die das kann, oder selber scripten.

Hier mal ein Screenshot von Check-MK
Selber scripten, ziemlich sicher. Also vermutlich bleib ich bei der Mail als Kontaktweg, aber vielleicht klatsch ich die "interessanten" Daten irgendwo strukturiert hin... wollte das aber nicht machen, ohne vielleicht doch noch ne Meinung oder zwei zu bekommen, was "interessant" ist.
Jesus saves. Buddha does incremental backups.
Windows ist doof, Linux funktioniert nichtDon't break debian!Wie man widerspricht

Benutzeravatar
Meillo
Moderator
Beiträge: 9332
Registriert: 21.06.2005 14:55:06
Wohnort: Balmora
Kontaktdaten:

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von Meillo » 16.03.2025 20:29:19

Hast du ein Monitoring-System? Dann wuerde ich dafuer einen Check schreiben, also mit grafischer Darstellung. Da sieht man dann auf einen Blick, ob sich das Backup im Vergleich zu den vorigen Backups veraendert hat (z.B. ploetzlich mehr Datenmenge oder so).

Wenn du kein Monitoring-System hast, dann koenntest du dir mit Debianrrdtool selber Grafiken erzeugen und diese per Email schicken. Das bringt fuer den einen Blick in die Email mehr als lange Logausgaben.

Letztlich willst du ja abweichende Muster erkennen koennen, das geht grafisch am besten.


(Das beantwortet zwar nicht deine Frage, wie ich es mache, aber diese Antwort ist sicherlich hilfreicher als die eigentliche Antwort. ;-) )
Use ed once in a while!

Benutzeravatar
heisenberg
Beiträge: 4236
Registriert: 04.06.2015 01:17:27
Lizenz eigener Beiträge: MIT Lizenz

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von heisenberg » 16.03.2025 20:51:55

Die Backupdauer wäre ggf. noch interessant.

Benutzeravatar
TRex
Moderator
Beiträge: 8417
Registriert: 23.11.2006 12:23:54
Wohnort: KA

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von TRex » 17.03.2025 18:27:42

Meillo hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 20:29:19
Hast du ein Monitoring-System?
Nope, ich erinnere mich mal irgendwann zu sehr frühen Zeiten cacti eingesetzt zu haben, aber das war völliger Overkill. sysstats war mal im Einsatz, aber auch da hab ich nach dem Abklingen der "oh, shiny"-Zeit kaum noch reingeschaut. Heut ists glaub nicht mal mehr im Repo (war aber nett, weil schlank, aber auch kaum mehr als "Monitoring").

Die Variante, rrdtool selbst zu verwenden, klingt interessant. Muss mich da nur mal einlesen. Gerade quäle ich GPT damit.
heisenberg hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 20:51:55
Die Backupdauer wäre ggf. noch interessant.
Absolut ;) Konnte ich bisher daran festmachen, wann die Mail kam, aber gerade bei der NAS zeigt k9-mail nicht mal mehr die ganze Mail an (um die konkete Zeit für ein Repo anzusehen), weil zuviel Text :lol:
Jesus saves. Buddha does incremental backups.
Windows ist doof, Linux funktioniert nichtDon't break debian!Wie man widerspricht

Colttt
Beiträge: 3015
Registriert: 16.10.2008 23:25:34
Wohnort: Brandenburg
Kontaktdaten:

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von Colttt » 18.03.2025 15:50:27

+1 für monitoring und wenn etwas aus dem Ruder läuft ne Mail, oder besser noch an den Messenger deiner Wahl
Debian-Nutzer :D

ZABBIX Certified Specialist

Benutzeravatar
GregorS
Beiträge: 3350
Registriert: 05.06.2008 09:36:37
Wohnort: Freiburg
Kontaktdaten:

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von GregorS » 19.03.2025 05:13:55

TRex hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 20:15:37
GregorS hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 19:20:03
TRex hat geschrieben: ↑ zum Beitrag ↑
16.03.2025 09:20:23
... finde das aber zunehmend ungelesen in meinem Papierkorb wieder, weil 90% der Infos nicht relevant sind.
Kannst Du Dir nicht einfach nur die relevanten Infos schicken lassen?
Scherzkeks :D
Ja ... sorry ... das war halt das Erste, das mir einfiel.
Aber Heisenberg bringt's auf den Punkt:
Also wie immer: Entweder eine Software nehmen, die das kann, oder selber scripten.
Mir ging es immer wieder so, dass ich das für mich Passende einfach nicht finden konnte – also habe ich mir meinen Krempel halt immer wieder selber programmiert. Würde ich mein Backup-Script aufhübschen wollen, würde ich das wohl mit Tcl/Tk oder GTKmm tun und damit lediglich die Dinge abfragen, die man rsync als Parameter mitgeben kann.
Und wenn man eh schon dabei ist, kann man sich die eigentlich interessanten Info selbst zusammenstellen und mailen.
Wenn man keine Probleme hat, kann man sich welche machen. ("Großes Lötauge", Medizinmann der M3-Hopi und sog. Maker)

Benutzeravatar
TRex
Moderator
Beiträge: 8417
Registriert: 23.11.2006 12:23:54
Wohnort: KA

Re: Welche Infos lasst ihr euch von euren Backup-Prozessen geben?

Beitrag von TRex » 19.03.2025 08:17:46

Ja, es geht mir um diesen Teil:
GregorS hat geschrieben: ↑ zum Beitrag ↑
19.03.2025 05:13:55
die eigentlich interessanten Info
Wenn man nämlich auf der grünen Wiese unterwegs ist, merkt man nicht, was man so an Ballast einsammelt (oder währenddessen vergisst). Aber ich glaube, ich hab mich schon eingependelt:

- Backupdauer
- Größe des Backup (roh, komprimiert) und Relation zum Plattenplatz (Alert: Platte näher sich den 90%)
- Anzahl der Dateien im Backup, Delta durch aktuelles Inkrement/Prune (Alert: Delta +/- > X)

Muss mich gerade abends zwischen Baldurs Gate und Backup entscheiden... hab damit begonnen, das Shellscript gegen Python zu ersetzen, um den borg-output besser zu parsen. Wär natürlich schön, wenn das alles aus borg info --last 1 rausfallen würde, tuts aber nicht.
Jesus saves. Buddha does incremental backups.
Windows ist doof, Linux funktioniert nichtDon't break debian!Wie man widerspricht

Antworten