Raid 5 komplett ausgefallen. Daten retten. [Erledigt]

[minimike]

Hi

Mein Rechner ist ganz derbe mit Linux gecrasht. Nach dem erneuten Starten konnte ich dann nicht booten. In Busybox habe ich dann herrausgefunden das zwei von 3 Devices nicht mehr im Raid 5 drinn sind. Situation jetzt ist folgende. Unter Windows VMware installiert, Lenny in VMware installiert und die 3 Platten an VMware mit Lenny durchgeschleift. Ich habe nicht die Resourcen um solche Datenmengen zu Backupen, darum habe ich mich seinerzeit für Raid 5 entschieden.

Das ist folgendermassen aufgebaut:
3 x 400 GB im Raid 5
darauf ein 800 GB Raid5
auf dem Raid 5 ein 800 GB Cryptodevice
auf dem 800 GB Cryptodevice ist ein LVM
auf dem LVM sind 12 Volumes mit meinen Daten

Wie bekomme ich nun zwei Platten wieder in Parität? Ich will wenigstens versuchen die wichtigsten Daten retten. Aus dem Manual werde ich nicht ganz schlau. Bin für Hilfe äusserst Dankbar

[Alternativende]

Du hast 3 Platten und 2 sind ganz im Eimer sprich sie drehen nicht mehr ?

[minimike]

Doch die drehen sich. Platten sind technisch heile

Code: Alles auswählen

rescue:~# mdadm --assemble --scan -v /dev/md0
mdadm: looking for devices for /dev/md0
mdadm: cannot open device /dev/dm-5: Device or resource busy
mdadm: /dev/dm-5 has wrong uuid.
mdadm: cannot open device /dev/dm-4: Device or resource busy
mdadm: /dev/dm-4 has wrong uuid.
mdadm: cannot open device /dev/dm-3: Device or resource busy
mdadm: /dev/dm-3 has wrong uuid.
mdadm: cannot open device /dev/dm-2: Device or resource busy
mdadm: /dev/dm-2 has wrong uuid.
mdadm: cannot open device /dev/dm-1: Device or resource busy
mdadm: /dev/dm-1 has wrong uuid.
mdadm: cannot open device /dev/dm-0: Device or resource busy
mdadm: /dev/dm-0 has wrong uuid.
mdadm: cannot open device /dev/sda2: Device or resource busy
mdadm: /dev/sda2 has wrong uuid.
mdadm: cannot open device /dev/sda1: Device or resource busy
mdadm: /dev/sda1 has wrong uuid.
mdadm: cannot open device /dev/sda: Device or resource busy
mdadm: /dev/sda has wrong uuid.
mdadm: no RAID superblock on /dev/hdd
mdadm: /dev/hdd has wrong uuid.
mdadm: no RAID superblock on /dev/hdb
mdadm: /dev/hdb has wrong uuid.
mdadm: no RAID superblock on /dev/hda
mdadm: /dev/hda has wrong uuid.
mdadm: /dev/hdd1 is identified as a member of /dev/md0, slot 0.
mdadm: /dev/hdb1 is identified as a member of /dev/md0, slot 1.
mdadm: /dev/hda1 is identified as a member of /dev/md0, slot 2.
mdadm: added /dev/hdb1 to /dev/md0 as 1
mdadm: added /dev/hda1 to /dev/md0 as 2
mdadm: added /dev/hdd1 to /dev/md0 as 0
mdadm: /dev/md0 assembled from 1 drive - not enough to start the array.
rescue:~#

[Spasswolf]

Und wenn du die Devices explizit angibst?

Code: Alles auswählen

mdadm --assemble /dev/md0 /dev/hd[abd]1

[minimike]

Tja dann kommt folgendes

Code: Alles auswählen

rescue:~# mdadm --assemble /dev/md0 /dev/hda1
mdadm: /dev/md0 assembled from 1 drive - not enough to start the array.
rescue:~# mdadm --assemble /dev/md0 /dev/hdb1
mdadm: /dev/md0 assembled from 1 drive - not enough to start the array.
rescue:~# mdadm --assemble /dev/md0 /dev/hdd1
mdadm: /dev/md0 assembled from 1 drive - not enough to start the array.
rescue:~#

Und bei allen drei gibt es nen Segfault

Code: Alles auswählen

rescue:~# mdadm --assemble --force -v /dev/md0  /dev/hdd1 /dev/hdb1  /dev/hdd1
mdadm: looking for devices for /dev/md0
mdadm: /dev/hdd1 is identified as a member of /dev/md0, slot 0.
mdadm: /dev/hdb1 is identified as a member of /dev/md0, slot 1.
mdadm: /dev/hdd1 is identified as a member of /dev/md0, slot 0.
mdadm: forcing event count in /dev/hdb1(1) from 2947 upto 2949
Segmentation fault
rescue:~#

[Spasswolf]

Und was passiert bei jeweils 2 Platten?

Code: Alles auswählen

mdadm --assemble /dev/md0 /dev/hda1 /dev/hdb1
mdadm --assemble /dev/md0 /dev/hda1 /dev/hdd1
mdadm --assemble /dev/md0 /dev/hdb1 /dev/hdd1

[minimike]

Dann dies

Code: Alles auswählen

rescue:~# mdadm --assemble /dev/md0 /dev/hda1 /dev/hdb1
mdadm: /dev/md0 assembled from 1 drive - not enough to start the array.

Also testweise mal "mdadm --manage -a /dev/md0 /dev/hdX1" befohlen

Code: Alles auswählen

md0 : inactive hdd1[0](S) hda1[2](S) hdb1[1](S)
      1172126208 blocks

unused devices: <none>
rescue:~#

Im Nachhinein glaub ich das sich die Lage verschlechtert hat

[rendegast]

Und bei allen drei gibt es nen Segfault

Code: Alles auswählen
rescue:~# mdadm --assemble --force -v /dev/md0 /dev/hdd1 /dev/hdb1 /dev/hdd1

?

Vielleicht auch mal '-vv' ?

-v, --verbose
Be more verbose about what is happening. This can be used twice to be extra-verbose. The extra verbosity currently only affects --detail --scan and --examine --scan.

[minimike]

Habe heute mit Windows so um die 7 Live CD's gebrannt. GRML hat einen zu alten Kernel um die Kiste zu booten. Jedenfalls, ich hatte die Sache schon aufgegeben und wollte dann mal den Stand von Fedora mir kund tun. Jedenfalls die Live CD bootete und der Support für dmraid456 ist schon vielversprechend. Wlan ging nicht, so konnte ich betreff mdadm keine Recherchen tätigen. Noch mal das Manual gelesen, probiert und diesmal hat es geklappt. Ich war mit zwei Platten online, bei der dritten hatte sich mdadm in Fedora geweigert. Mit Cryptsetup konnte ich dann den Raid von Hand entschlüsseln. Danach habe ich dann den LVM händisch gestartet Für mich doof war das ich nun kein Internet hatte. Auf der Fedora Live CD fehlen die jfsutils um meine Dateisysteme zu checken. Nun /var ist bei mir aber ext3, damit ging mal zum Testen fsck.ext3. Nach einigem Mecker von fsck klappte auch das Mounten. Stand der Dinge für mich zu dem Zeitpunkt ich habe einen wackeligen Raid0 da die dritte Platte nicht drinn war. Überlegt was tun und vor allem was wenn die Daten nach dem Reboot wieder nicht da sein sollten oder sich der unkomplette Raid5 für immer auflöst. Kurz, alles oder nichts. Die dritte Platte heiss eingefügt. Nach ein einhalb Stunden hatte ich den Raid5 wieder in Parität. Jetzt konnte ich nur noch rebooten. Die Äuglein zu, System gebootet ich mach die Augen auf und werde im Prompt nach dem Passwort für Cryptsetup gefragt. Ich tippe das Passwort ein und sogleich kam eine Erfolgsmeldung. Der anschliesende Start vom LVM dauerte allerdings sehr sehr lang, so gefühlt ca. drei bis vier Minuten. Ich schwitzte schon was vor Angst, jedoch dann fing der Rechner an die JFS Dateisysteme zu checken. Mounten ging dann auch nachdem alle Volumes wieder sauber waren und der Rechner fuhr dann hoch. Seit heute bin ich Fan von Fedora!

Fazit mit dem Linuxsoftware Raid5 bzw dessen Versagen ist mir klar geworden das die Entscheidung damals für Raid5 generrel richtig war. Das Versagen dessen hatte mir dann aber gezeigt das ich mich auf die Software nicht verlassen kann. Denn genau das sollte sie ja unter anderem Verhindern. Ich werde die Konfiguration so wie sie jetzt ist auflösen. Allerdings bevor ich mich ganz groß in Unkosten und mir richtig teuere Hardware kaufe, werde Ich den Raid 5 vom Controller probieren. Redhat liefert mittlerweile einen Treiber aus der damit umgehen kann

[roth]

Hi,

wenn Du Deine Daten wieder hast, kannst Du Dir ja mal ein Backup auf eine externe "Dicke" ziehen.
Des Weiteren sehe ich in Deiner Signatur, daß Du auch OpenSolaris einsetzt. Vielleicht wäre ZFS ja was für Dich.

Gruß
Sven

[ThJenal]

Fazit mit dem Linuxsoftware Raid5 bzw dessen Versagen ist mir klar geworden das die Entscheidung damals für Raid5 generrel richtig war. Das Versagen dessen hatte mir dann aber gezeigt das ich mich auf die Software nicht verlassen kann. Denn genau das sollte sie ja unter anderem Verhindern. Ich werde die Konfiguration so wie sie jetzt ist auflösen. Allerdings bevor ich mich ganz groß in Unkosten und mir richtig teuere Hardware kaufe, werde Ich den Raid 5 vom Controller probieren. Redhat liefert mittlerweile einen Treiber aus der damit umgehen kann

Also hast du deine Daten wieder ohne Verlust im Zugriff? Hatte Anfang das Jahres nämlich auch ein gecrashtes Software-Raid5 (war imho ein geknicktes SCSI-Kabel, dass wohl so ne Art Kurzschluss im SCSI-Bus verursacht hat), allerdings hatte ich die Wiederherstellungsversuche recht schnell aufgegeben, da ein Neuaufsetzen und Wiedereinspielen des existierenden Backups imho weniger Stress war.

Generell sollte imho ein RAID eher dafür da sein, Hardware-Ausfälle der Platten abzufangen, daher sollte auch immer eine Backuplösung vorhanden sein, vor allem wenn wichtige Daten darauf liegen. Eine Hotspare-Platte macht auch Sinn, die kann im Notfall den Ausfall zumindest einer Platte abfangen.

Momentan kriegt man ja überall externe TB-Platten für um die 100€ nachgeschmissen, da kann man sich beim nächsten Einkauf im Aldi ruhig mal eine in den Karren legen (mit einem Backup und einem RAID lebt es sich dann wesentlich unbeschwerter, zumindest IT-mässig gesehen ).

[minimike]

Ich bin derzeit Geringverdiener 100 € für neue Hardware kann ich mir erst wieder mit regelmässigem festen Einkommen leisten. Bis dahin muss das halten was ich habe. Aber du hast Recht ne Backupplatte wäre was feines