Moin moin,
wenn man ein Mysql-Dump macht zwecks Backup seiner DB, geht das auch bei grösseren Datenmengen einigermassen flott, der Mysql-Restore dagegen - weil Single-Threaded - braucht dann aber ein Vielfaches länger.
Nun habe ich gelesen, dass es ab MySQL Version 8 eine neue "Shell" gibt, die "Parallel Table Import" unterstützt. Bei MariaDB gibt es sowas nicht soweit ich das richtig gelesen habe, oder habe ich in der Doku noch nicht die richtige Stelle gefunden? Weiss da evtl. Jemand genau bescheid?
Danke im Voraus,
Gruss, mistersixt.
MariaDB und "parallel import" möglich?
- mistersixt
- Beiträge: 6601
- Registriert: 24.09.2003 14:33:25
- Lizenz eigener Beiträge: GNU Free Documentation License
MariaDB und "parallel import" möglich?
--
System: Debian Bookworm, 6.11.x.-x-amd64, ext4, AMD Ryzen 7 3700X, 8 x 3.8 Ghz., Radeon RX 5700 XT, 32 GB Ram, XFCE
System: Debian Bookworm, 6.11.x.-x-amd64, ext4, AMD Ryzen 7 3700X, 8 x 3.8 Ghz., Radeon RX 5700 XT, 32 GB Ram, XFCE
- feltel
- Webmaster
- Beiträge: 10476
- Registriert: 20.12.2001 13:08:23
- Lizenz eigener Beiträge: MIT Lizenz
- Wohnort: Leipzig, Germany
-
Kontaktdaten:
Re: MariaDB und "parallel import" möglich?
selbst noch nicht ausprobiert, aber Multi-Threading sollte auch beim Import gehen: https://mariadb.com/kb/en/how-to-quickl ... o-mariadb/
debianforum.de unterstützen? Hier! | debianforum.de Verhaltensregeln | Bitte keine Supportanfragen per PM
- mistersixt
- Beiträge: 6601
- Registriert: 24.09.2003 14:33:25
- Lizenz eigener Beiträge: GNU Free Documentation License
Re: MariaDB und "parallel import" möglich?
Mmmh, nee, das sieht eher so aus, als wenn man in eine vorhandene DB und Tabelle Daten "importieren" kann --- einen Dump zum Wiederherstellen einer kompletten DB zum Beispiel geht damit eher nicht, wenn ich das richtig gelesen habe.
Aber danke trotzdem, sah im ersten Momenz vielversprechend aus !
Gruss, mistersixt.
Aber danke trotzdem, sah im ersten Momenz vielversprechend aus !
Gruss, mistersixt.
--
System: Debian Bookworm, 6.11.x.-x-amd64, ext4, AMD Ryzen 7 3700X, 8 x 3.8 Ghz., Radeon RX 5700 XT, 32 GB Ram, XFCE
System: Debian Bookworm, 6.11.x.-x-amd64, ext4, AMD Ryzen 7 3700X, 8 x 3.8 Ghz., Radeon RX 5700 XT, 32 GB Ram, XFCE
Re: MariaDB und "parallel import" möglich?
Die Frage ist was verstehst du unter groß?
Ab einer gewissen Größe halte ich Dumps nicht mehr für die Backupmethode der Wahl.
Da arbeite ich eigentlich nur mehr mit Snapshots und kann Datenbanken egal wie groß in Sekunden wiederherstellen.
Es ist aber auch immer eine Frage wieviel Downtime zulässig ist.
Ab einer gewissen Größe halte ich Dumps nicht mehr für die Backupmethode der Wahl.
Da arbeite ich eigentlich nur mehr mit Snapshots und kann Datenbanken egal wie groß in Sekunden wiederherstellen.
Es ist aber auch immer eine Frage wieviel Downtime zulässig ist.
- mistersixt
- Beiträge: 6601
- Registriert: 24.09.2003 14:33:25
- Lizenz eigener Beiträge: GNU Free Documentation License
Re: MariaDB und "parallel import" möglich?
Beispielsweise bei einer ca. 100GB grossen DB mit ca. 20 Tabellen, wobei die grösste Tabelle ca. 25 GB gross ist, kann das schon mehrere Stunden dauern, trotz einigermassen flotter CPU und RAID1+0. Der Dump dagegen ist ratz-fatz erledigt, keine halbe Stunde.hec_tech hat geschrieben:16.03.2021 09:20:05Die Frage ist was verstehst du unter groß?
Ab einer gewissen Größe halte ich Dumps nicht mehr für die Backupmethode der Wahl.
Da arbeite ich eigentlich nur mehr mit Snapshots und kann Datenbanken egal wie groß in Sekunden wiederherstellen.
Es ist aber auch immer eine Frage wieviel Downtime zulässig ist.
Wundert mich, dass es da nichts "Schnelleres" gibt, ausser halt mit ganz anderen Mitteln zu arbeiten wie Snapshots.
Gruss, mistersixt.
--
System: Debian Bookworm, 6.11.x.-x-amd64, ext4, AMD Ryzen 7 3700X, 8 x 3.8 Ghz., Radeon RX 5700 XT, 32 GB Ram, XFCE
System: Debian Bookworm, 6.11.x.-x-amd64, ext4, AMD Ryzen 7 3700X, 8 x 3.8 Ghz., Radeon RX 5700 XT, 32 GB Ram, XFCE
- jph
- Beiträge: 1089
- Registriert: 06.12.2015 15:06:07
- Lizenz eigener Beiträge: MIT Lizenz
- Wohnort: Münsterland
Re: MariaDB und "parallel import" möglich?
Bei PostgreSQL macht man bspw. das hier: https://www.postgresql.org/docs/11/cont ... iving.htmlmistersixt hat geschrieben:16.03.2021 12:27:24Wundert mich, dass es da nichts "Schnelleres" gibt, ausser halt mit ganz anderen Mitteln zu arbeiten wie Snapshots.
- heisenberg
- Beiträge: 4146
- Registriert: 04.06.2015 01:17:27
- Lizenz eigener Beiträge: MIT Lizenz
Re: MariaDB und "parallel import" möglich?
Wie bekommst Du die DB-Daten(db=mysql?) Snapshots konsistent? (globaler kurzzeitiger dbms lock? (aka "flush tables with read lock;"))hec_tech hat geschrieben:16.03.2021 09:20:05Da arbeite ich eigentlich nur mehr mit Snapshots und kann Datenbanken egal wie groß in Sekunden wiederherstellen.
Schneller als logische Dumps sind da noch physische Backups. (Percona XtraBackup für mysql oder maria-backup für mariadb). Wenn da das Storage genug Performance hat, dann sollte das recht zügig gehen. Ich verwende selbst kaum physische Backups(nur bei einer grösseren Postgres Umgebung).mistersixt hat geschrieben:16.03.2021 12:27:24Wundert mich, dass es da nichts "Schnelleres" gibt, ausser halt mit ganz anderen Mitteln zu arbeiten wie Snapshots.