[gelöst]hohe mysql server auslastung 04:00 bis 07:30 Täglich

[Nicolas1023]

Hallo,
ich bekomme zunehmend performance Probleme mit einem Datenbankserver, zwischen 04:00 und 07:30 an jedem Werktag ist CPU und RAM voll ausgelastet, ich wüsste gerne warum.

Code: Alles auswählen

01:15:01        CPU     %user     %nice   %system   %iowait    %steal     %idle
...
03:25:01        all      5.28      2.82      0.94      0.13      0.00     90.82
03:35:01        all      6.58      2.64      0.98      0.42      0.00     89.39
03:45:01        all      5.36      2.71      1.14      0.59      0.00     90.20
03:55:01        all     23.57      2.78      4.92      0.18      0.00     68.56
04:05:01        all     80.67      2.77     16.56      0.00      0.00      0.01
04:15:01        all     83.00      2.86     14.14      0.00      0.00      0.00
04:25:02        all     75.85      2.98     21.17      0.00      0.00      0.00
04:35:02        all     82.79      2.71     14.50      0.00      0.00      0.00
04:45:02        all     79.23      2.73     18.04      0.00      0.00      0.00
04:55:01        all     78.71      2.91     18.39      0.00      0.00      0.00
05:05:02        all     79.15      2.93     17.93      0.00      0.00      0.00
05:15:01        all     79.12      2.64     18.24      0.00      0.00      0.00
05:25:02        all     81.80      2.67     15.54      0.00      0.00      0.00
05:35:01        all     80.11      0.27     19.62      0.00      0.00      0.00
05:45:02        all     73.32      0.00     26.68      0.00      0.00      0.00
05:55:01        all     69.89      0.00     30.11      0.00      0.00      0.00
06:05:01        all     58.42      0.08     31.99      0.03      0.00      9.48
06:15:01        all     60.34      0.00     32.37      0.02      0.00      7.27
06:25:01        all     67.10      0.00     31.65      0.00      0.00      1.24
06:35:01        all     65.52      2.31     31.07      0.01      0.00      1.09
06:45:01        all     63.49      1.77     32.22      0.01      0.00      2.50
06:55:01        all     64.01      1.84     31.34      0.02      0.00      2.79
07:05:02        all     56.54      3.00     33.27      0.05      0.00      7.14
07:15:01        all     60.95      3.26     30.81      0.05      0.00      4.93
07:25:01        all     53.85      2.26     29.01      0.30      0.00     14.58
07:35:01        all     30.44      2.76     14.29      0.50      0.00     52.01
07:45:01        all      5.09      2.94      0.96      0.06      0.00     90.96
07:55:01        all      3.13      2.44      0.76      0.08      0.00     93.59
08:05:01        all      5.00      2.60      1.01      0.09      0.00     91.30
08:15:01        all      3.26      2.94      0.83      0.07      0.00     92.90

munin zeigt mir einen deutlichen anstieg der mysql threads und des durchsatzes.

Ich bin natürlich von nem cronjob ausgegangen, kann aber keinen finden:

Code: Alles auswählen

sudo cat /etc/crontab /etc/cron.d/* |egrep "^[0-9*]"|sort -nk2 -nk1| sed "s/\s\s*/ /g"|sed -r "s/([^0-9*]) [a-z/[].*$/\1/"
*/20 * * * * root
*/5 * * * * root
*/5 * * * * munin
2 * * * * logcheck
5-55/10 * * * * root
09,39 * * * * root
09,39 * * * * root
10,30,50 * * * * www-data
17 * * * * root
18 */3 * * * amavis
55 * * * * root
11 1 * * * root
34 3,13,16 * * * www-data
1 6 * * * root
1 6 * * * www-data
25 6 * * * root
47 6 * * 7 root
52 6 1 * * root
14 10 * * * munin
59 23 * * * root

Es wird zu der Zeit einfach nichts besonderes gestartet. Auch im syslog finde ich keine Besonderheiten, es läuft nur das was den ganzen Tag alle paar minuten läuft.

Hat mysql selber irgendeinen Wartungs-/Optimierungmodus oder ähnliches der vom mysql deamon selber gestartet wird?
Es könnte natürlich auch ein ganz anderer Dienst sein, der einfach nur die Datenbank nutzt.

[syssi]

Vielleicht kannst du mal zu diesen Spitzenzeiten in den Traffic lauschen. Irgendwas muss ja die SQL-Anfragen stellen, welche da bearbeitet werden. Ich denke, dass man daran die Ursache erkennen muesste.

[Nicolas1023]

Danke, das war ne gute Idee. Habe einfach das query log mal angeschaltet. Hatte schon Angst das es zu unübersichtlich ist, aber habs dann doch noch gefunden

Es war das egroupware backup (deswegen auch nciht in cron sichtbar, weil die nochmal einen eigenen Taskplaner über ihren */5 minuten coronjob realisieren).

Für das backup wird select * über alle Tabellen gemacht und weil dies wohl eine kritische Laufzeit überschritten hat, wurde bis zu 20 mal halbwegs gleichzeitig gestartet und dann noch alles durch gzip durch...

Hab das backup der groupware deaktiviert und mache das nun auch mit mysqldump, dauert dann 5-10s mit gzip.

[blackm]

Hallo,

liegt das an deinem Setup dass es über egroupware so lange dauert der kann man das als bug in egroupware bezeichnen?

[Nicolas1023]

Unser groupware server ist grenzwertig ausgelastet. single core pentium 4 mit ht, 32bit... upgrade steht in den nächsten monaten 3-4 Monaten an.

läuft normal aber recht gut, haben erst seit kurzem das problem das die groupware mal für ne stunde sehr langsam wird. Dabei hab ich überhaupt das backup problem bemerkt.

Ist meiner meinung aber auch ein egroupware bug, denn egal wie lange das backup braucht, es darf nicht passieren das der asynchrone dienst von egroupware dann das backup mehrfach startet. Ich kann nur vermuten das hier im alle 5min laufenden script geprüft wird ob das tagesbackup schon im ordner liegt und sonst halt das backup startet. Wenn dies dann länger als 5min dauert wird es erneut gestartet, was die fertigstellung des ersten backups nur noch länger verzögert, so das erst 2 stunden später alles fertig ist.


Ich werde das aber nicht als bug melden, da ich keine Ahnung habe ob dies in der aktuellen version 1.8 überhaupt noch auftritt (wir haben 1.6)

[Gunah]

Hab das backup der groupware deaktiviert und mache das nun auch mit mysqldump, dauert dann 5-10s mit gzip.

bei mysqldump schau dir mal die Option "-e" an... das macht das ganze nochmal kleiner und beim import schneller.

[Nicolas1023]

Danke für den Hinweis. War mir garnicht bewusst wie viele Optionen mysqldump hat.

-e ist wohl in --opt enthalten und damit Standard. Werde aber mal table lock ausschalten und dafür --single-transaction verenden.