Qumu/KVM: qcow2 Image grüßer als es sein sollte

Alle weiteren Dienste, die nicht in die drei oberen Foren gehören.
Antworten
Benutzeravatar
matman
Beiträge: 744
Registriert: 03.07.2008 10:50:07
Lizenz eigener Beiträge: GNU Free Documentation License
Wohnort: Hamburg
Kontaktdaten:

Qumu/KVM: qcow2 Image grüßer als es sein sollte

Beitrag von matman » 20.10.2014 13:40:53

Hallo, ich habe hier ein qcow2 Image, das die VM komplett lahm legt, sobald die physische Festplatte voll ist. Und das passiert deshalb, weil das Image größer wird, als es eigentlich maximal sein soll. qemu-img info ergibt:

Code: Alles auswählen

virtual size: 800G
disk size: 870G
Ich dachte eigentlich, wenn ich 800G festlege, dann kann das Image auf keinen Fall größer als 800G werden. Aber anscheinend werden die Daten zur Verwaltung/Gliederung/etc. hinter die 800G geschrieben, oder wie kommt das zustande?

Das Kurioseste an der Sache ist: die virtuelle Festplatte ist nur zu ca. 45% gefüllt. Sie war vorher zwar schon zu 60 bis 65% gefüllt und jene Daten sind wieder zu 99% gelöscht worden. Aber ich finde das Verhalten trotzdem unlogisch.

Hat hier jemand eine Erklärung dafür?
System: Bullseye
Hardware: Gigabyte 970A-DS3P mit AMD FX-6300, Kingston HyperX DDR3-1333 (4x4GB), Samsung SSD 860 EVO, HGST Travelstar 7K1000, Samsung DVD-ROM SH-D162D, Geforce GTX 1050, SoundBlaster Live! Platinum, Hauppauge WinTV-HVR-5525

r4pt0r
Beiträge: 1237
Registriert: 30.04.2007 13:32:44
Lizenz eigener Beiträge: MIT Lizenz

Re: Qumu/KVM: qcow2 Image grüßer als es sein sollte

Beitrag von r4pt0r » 20.10.2014 16:07:22

Gab es für qcow2 nicht soft- und hardlimits bezgl. Plattengröße? Evtl ist da der Wurm drin...

Wie groß ist das darauf angelegte Dateisystem? Wurde evtl das image nachträglich verkleinert, das Dateisystem war aber schon größer?

rendegast
Beiträge: 15041
Registriert: 27.02.2006 16:50:33
Lizenz eigener Beiträge: MIT Lizenz

Re: Qumu/KVM: qcow2 Image grüßer als es sein sollte

Beitrag von rendegast » 20.10.2014 16:26:55

'man qemu-img'
convert [-c] [-p] [-n] [-f fmt] [-t cache] [-O output_fmt] [-o options]
[-s snapshot_id_or_name] [-l snapshot_param] [-S sparse_size] filename
[filename2 [...]] output_filename

Convert the disk image filename or a snapshot
snapshot_param(snapshot_id_or_name is deprecated) to disk image
output_filename using format output_fmt. It can be optionally
compressed ("-c" option) or use any format specific options like
encryption ("-o" option).

...
Image conversion is also useful to get smaller image when using a
growable format such as "qcow" or "cow": the empty sectors are
detected and suppressed from the destination image.

...
mfg rendegast
-----------------------
Viel Eifer, viel Irrtum; weniger Eifer, weniger Irrtum; kein Eifer, kein Irrtum.
(Lin Yutang "Moment in Peking")

Benutzeravatar
matman
Beiträge: 744
Registriert: 03.07.2008 10:50:07
Lizenz eigener Beiträge: GNU Free Documentation License
Wohnort: Hamburg
Kontaktdaten:

Re: Qumu/KVM: qcow2 Image grüßer als es sein sollte

Beitrag von matman » 22.10.2014 12:10:25

r4pt0r hat geschrieben:Wie groß ist das darauf angelegte Dateisystem?
Ich habe es vorgestern komplett neu angelegt mit einer Größe von 700G statt 800G. Das Dateisystem darauf ist 689G, also das was der VM zur Verfügung steht.

Das Image was ich davor hatte, das war auch noch recht neu. Nachträglich verkleinert wurde es nicht. Angelegt wurde es mit:

Code: Alles auswählen

qemu-img create -f qcow2 -o cluster_size=2M image.img 800G
Vielleicht sorgt die cluster size für eine recht hohe Größe der Datei. Aber die brauche ich, weil bei den Datenmengen ist das alles sonst viel zu lahm. Aber eigentlich müsste man doch davon ausgehen, das die ganzen Daten für Sektoren innerhalb der von mir festgelegten 800G sein sollten. Sonst weiß man ja, im Falle das man mehrere VM's mit diversen qcow2 Images am Laufen hat, nie genau wann die Festplatte überläuft bzw. wiviele GB's man den Images zuweisen muss, um das zu verhindern. Vielleicht sogar ein Bug?
rendegast hat geschrieben:Image conversion is also useful to get smaller image when using a growable format
Das nutzt aber leider nichts, wenn man 870G convertieren will und nur noch 30 GB Platz auf der Platte vorhanden ist. Weil soweit ich weiß bleibt das ursprüngliche Image erhalten. Oder irre ich mich da?
System: Bullseye
Hardware: Gigabyte 970A-DS3P mit AMD FX-6300, Kingston HyperX DDR3-1333 (4x4GB), Samsung SSD 860 EVO, HGST Travelstar 7K1000, Samsung DVD-ROM SH-D162D, Geforce GTX 1050, SoundBlaster Live! Platinum, Hauppauge WinTV-HVR-5525

rendegast
Beiträge: 15041
Registriert: 27.02.2006 16:50:33
Lizenz eigener Beiträge: MIT Lizenz

Re: Qumu/KVM: qcow2 Image grüßer als es sein sollte

Beitrag von rendegast » 23.10.2014 10:07:57

matman hat geschrieben: virtual size: 800G
disk size: 870G
Ich dachte eigentlich, wenn ich 800G festlege, dann kann das Image auf keinen Fall größer als 800G werden.
(Eventuell angelegte snapshot würden bei 'qemu-img info ...' ja angezeigt)

Ist da mal was drangefügt worden?
# qemu-img info img.qcow2
image: img.qcow2
file format: qcow2
virtual size: 1.0G (1073741824 bytes)
disk size: 1.0G

cluster_size: 65536
Format specific information:
compat: 1.1
lazy refcounts: false

# dd if=/dev/zero bs=1M count=200 >> img.qcow2
200+0 records in
200+0 records out
209715200 bytes (210 MB) copied, 0.171965 s, 1.2 GB/s

# qemu-img info img.qcow2
image: img.qcow2
file format: qcow2
virtual size: 1.0G (1073741824 bytes)
disk size: 1.2G

cluster_size: 65536
Format specific information:
compat: 1.1
lazy refcounts: false

Code: Alles auswählen

modprobe nbd
qemu-nbd -c /dev/nbdX img
cat /dev/nbdX > wohinauchimmer.raw
Bei 800GB braucht es halt ein neues volume (USB2, ~ 50Eu)
mfg rendegast
-----------------------
Viel Eifer, viel Irrtum; weniger Eifer, weniger Irrtum; kein Eifer, kein Irrtum.
(Lin Yutang "Moment in Peking")

Benutzeravatar
matman
Beiträge: 744
Registriert: 03.07.2008 10:50:07
Lizenz eigener Beiträge: GNU Free Documentation License
Wohnort: Hamburg
Kontaktdaten:

Re: Qumu/KVM: qcow2 Image grüßer als es sein sollte

Beitrag von matman » 27.12.2014 15:46:56

Nein, da ist nichts drangefügt worden. Ich habe vor einer Weile mal die Größe der Disk von 800 auf 700 herabgesetzt, durch erneutes Anlegen der Imagedatei. Das hilft aber auch nicht weiter. Die virtuelle Festplatte war zu ca. 50% voll. Nachdem ich fast alles gelöscht hatte war die Imagedatei sogar um mindestens 1 GB größer geworden. Und nachdem ich dann etwa 400 GB wieder hinein geschrieben hatte war die Imagedatei dann schon wieder über 800 GB groß. Das sieht sehr so aus, als würde mit jeder Aktion die Größe der Datei wachsen, ganz egal ob man Daten schreibt oder löscht. Und da hier sonst niemad näheres darüber weiß schliesse ich daraus mal: entweder ein Bug, oder eine sehr schlechte Umsetzung des qcow2 Dateisystemes.
System: Bullseye
Hardware: Gigabyte 970A-DS3P mit AMD FX-6300, Kingston HyperX DDR3-1333 (4x4GB), Samsung SSD 860 EVO, HGST Travelstar 7K1000, Samsung DVD-ROM SH-D162D, Geforce GTX 1050, SoundBlaster Live! Platinum, Hauppauge WinTV-HVR-5525

Antworten