Raspberry Pi 4, USB 3.0 zu langsam beim Kopieren

[Stas]

Hallo,
habe hier einen Raspberry Pi 4 und möchte Daten zwischen zwei Festplatten (WD HDD 12TB mit eigener Stromversorgung) kopieren über rsync,
jedoch ist die maximal Geschwindigkeit ca 35MB/s.

- Die Festplatten sind jeweile an die USB3.0 abgeschlossen, Raspberry-Debian lauft über eine "Samsung EVO Select 128 GB microSD 100MB/s"
- WD HDD 12TB Festplatten Dateisystem ist NTFS
- über hdparm -t /dev/sda oder sdb bekomme ich bei der Ausgabe 199.63 MB/sec, die Geschwindigkeit ist doch da
- über direktes kopieren oder über rsync bin ich bei ca. 35MB/s

Wo ist das Problem

[hikaru]

Vielleicht ist der SoC zu schwach um Daten in annehmbarer Geschwindigkeit über ein Fuse-Dateisystem und USB hin- und wieder zurück zu schaufeln. Wie sehen denn CPU-Auslastung und Load während des Kopiervorgangs aus?
An der Schnittstelle kannst du zumindest auf dem RPi nichts ändern. Der hat ja nur USB. Aber vielleicht würde ein natives Dateisystem wie Ext4 auf den Platten helfen.

[DeletedUserReAsG]

- WD HDD 12TB Festplatten Dateisystem ist NTFS

Das NTFS würde ich als wahrscheinliche Ursache ansehen. Klarheit könnte z.B. top bringen.

[Stas]

Bei manuellen kopieren:
ca:
CPU 1 : 60%
CPU 2 : 65%
CPU 3 : 65%
CPU 4 : 60%

über rsync
ca:
CPU 1 : 100%
CPU 2 : 20%
CPU 3 : 30%
CPU 4 : 60%

alles über htop

[Stas]

Habe jetzt eine weitere "Samsung EVO Select 128 GB microSD 100MB/s" genommen auf ext4 Partitioniert.
- auf PC, rsync microSD_1 zu microSD_1, kopiert wurde also auf der gleichen microSD, 80MB/s erreicht
- auf Raspberry Pi 4, rsync microSD_1 zu microSD_1, kopiert wurde also auf der gleichen microSD, 25MB/s erreicht

über rsync
ca:
CPU 1 : 30%
CPU 2 : 50%
CPU 3 : 30%
CPU 4 : 40%

[MSfree]

- auf Raspberry Pi 4, rsync microSD_1 zu microSD_1, kopiert wurde also auf der gleichen microSD, 25MB/s erreicht

Wenn ich mir diese Benchmarks des Cardreaders so ansehe, bist du mit 25MB/s eigentlich in der Nähe dessen, was der Cardreader schafft:
https://www.jeffgeerling.com/blog/2019/ ... rison-2019

[Stas]

Interessant, leider steht da nicht über HDDs drin nur über SSDs. https://www.jeffgeerling.com/sites/defa ... -3-ssd.png
Gibt es eine Möglichkeit Parameter/ Config einzustellen, Softwaretechnisch?

[Stas]

Habe jetzt eine weitere "Samsung EVO Select 128 GB microSD 100MB/s" genommen auf ext4 Partitioniert.
- auf PC, rsync microSD_1 zu microSD_1, kopiert wurde also auf der gleichen microSD, 80MB/s erreicht
- auf Raspberry Pi 4, rsync microSD_1 zu microSD_1, kopiert wurde also auf der gleichen microSD, 25MB/s erreicht

über rsync
ca:
CPU 1 : 30%
CPU 2 : 50%
CPU 3 : 30%
CPU 4 : 40%

Hier ist die microSD_1 an USB3.0 angeschlossen

[MSfree]

Interessant, leider steht da nicht über HDDs drin nur über SSDs. https://www.jeffgeerling.com/sites/defa ... -3-ssd.png

Wenn da eine SSD im Random-Write nur noch 26MByte/s schafft, wird eine Festplatte sicherlich nicht schneller sein

Gibt es eine Möglichkeit Parameter/ Config einzustellen?

Nein.

[Stas]

Interessant, leider steht da nicht über HDDs drin nur über SSDs. https://www.jeffgeerling.com/sites/defa ... -3-ssd.png

Wenn da eine SSD im Random-Write nur noch 26MByte/s schafft, wird eine Festplatte sicherlich nicht schneller sein

Gibt es eine Möglichkeit Parameter/ Config einzustellen?

Nein.

[Stas]

-

[DeletedUserReAsG]

Bei manuellen kopieren:
ca:
CPU 1 : 60%
CPU 2 : 65%
CPU 3 : 65%
CPU 4 : 60%

über rsync
ca:
CPU 1 : 100%
CPU 2 : 20%
CPU 3 : 30%
CPU 4 : 60%

alles über htop

Der interessantere Teil wäre gewesen, was denn die Last verursacht.

[Stas]

Oder anders gefragt, wie erkennt man denn das der zugesteckte Speicher, als USB3 erkannt wurde und die Geschwindigkeit freigibt?
Das System für doch bestimmt Erkennungen durch und lädt die richtigen Treiber und so ?

Das mit der Last bekomme ich nicht raus!

[tijuca]

Mit atop?
Ich vermute aber ganz stark das hier IO-Wait die Ursache für die "Last" ist. Soweit ich das noch richtig im Kopf habe hängt in den Raspberries alle Peripherie an einem USB-Host Controller, da muss alles durch. Und dort läuft alles auf einem Interrupt. Zumindest war dies so auf den älteren Modellen so.

[hikaru]

I/O-Load samt verursachender Prozesse zeigt dir iotop an (iotop -o).

[MSfree]

Soweit ich das noch richtig im Kopf habe hängt in den Raspberries alle Peripherie an einem USB-Host Controller

Nein, der Cardreader des Raspis hat noch nie am USB gehangen. Nur die Ethernetschnittstelle (aber nicht WLAN) hängt beim Raspi am USB.

[tijuca]

Nein, der Cardreader des Raspis hat noch nie am USB gehangen. Nur die Ethernetschnittstelle (aber nicht WLAN) hängt beim Raspi am USB.

Aber um die SD-Karte geht es doch gar nicht!? Es geht ums Kopieren von Daten zwischen Geräten die an den USB-Ports hängen. Oder doch nicht?

Hallo,
habe hier einen Raspberry Pi 4 und möchte Daten zwischen zwei Festplatten (WD HDD 12TB mit eigener Stromversorgung) kopieren über rsync,
jedoch ist die maximal Geschwindigkeit ca 35MB/s.

[mat6937]

Oder anders gefragt, wie erkennt man denn das der zugesteckte Speicher, als USB3 erkannt wurde ...
Das System für doch bestimmt Erkennungen durch und lädt die richtigen Treiber und so ?

Z. B. mit:

Code: Alles auswählen

lsusb -t
dmesg | grep -i xhci

zeigt am PI4 u. a..

Code: Alles auswählen

usb 2-1: new SuperSpeed Gen 1 USB device number 2 using xhci_hcd

EDIT:

Therefore, the Pi 4 does not have the same speed constraints of previous models, which means very fast data transfer rates, especially when using the USB 3.0 ports.
... whilst the USB 3.0 ports (blue) are ALSO connected to the USB 3.0 bus via the USB 3.0 specific pins in the socket. USB 3.0 devices are constrained only by the total bandwidth available over the PCIe link.
You can use lsusb -t to display how the USB devices and hubs are arranged and their allocated speeds.
Most of the technical limitations of the USB implementation on previous models are no longer present.

Quelle: https://www.raspberrypi.org/documentati ... /README.md

[mat6937]

Aber um die SD-Karte geht es doch gar nicht!?

Nein, und es geht ja auch um den PI4. Das Schema oben, betrifft nicht den PI4 (sondern < PI4).

EDIT:

Code: Alles auswählen

:~# zcat /proc/config.gz | grep -i xhci
CONFIG_USB_XHCI_HCD=y
# CONFIG_USB_XHCI_DBGCAP is not set
CONFIG_USB_XHCI_PCI=y
CONFIG_USB_XHCI_PLATFORM=y

[Stas]

- Es geht um Raspberry Pi 4 und ich will über die beiden USB3 Anschlüssen zwei Festplatten mit vorhandener Stromversorgung anbinden und die USB3.0 Geschwindigkeit so weit wie möglich ausnutzen!

Habe noch das gefunden:
https://www.raspberrypi.org/forums/view ... 8&t=245931

Danke mat6937 , sollte vielleicht ausch helfen: Quelle: https://www.raspberrypi.org/documentati ... /README.md

Sofern ich wieder zuhause bin und eine Lösung gefunden habe Schreibe ich das rein!

Blockschaltbild:
https://heise.cloudimg.io/width/1804/q3 ... e588cf.png
1 x PCI 2.0 = 5 GT/s 0,500 GByte/s, sieht gut aus!

[Stas]

So habe es leider in keiner weise hinbekommen
Wir ja eigentlich richtig erkannt!

cmdline.txt hat auch nichts bewirkt

muss mal bei einer gegebenen Zeit, mit ext4 ausprobieren!

Sonst sehen die Ausgaben so aus:

lsusb -t
/: Bus 02.Port 1: Dev 1, Class=root_hub, Driver=xhci_hcd/4p, 5000M
|__ Port 2: Dev 2, If 0, Class=Hub, Driver=hub/4p, 5000M
|__ Port 1: Dev 3, If 0, Class=Hub, Driver=hub/4p, 5000M
|__ Port 1: Dev 8, If 0, Class=Mass Storage, Driver=usb-storage, 5000M
|__ Port 2: Dev 9, If 0, Class=Mass Storage, Driver=usb-storage, 5000M

lsusb
Bus 002 Device 009: ID 1058:25a3 Western Digital Technologies, Inc. Elements Desktop (WDBWLG)
Bus 002 Device 008: ID 1058:25a3 Western Digital Technologies, Inc. Elements Desktop (WDBWLG)

dmesg | grep -i xhci
[ 1.106016] xhci_hcd 0000:01:00.0: xHCI Host Controller
[ 1.106051] xhci_hcd 0000:01:00.0: new USB bus registered, assigned bus number 1
[ 1.108708] xhci_hcd 0000:01:00.0: hcc params 0x002841eb hci version 0x100 quirks 0x0000001000000890
[ 1.110050] usb usb1: Product: xHCI Host Controller
[ 1.110065] usb usb1: Manufacturer: Linux 5.4.72-v7l+ xhci-hcd
[ 1.111371] xhci_hcd 0000:01:00.0: xHCI Host Controller
[ 1.111396] xhci_hcd 0000:01:00.0: new USB bus registered, assigned bus number 2
[ 1.111420] xhci_hcd 0000:01:00.0: Host supports USB 3.0 SuperSpeed
[ 1.111987] usb usb2: Product: xHCI Host Controller
[ 1.112002] usb usb2: Manufacturer: Linux 5.4.72-v7l+ xhci-hcd
[ 1.474363] usb 1-1: new high-speed USB device number 2 using xhci_hcd
[ 1.805211] usb 2-2: new SuperSpeed Gen 1 USB device number 2 using xhci_hcd
[ 1.994324] usb 1-1.2: new high-speed USB device number 3 using xhci_hcd
[ 2.225257] usb 2-2.1: new SuperSpeed Gen 1 USB device number 3 using xhci_hcd
[ 2.354335] usb 1-1.4: new full-speed USB device number 4 using xhci_hcd
[ 2.584328] usb 1-1.2.1: new high-speed USB device number 5 using xhci_hcd
[ 17.034374] usb 1-1.3: new full-speed USB device number 6 using xhci_hcd

dmesg
[ 391.469771] usb 2-2.1.2: USB disconnect, device number 5
[ 405.647481] usb 2-2.1.1: Disable of device-initiated U1 failed.
[ 405.648502] usb 2-2.1.1: Disable of device-initiated U2 failed.
[ 406.400829] usb 2-2.1.1: USB disconnect, device number 7
[ 460.044812] usb 2-2.1.1: new SuperSpeed Gen 1 USB device number 8 using xhci_hcd
[ 460.076262] usb 2-2.1.1: New USB device found, idVendor=1058, idProduct=25a3, bcdDevice=10.30
[ 460.076282] usb 2-2.1.1: New USB device strings: Mfr=1, Product=2, SerialNumber=3
[ 460.076299] usb 2-2.1.1: Product: Elements 25A3
[ 460.076315] usb 2-2.1.1: Manufacturer: Western Digital
[ 460.076331] usb 2-2.1.1: SerialNumber: 5A3248594A544754
[ 460.081395] usb-storage 2-2.1.1:1.0: USB Mass Storage device detected
[ 460.082591] scsi host0: usb-storage 2-2.1.1:1.0
[ 460.384657] usb 2-2.1.2: new SuperSpeed Gen 1 USB device number 9 using xhci_hcd
[ 460.415938] usb 2-2.1.2: New USB device found, idVendor=1058, idProduct=25a3, bcdDevice=10.30
[ 460.415947] usb 2-2.1.2: New USB device strings: Mfr=1, Product=2, SerialNumber=3
[ 460.415954] usb 2-2.1.2: Product: Elements 25A3
[ 460.415961] usb 2-2.1.2: Manufacturer: Western Digital
[ 460.415967] usb 2-2.1.2: SerialNumber: 5A324A3945383554
[ 460.420174] usb-storage 2-2.1.2:1.0: USB Mass Storage device detected
[ 460.420437] scsi host1: usb-storage 2-2.1.2:1.0
[ 461.084766] scsi 0:0:0:0: Direct-Access WD Elements 25A3 1030 PQ: 0 ANSI: 6
[ 461.085092] sd 0:0:0:0: Attached scsi generic sg0 type 0
[ 461.092868] sd 0:0:0:0: [sda] Spinning up disk...
[ 461.484904] scsi 1:0:0:0: Direct-Access WD Elements 25A3 1030 PQ: 0 ANSI: 6
[ 461.485515] sd 1:0:0:0: Attached scsi generic sg1 type 0
[ 461.487993] sd 1:0:0:0: [sdb] Spinning up disk...

sudo dmesg -C
dmesg
[ 73.193234] .ready
[ 73.193795] sd 0:0:0:0: [sda] Very big device. Trying to use READ CAPACITY(16).
[ 73.194095] sd 0:0:0:0: [sda] 23437705216 512-byte logical blocks: (12.0 TB/10.9 TiB)
[ 73.194107] sd 0:0:0:0: [sda] 4096-byte physical blocks
[ 73.195007] sd 0:0:0:0: [sda] Write Protect is off
[ 73.195021] sd 0:0:0:0: [sda] Mode Sense: 47 00 10 08
[ 73.195906] sd 0:0:0:0: [sda] No Caching mode page found
[ 73.195920] sd 0:0:0:0: [sda] Assuming drive cache: write through
[ 73.349434] sda: sda1
[ 73.351829] sd 0:0:0:0: [sda] Attached SCSI disk
[ 73.357088] ..ready
[ 74.393863] sd 1:0:0:0: [sdb] Very big device. Trying to use READ CAPACITY(16).
[ 74.396733] sd 1:0:0:0: [sdb] 23437705216 512-byte logical blocks: (12.0 TB/10.9 TiB)
[ 74.396746] sd 1:0:0:0: [sdb] 4096-byte physical blocks
[ 74.399494] sd 1:0:0:0: [sdb] Write Protect is off
[ 74.399509] sd 1:0:0:0: [sdb] Mode Sense: 47 00 10 08
[ 74.400594] sd 1:0:0:0: [sdb] No Caching mode page found
[ 74.400608] sd 1:0:0:0: [sdb] Assuming drive cache: write through
[ 74.531793] sdb: sdb1 sdb2
[ 74.537713] sd 1:0:0:0: [sdb] Attached SCSI disk
[ 80.278551] v3d fec00000.v3d: MMU error from client L2T (0) at 0x2ee1000, pte invalid

[mat6937]

So habe es leider in keiner weise hinbekommen
Wir ja eigentlich richtig erkannt!

cmdline.txt hat auch nichts bewirkt

Wie sind die Ausgaben von:

Code: Alles auswählen

lsblk
cat /etc/fstab

? Welche Ergänzung hast Du in der cmdline.txt gemacht?

[Stas]

lsblk
NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT
sda 8:0 0 10,9T 0 disk
└─sda1 8:1 0 10,9T 0 part /media/pi/Backup_12_02
sdb 8:16 0 10,9T 0 disk
├─sdb1 8:17 0 16M 0 part
└─sdb2 8:18 0 10,9T 0 part /media/pi/Backup_12_01
mmcblk0 179:0 0 29,8G 0 disk
├─mmcblk0p1 179:1 0 256M 0 part /boot
└─mmcblk0p2 179:2 0 29,6G 0 part /

cat /etc/fstab
proc /proc proc defaults 0 0
PARTUUID=30050e4a-01 /boot vfat defaults 0 2
PARTUUID=30050e4a-02 / ext4 defaults,noatime 0 1
# a swapfile is not a swap partition, no line here
# use dphys-swapfile swap[on|off] for that
pi@raspberrypi:~ $

cmdline.txt
usb-storage.quirks=1058u console=serial0,115200 console=tty1 root=PARTUUID=30050e4a-02 rootfstype=ext4 elevator=deadline fsck.repair=yes rootwait quiet splash plymouth.ignore-serial-consoles

sudo iotop -o
Total DISK READ: 36.16 M/s | Total DISK WRITE: 18.19 M/s
Current DISK READ: 18.10 M/s | Current DISK WRITE: 57.53 M/s

TID PRIO USER DISK READ DISK WRITE SWAPIN IO> COMMAND
7 be/4 root 0.00 B/s 0.00 B/s 0.00 % 25.00 % [kworker/u8:0-flush-8:0]

1425 be/4 pi 18.06 M/s 0.00 B/s 0.00 % 3.93 % rsync -v --progress /media/pi/Backup_12_01/123.mkv /media/pi/Backup_12_02/

1344 be/4 root 18.06 M/s 0.00 B/s 0.00 % 1.29 % mount.ntfs /dev/sdb2 /media/pi/Backup_12_01 -o rw,nodev,nosuid,uid=1000,gid=1000,uhelper=udisks2

1333 be/4 root 45.62 K/s 18.19 M/s 0.00 % 0.56 % mount.ntfs /dev/sda1 /media/pi/Backup_12_02 -o rw,nodev,nosuid,uid=1000,gid=1000,uhelper=udisks2

rsync -v --progress /media/pi/Backup_12_01/123.mkv /media/pi/Backup_12_02/
3,119,458,671 100% 17.04MB/s 0:02:54 (xfr#1, to-chk=0/1)
sent 3,120,220,340 bytes received 35 bytes 17,779,033.48 bytes/sec
total size is 3,119,458,671 speedup is 1.00