schneller Filetransfer über Netzwerk

[dylfin]

Ich suche eine einfache Lösung (nichts kompilieren / möglichst Debian Standardpakete) um von einen Server mit 4 Netzwerkschnittstellen Files sehr schnell zu einen anderen Rechner zu übertragen. Ich kann die Daten nicht lokal nochmals zwischenlagern / komprimieren (aus Platzmangel). Es muss also eine "Pipe Lösung" sein.

Derzeit nutze ich netcat - kann aber so natürlich nur eine Netzwerkschnittstelle nutzen. Ich kann ebenfalls keine Netzwerkkonfiguration am Switch ändern....

Kennt hier jemand eine einfache / gute Lösung?

[Colttt]

wenn es jewals 2linuxserver sind, dann mittels ssh bzw scp..

[ThorstenS]

Ich benutze beim Transfer im inneren Netz NFS, ansonsen SCP, wobei ich ciphers=arcfour benutze. Das beschleunigt den Transfer om LAN doch enorm.

[dylfin]

wenn es jewals 2linuxserver sind, dann mittels ssh bzw scp..

Kann ich damit 4 Netzwerkschnittstellen parallel nutzen?

[dylfin]

vielleicht habe ich mich nicht ganz korrekt ausgedrückt: ich transferiere bereits mittels netcat 1gb/s. ich möchte aber die 4x1gb/s Netzwerkports bündeln, um so einen schnelleren Transfer zwischen den Servern beim Kopieren zu erreichen....

[Colttt]

nunja..

via scp geht das so nicht.. du müsstest schon die karten vorher bündeln.. wobei ich dann schon fast sagen würde das die platten der limitierende faktor werden..

Netzwerkkarten bündeln

[TRex]

Was ist mit rsync? Das komprimiert die Daten für den Transfer.

[dylfin]

nunja..

via scp geht das so nicht.. du müsstest schon die karten vorher bündeln.. wobei ich dann schon fast sagen würde das die platten der limitierende faktor werden..

Netzwerkkarten bündeln

Die Bonding Modi die ohne Switch Anpassungen funktionieren, verwenden für eine Verbindung jeweils auch nur eine Netzwerkschnittstelle und bündeln diese nicht für eine Verbindung. Das erhöht nur den Durchsatz wenn ein Server mehreren Verbindungen aufbaut...

PS: die Platten (8 x SAS 15k Platten / RAID10) schaffen zumindest mehr als die eine 1gb/s Netzwerkschnittstelle )

Was ist mit rsync? Das komprimiert die Daten für den Transfer.

Ich habe bereits netcat + lzop versucht und dabei die Zeit gemessen -> ohne Komprimierung geht es definitiv schneller. Parallel komprimieren und alle CPU Cores nutzen wäre hier sicher gut, was allerdings in der Pipe nicht funktioniert (pbzip2 kann z.B. nur direkt in Files schreiben)

[Colttt]

der Mouds 6 sollte aber gehen, oder seh i da was falsch?!

Mode 6
Adaptive load balancing: Für diesen Modus ist keine Konfiguration des/der Switches notwendig. Anschluss an mehrere Switches ist möglich. Zusätzlich zur Sende-Lastverteilung (tlb) erfolgt Empfangs-Lastverteilung für Pakete gemäß IPV4. Die Sende-Verteilung der Pakete erfolgt anhand der aktuellen Interface-Auslastung (in Abhängigkeit von der Bandbreite des Interfaces).
Die Empfangs-Verteilung der Pakete erfolgt der Reihe nach über alle Interfaces des Bündels unter Berücksichtugung der Bandbreite. Die Zuordnung der Interfaces wird über ARP-Negotiation geregelt.
Dieser Modus beinhaltet Lastverteilung und Fehlertoleranz.

ansonsten würde nur noch eine 10GB-NIC helfen

[dylfin]

der Mouds 6 sollte aber gehen, oder seh i da was falsch?!

Mode 6
Adaptive load balancing: Für diesen Modus ist keine Konfiguration des/der Switches notwendig. Anschluss an mehrere Switches ist möglich. Zusätzlich zur Sende-Lastverteilung (tlb) erfolgt Empfangs-Lastverteilung für Pakete gemäß IPV4. Die Sende-Verteilung der Pakete erfolgt anhand der aktuellen Interface-Auslastung (in Abhängigkeit von der Bandbreite des Interfaces).
Die Empfangs-Verteilung der Pakete erfolgt der Reihe nach über alle Interfaces des Bündels unter Berücksichtugung der Bandbreite. Die Zuordnung der Interfaces wird über ARP-Negotiation geregelt.
Dieser Modus beinhaltet Lastverteilung und Fehlertoleranz.

balance-alb ist das gleiche wie balance-tlb, nur das auch der incoming traffic verteilt wird - aber ebenfalls pro "peer". D.h. hier erreiche ich bei der 1:1 Verbindung kein Vorteil... Schade das es hier keine Lösung gibt, wo man die immer öfter mehrfach vorhandenen Netzwerkschnittstellen zum schnellen Kopieren nutzen kann. Die 1gb/s pro Schnittstelle kann man mittlerweile sehr schnell ausreizen...

[gxyz]

Schade das es hier keine Lösung gibt, wo man die immer öfter mehrfach vorhandenen Netzwerkschnittstellen zum schnellen Kopieren nutzen kann. Die 1gb/s pro Schnittstelle kann man mittlerweile sehr schnell ausreizen...

Na ja, ganz so schnell im Normalfall doch noch nicht - wenn's nicht nur um die Übertragung "roher" Daten geht, sondern Verzeichnisbäume von Dateisystem zu Dateisystem übertragen werden sollen, ist es gar nicht so einfach, auch nur 1 Gigabit-Interface auszulasten.

Ansonsten ist meiner Erfahrung nach das Hauptproblem mit dem Bonding die mangelhafte Standardisierung. Back-to-back klappt es tatsächlich, mit "balance-rr" zwischen 2 Maschinen sensationelle Datenraten zu erzielen. Wenn das Ganze irgendwelche Netzwerk-Switche passieren muss wird's allerdings schon schwierig (besonders feinsinnige Konfigurationsmöglichkeiten sind dort typischerweise auch nicht vorgesehen, meistens kann man nur "trunking" aktivieren, ohne dass genauer spezifiziert ist, was dies im Detail bewirkt, so dass man eigentlich nur ausprobieren kann, ob's mit einem bestimmten Bonding-Modus klappt) und wenn auf den beteiligten Maschinen Firewalls aktiv sind, kann es ziemlich merkwürdige Nebeneffekte geben. (weshalb ich persönlich auch letztlich auf "balance-xor" umgeschwenkt bin, was zwar den Durchsatz nicht besonders steigert - für Dein Szenarium gar nicht - aber immerhin auch wenig Probleme verursacht ...)

[roli]

wie sieht's mit F*EX (Frams' Fast File EXchange) aus?

[Colttt]

@gxyz: immerhin einer der meiner meinung ist..

@dylfin: hast du es denn mal ausprobiert?

[peschmae]

bbFTP sollte was für dich sein (wobei ich das mit dem lokal nicht zwischenspeichern jetzt nicht ganz verstanden habe, eventuell scheiterts für dich daran).

Ich habs allerdings selber erst einmal benutzt, weil ich normalerweise zu faul bin und rsync über ssh immer noch schnell genug ist.

MfG Peschmä