HELP/HILFE zu ZFS+ISCSI+VMWARE

[Matthias Strobel]

Hallo Community,

ich brauche dringend eure Hilfe.

Ich setze in meinem Büro einen Freenas-Server ein welcher ISCSI-Target für VMWare bereit stellt. Snapshots wurden stündlich eingerichtet (1 Woche kann ich zurück) und werden auf einen zweiten Freenas-Server repliziert.

Nun haben wir im Büro gestern Morgen aufgrund einer Stromzählermontage alles heruntergefahren. Nach 3 Stunden alles wieder hochgefahren, den Freenas-Server als erstes, dabei habe ich gleich ein Update gemacht (von 9.10.1 auf 9.10.2).

Nun habe ich ein riesiges Problem, der VMWare-Server zeigt zwar die ISCSI-Targets (Freenas-Disk) an, sind auch verbunden, jedoch werden die Datenspeicher nicht mehr gemountet, somit kein Zugriff auf die virtuellen Maschinen / Daten. Egal was ich mache, Snapshot-wiederherstellten, auch auf der replizierten Freenas-Maschine, ich kriege das einfach nicht hin. Ich hab auch testweise das ISCSI-Tagert mit Windows verbunden, hier zeigt es mir das Volume schreibgeschützt an. Weiterhin habe ich testweise den ISCSI-Dienst auf der replizierten Freenas-Maschine eingerichtet und mit VMWare verbunden, hat auch nichts gebracht.

iSCSi wurde mit File-Extent eingerichtet auf einem Dataset. Zwei ISCSI-Target, eins auf einen SSD-Pool und eins auf einem SATA-Pool, beide werden repliziert.

Hat jemand ein ähnliches Problem?

Meine Frage:
Gibt es eine Möglichkeit den ISCSI-File-Extent local in Freenas oder anderswo zu mounten um an die Daten hinzukommen? Filesystem ist glaube ich VMFS Version 5 bzw. 5.6.

Ich wäre über eure Hilfe überaus dankbar.

Grüße

Matthias Strobel

 

[bigphil]

So dass Sie sagen, dass die vmfs-Datenspeicher nicht montiert sind oder sich im schreibgeschützten Modus befinden? Alles in der vmkernal Log auf dem Host? Was ist die Ausgabe von "zfs erhalten alle YourPool / YourDatasetPath" auf freenas für das dataset, das Ihr fike Umfang hält. Sie haben die iscsi extenet überprüft, ist nicht im Read-only-Modus auf freenas?

 

[MrToddsFriends]

Läuft mit dem alten Boot-Environment (9.10.1) alles wie vorher?

 

[bigphil]

Wenn die vorherige Boot-Umgebung nicht funktioniert, senden Sie bitte die Ausgabe der folgenden Befehle von Ihrem ESXi-Host (nur benötigte Abschnitte in Bezug auf Ihre FreeNAS iSCSI-Festplatte und Datenspeicher.

esxcli storage core device list
esxcli storage filesystem list

 

[snaptec]

Schmeißt der freenas Server Fehler? (Logs?)
Gleiches für den esx.
Warum wird ro und nicht rw gemountet, das hat meist einen Grund.
Bissl mehr Input wäre hilfreich.


Gesendet von iPhone mit Tapatalk

 

[Matthias Strobel]

Mit dem vorgehenden Boot-Environment (9.10.1) geht es auch nicht.

Auszug aus Log Freenas:
Jan 29 07:48:11 NAS-AB01 WARNING: 192.168.101.240 (iqn.1998-01.com.vmware:esxi-ab01-6e42e9ac): no ping reply (NOP-Out) after 5 seconds; dropping connection
Jan 29 07:48:29 NAS-AB01 WARNING: 192.168.101.240 (iqn.1998-01.com.vmware:esxi-ab01-6e42e9ac): no ping reply (NOP-Out) after 5 seconds; dropping connection
Jan 29 07:48:42 NAS-AB01 WARNING: 192.168.101.240 (iqn.1998-01.com.vmware:esxi-ab01-6e42e9ac): no ping reply (NOP-Out) after 5 seconds; dropping connection
Jan 29 07:48:54 NAS-AB01 WARNING: 192.168.101.240 (iqn.1998-01.com.vmware:esxi-ab01-6e42e9ac): no ping reply (NOP-Out) after 5 seconds; dropping connection
Jan 29 07:49:08 NAS-AB01 WARNING: 192.168.101.240 (iqn.1998-01.com.vmware:esxi-ab01-6e42e9ac): no ping reply (NOP-Out) after 5 seconds; dropping connection
Jan 29 07:49:21 NAS-AB01 WARNING: 192.168.101.240 (iqn.1998-01.com.vmware:esxi-ab01-6e42e9ac): no ping reply (NOP-Out) after 5 seconds; dropping connection

naa.6589cfc00000062e182eaced73aabd75
Display Name: FreeNAS iSCSI Disk (naa.6589cfc00000062e182eaced73aabd75)
Has Settable Display Name: true
Size: 819200
Device Type: Direct-Access
Multipath Plugin: NMP
Devfs Path: /vmfs/devices/disks/naa.6589cfc00000062e182eaced73aabd75
Vendor: FreeNAS
Model: iSCSI Disk
Revision: 0123
SCSI Level: 6
Is Pseudo: false
Status: on
Is RDM Capable: true
Is Local: false
Is Removable: false
Is SSD: true
Is VVOL PE: false
Is Offline: false
Is Perennially Reserved: false
Queue Full Sample Size: 0
Queue Full Threshold: 0
Thin Provisioning Status: unknown
Attached Filters:
VAAI Status: supported
Other UIDs: vml.010000000030303235393032616163326330310000695343534920
Is Shared Clusterwide: true
Is Local SAS Device: false
Is SAS: false
Is USB: false
Is Boot USB Device: false
Is Boot Device: false
Device Max Queue Depth: 128
No of outstanding IOs with competing worlds: 32
Drive Type: unknown
RAID Level: unknown
Number of Physical Drives: unknown
Protection Enabled: false
PI Activated: false
PI Type: 0
PI Protection Mask: NO PROTECTION
Supported Guard Types: NO GUARD SUPPORT
DIX Enabled: false
DIX Guard Type: NO GUARD SUPPORT
Emulated DIX/DIF Enabled: false

naa.6589cfc000000e00c127862861b38090
Display Name: FreeNAS iSCSI Disk (naa.6589cfc000000e00c127862861b38090)
Has Settable Display Name: true
Size: 4194304
Device Type: Direct-Access
Multipath Plugin: NMP
Devfs Path: /vmfs/devices/disks/naa.6589cfc000000e00c127862861b38090
Vendor: FreeNAS
Model: iSCSI Disk
Revision: 0123
SCSI Level: 6
Is Pseudo: false
Status: on
Is RDM Capable: true
Is Local: false
Is Removable: false
Is SSD: true
Is VVOL PE: false
Is Offline: false
Is Perennially Reserved: false
Queue Full Sample Size: 0
Queue Full Threshold: 0
Thin Provisioning Status: unknown
Attached Filters:
VAAI Status: supported
Other UIDs: vml.010000000030303235393032616163326330300000695343534920
Is Shared Clusterwide: true
Is Local SAS Device: false
Is SAS: false
Is USB: false
Is Boot USB Device: false
Is Boot Device: false
Device Max Queue Depth: 128
No of outstanding IOs with competing worlds: 32
Drive Type: unknown
RAID Level: unknown
Number of Physical Drives: unknown
Protection Enabled: false
PI Activated: false
PI Type: 0
PI Protection Mask: NO PROTECTION
Supported Guard Types: NO GUARD SUPPORT
DIX Enabled: false
DIX Guard Type: NO GUARD SUPPORT
Emulated DIX/DIF Enabled: false

naa.600508b1001cf148dd43bdedd90a0ce9
Display Name: Local HP Disk (naa.600508b1001cf148dd43bdedd90a0ce9)
Has Settable Display Name: true
Size: 1716420
Device Type: Direct-Access
Multipath Plugin: NMP
Devfs Path: /vmfs/devices/disks/naa.600508b1001cf148dd43bdedd90a0ce9
Vendor: HP
Model: LOGICAL VOLUME
Revision: 7.02
SCSI Level: 5
Is Pseudo: false
Status: on
Is RDM Capable: true
Is Local: true
Is Removable: false
Is SSD: false
Is VVOL PE: false
Is Offline: false
Is Perennially Reserved: false
Queue Full Sample Size: 0
Queue Full Threshold: 0
Thin Provisioning Status: unknown
Attached Filters:
VAAI Status: unsupported
Other UIDs: vml.0200010000600508b1001cf148dd43bdedd90a0ce94c4f47494341
Is Shared Clusterwide: false
Is Local SAS Device: true
Is SAS: true
Is USB: false
Is Boot USB Device: false
Is Boot Device: true
Device Max Queue Depth: 1024
No of outstanding IOs with competing worlds: 32
Drive Type: unknown
RAID Level: unknown
Number of Physical Drives: unknown
Protection Enabled: false
PI Activated: false
PI Type: 0
PI Protection Mask: NO PROTECTION
Supported Guard Types: NO GUARD SUPPORT
DIX Enabled: false
DIX Guard Type: NO GUARD SUPPORT
Emulated DIX/DIF Enabled: false

[root@ESXI-AB01:~] esxcli storage filesystem list
Mount Point Volume Name UUID Mounted Type Size Free
------------------------------------------------- ----------- ----------------------------------- ------- ------ ------------- -------------
/vmfs/volumes/9fe2d237-a0bb3477 TANK_NFS 9fe2d237-a0bb3477 true NFS 9816970768384 9771382431744
/vmfs/volumes/575e965a-a7ace17f-b826-2c44fd7a89c0 ESXI-AB01 575e965a-a7ace17f-b826-2c44fd7a89c0 true VMFS-5 1791806668800 1725698146304
/vmfs/volumes/588ccc39-f3d32a26-e640-0002c9584486 588ccc39-f3d32a26-e640-0002c9584486 true vfat 299712512 83927040
/vmfs/volumes/13e1bf75-a0347d29-0728-5ee8210b6dde 13e1bf75-a0347d29-0728-5ee8210b6dde true vfat 261853184 261844992
/vmfs/volumes/d2968276-60942257-6c3f-b32375dba1d0 d2968276-60942257-6c3f-b32375dba1d0 true vfat 261853184 111251456
/vmfs/volumes/588ccc47-8ffefbff-7e76-0002c9584486 588ccc47-8ffefbff-7e76-0002c9584486 true vfat 4293591040 4280680448



Ich habe jetzt mal das ISCSI-Volume über Debian angebunden und mit vmfs-tools gemountet. So kann ich zumindest jetzt mal die Daten lesen und in einen NFS-Storge kopieren.
Das ISCSi-Target scheint lesbar zu sein und Inhalte sind vorhanden. Aber warum liest der ESXI die Daten nicht.

Auszug aus Webconfig ESXI

FreeNAS iSCSI Disk (naa.6589cfc00000062e182eaced73aabd75)
Typ: Festplatte
Modell: iSCSI Disk
Pfad: /vmfs/devices/disks/naa.6589cfc00000062e182eaced73aabd75
Kapazität: 800 GB
Partitionsformat: Unbekannt
UUID: 01000000003030323539303261616332633031000069534

VMWARE sagt Partitionsformat unbekannt???

 

[snaptec]

Irgendwas am Netzwerk geändert?
Vlan Geschichten aktiv?
Da der Strommensch bei euch war, an irgendeinem Switch mal was konfiguriert und dann nicht gespeichert und ging nun durch den reboot flöten?

Anderst gefragt:
Wurde das system in der Konfiguration schonmal komplett runter und wieder hochgefahren?

 

[Matthias Strobel]

Am Netzwerk wurde nichts geändert, VLAN ist für ISCSI konfiguriert, RoundRobin mit je zwei Targets, VLAN 101 + 102 mit 10G-Karten und Switch. Switche 2 Stück Dell N1524 sind in Ordnung, Ping zwischen Freenas und ESXI in den jew. Netzen funktioniert.

Das System wurde schon mal komplett heruntergefahren, ist allerdings schon mind. 1/2 Jahr her.

Was mich nur wundert ist, dass ich über Debian das ISCSI-Target anbinden und die Partition mit vmfs-tools lesen kann, Daten sind soweit ich sehe auch alle da.
Wenn das Target in ESXI angebunden sehe ich keinerlei Datenspeicher und warum --> Partitionsformat: Unbekannt

#####
so aber jetzt wird ganz komisch, wenn ich das SCSI-Target nur über die 1G Karte (anderes subnetz anbinde) liest mir der ESXI jetzt die Daten

zumindest mal ein Schritt weiter und die Daten sind da, muss ich doch noch mal die Netzwerkkonfig prüfen.

 

[bigphil]

Ich bin neugierig auf Ihr Netzwerk-Setup. Könnten Sie einen Screenshot von Ihrem freenas network inferface setup oder ifconfig haben. Bitte beachten Sie auch den Screenshot aller vmkernal adapter network config. Hoffentlich verwenden Sie keine iSCSI-Port-Bindung auf der ESXi-Seite, da dies das genaue Problem verursachen kann, das Sie sehen können.

Auch, bitte Post alle Konsole Ausgabe mit -Tags, so können wir es richtig lesen.

 

[X11SAE]

Für mich klingt das nach einem VMware Problem, denke Du bist beim VMware Support besser aufgehoben.

Wenn Du mit VMFS-Tools die VMDK's lesen kannst, würde ich vermuten, dass die ESXi Hosts die VMFS-Signatur nicht mehr auflösen können/wollen.
Wenn die Reihenfolge beim Herunterfahren der Infrastruktur nicht korrekt ist, kann es passieren, dass die Hosts den Speicher sperren. Wenn die VMFS-Signatur nicht zerschossen ist, hebt ein Neustart aller Hosts (und zur Sicherheit auch vom vCenter Server) die Sperre auf. Danach müssen die HBA's neu abgesucht werden und dann kann der Speicher wieder hinzugefügt werden. Dabei entweder die Signatur beibehalten oder das Volume neu signieren. Auf keinen Fall das Volume neu einrichten, dabei wird es formatiert.
Wenn das nicht klappt, kannst Du mit VMFS-Tools den Inhalt des VMFS Speichers per SSH auf einen anderen Datastore der ESXi Hosts kopieren.

Wie fit bist Du mit Linux und VMFS-Tools? Habe mal eine Anleitung geschrieben wie die Daten per SSH kopiert werden können, die kann ich Dir gerne zusenden, wenn Du willst.