Hypervisor.fr » iSCSI

[PSH] Rescan & Refresh en one-liner

NiTRo — Tue, 18 Oct 2011 18:37:52 +0000

Il est parfois nécessaire de faire un rescan/refresh de la partie stockage de plusieurs ESX au delà d’un seul cluster. Depuis vSphere 4, la fonction “Rescan for Datastores…” disponible au niveau du cluster améliore grandement l’administration quotidienne mais la fonction “Refresh host storage system“, qui permet par exemple de rafraichir l’espace disponible sur les partages NFS, n’est disponible qu’individuellement sur chaque host.

Voici donc un petit one-liner qui permet de combiner les actions de rescan et refresh :

Get-View -ViewType HostSystem -Property ConfigManager.StorageSystem -Filter @{"Name"="^vmvisor"}|%{Get-View $_.ConfigManager.StorageSystem|%{$_.RescanAllHba();$_.RefreshStorageSystem()}}

L’équivalent en moins rapide mais en plus simple :

Get-VMHost vmvisor*|Get-VMHostStorage -RescanAllHba -Refresh

Vous aurez remarqué que nous n’avons pas inclus de RescanVmfs car selon le vSphere API Reference, la méthode RefreshStorageSystem l’intègre :

The RefreshStorageSystem method obtains information from the host platform and it performs a rescan of VMFS volumes. It does not look for new devices.

Bonus : la même commande pour la partie réseau, dont le refresh n’est aussi disponible qu’individuellement sur chaque host :

Get-View -ViewType HostSystem -Property ConfigManager.NetworkSystem -Filter @{"Name"="^vmvisor"}|%{Get-View $_.ConfigManager.NetworkSystem|%{$_.RefreshNetworkSystem()}}

Inutile de vous rappeler qu’il vous faudra ajuster le filtrage de la commande Get-View à votre nomenclature.

FC to iSCSI failover (revival)

NiTRo — Mon, 18 Jul 2011 00:00:20 +0000

Nous sommes tombé par hasard sur un vieux (2008) post de Scott Lowe au sujet de la possibilité d’utiliser l’initiateur logiciel iSCSI d’ESX comme failover au Fibre Channel, un peu comme “Connectivity Fault Tolerance” de CSV mais en mieux car contrairement à SMB, iSCSI est fait pour ça. Ce post n’a semble t’il pas abouti pour des raisons de fonctionnement à l’époque mais nous comptons bien le dépoussiérer un peu…

Et justement, en ce moment nous sommes en pleine découverte de la configuration FC sur Nexenta (plus particulièrement sur la configuration du mode target) qui est un Unified Storage System tout à fait capable de présenter la même LUN (un zvol pour être précis) via FC et iSCSI. Voici donc une petite démo en 4 étapes :

Coupure de vmhba1 (prefered path) > Bascule sur vmhba2
Coupure de vmhba2 > Bascule sur vmhba32 (iSCSI)
Restauration de vmhba2 > Aucun effet
Restauration de vmhba1 > bascule sur vmhba1

Tout d’abord, vous remarquerez que ça bombarde à 10k+ IOPS (alors que le serveur Nexenta est une petite VM), remettez vous, c’est l’effet ZFS

Plus sérieusement, on remarque que le failover se fait dans le sens croissant des vmhba, ce qui règle le problème du choix d’iSCSI qu’en dernier recours étant donné que l’initiateur est toujours à 32 ou plus. De plus le failover se fait dans un délais raisonnable de 10 secondes (contre 30sec pour MPIO de Windows 2008 R2 et donc d’Hyper-V) mais cette solution pose un réel problème si le chemin préféré venait a être le seul à ne PAS être restauré car le chemin iSCSI est considéré comme les autres donc restera “valable” (cf FC to iSCSI failover : MRU ranking). Mais nous pensons que cela reste néanmoins une solution à connaitre et peut être à envisager pour les plus parano du HA.

Et le plus drôle dans l’histoire c’est que vous n’avez rien à configurer !

PS: Ça doit être possible à faire avec les autres hyperviseurs évidement…

iSCSI, Openfiler & IET

NiTRo — Sun, 03 Oct 2010 22:10:23 +0000

Si vous avez utilisé l’appliance dédiée au stockage Openfiler, vous avez peut être été confronté aux nombreux problèmes liés à la cible iSCSI IET (comme beaucoup d’utilisateurs).

Le principal symptôme étant un blocage pur et simple des VM lors de fortes activités sur le datastore mais celui ci n’est pas considéré comme dead systématiquement donc d’autres VM (situées sur d’autres datastore) peuvent en pâtir sérieusement. On observe alors une serie de messages d’erreur dans le log du serveur iSCSI :

iscsi_trgt: cmnd_abort(xxxx)

Probablement saturé de demandes liées à ce problème, le support de VMware y a dédié une KB :

OpenFiler uses IET which has the following caveats:
* Does not support SCSI Reservations.
* Inquiry commands do not conform to SCSI Specification.

OpenFiler is not a certified storage solution for use within a VMware environment.

Openfiler n’est pas la seule appliance à utilisé la cible iSCSI IET, Synology et Data Robotics souffrent aussi du même problème. Fort heureusement, certains utilisateurs du forum d’Openfiler ont isolés des solutions de contournement :

esxcfg-advcfg -s 14000 /VMFS3/HBTokenTimeout (DroboElite)
Disabling Delayed Ack (VMware KB)

Nous avons personnellement testé ces paramètres avec succès sur un NAS Synology.

iSCSI target, multipath & PowerCLI

NiTRo — Mon, 05 Jul 2010 23:35:12 +0000

Suite à un problème connu (heavy I/O load) du service iscsi d’Openfiler 2.3, un des membres du forum avait trouvé une parade qui consiste à ajouter une ou plusieurs target sur la même LUN afin du simuler un multipathing et ainsi assurer une redondance primaire du service (chaque target étant géré par un process individuel, en cas de crash ESX bascule sur un “autre path”) :

Souhaitant remplacer cet Openfiler par un NexentaStor community edition (qui méritera certainement un petit retour), nous nous lançâmes dans un one-liner en powershell pour ôter les targets de chaque ESX utilisant l’unique LUN présentée. Malheureusement pour nous, la commande suivante ne traite qu’un path à la fois :

Get-VMHost|Get-VMHostHba -Type IScsi|Get-IScsiHbaTarget|Remove-IScsiHbaTarget

Nous avons donc préparé un petit script qui vous permettra d’un coup, d’un seul, de supprimer une target iSCSI multipath d’un ESX(i) et faire un rescan :

Petit détail : Sur ESX 4, pas besoin de rebooter après le remove, un rescan suffit à faire disparaître la (ou les) LUN présentée(s) par la target. Par contre, sur ESX 3.5 il faut rebooter ou masquer la LUN puis faire un rescan.

download

iSCSI (avec ESX) pour les nuls

NiTRo — Sun, 01 Mar 2009 18:33:06 +0000

Quand des pointures de chez VMware, NetApp, Dell/EqualLogic, HP/Lefthand et EMC sont mis à contribution pour analyser le fonctionnement et donner les best practices du stockage iscsi (software et hardware) sous ESX. Ca donne ça :

Pour ceux qui veulent se faire du mal, suivez le link.

Pour les autres, sachez qu’avec le software initiator il n’est pas possible de faire du load balancing vers une seule et même target iscsi . Utilisez plusieurs target si vous souhaitez exploiter tout le potentiel de vos NIC. Ou attendez ESX 4…