今更ながらESXi5.5を6.0にアップデートしました。
※これは個人用のサーバのアップデートについて記載した記事です。

結構はまりましたので、一応どのような流れでアップデート出来たのか記載したいと思います。

クライアント:Windows10 ver. 1803
Server側NIC:Realtek 8111e

1. PowerShellでPowerCLIをインストール
2. ESXi-Customizer-PS-v2.6.0.ps1をインストール
3. 以下コマンドにてzipファイルを作成する。
./ESXi-Customizer-PS-v2.6.0.ps1 -ozip -v60 -vft -load sata-xahci,net55-r8168
4. 以下コマンドにてisoファイルを作成する。
./ESXi-Customizer-PS-v2.6.0.ps1 -izip ESXi-6.0.0-20181004001-standard-customized.zip
5. unetbootin-windows-661.exeを使用して、USBに4で作成したisoファイルを書き込む。
6. USBbootしてアップデート。


3で普通にiso生成しようとすると [WinError 10054] のエラーが出ました。
このエラー自体は結構有名っぽいです。色々なブログにTLS1.2有効化すればOKと書かれていました。。。が自分の環境ではいくら有効にしようがレジストリ書き換えようが無理でした。
まず、zip生成は問題なくできそうなので、必要ドライバを指定してカスタムインストーラ(zip)を生成します。
その次に、izipで先ほどのzipを指定してやればiso生成できました。