Nutanix CE のAOSを6.8.1から7.3.1.9へアップデート、他

ESXi上にNutanix CE 2.1(AOS6.8.1)を新規インストールしてから、LCMでアップデートを実施したメモ書き

最終的には下記の状態となった

AHV hypervisor: el8.nutanix.20230302.101026 → 10.0.0.1 → 10.0.1.6 → 10.0.1.9 →× 10.3.1.5
AOS: 6.8.1 → 6.10.1.14 / 7.0.1.15 → 7.3.1.9
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

アップデートはLCMで[Inverntory]を実施した後、[Updates]から操作する

この段階でのバージョン変移予定
AHV hypervisor: el8.nutanix.20230302.101026 → 10.0.0.1
AOS: 6.8.1 → 6.10.1.14
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

Nutanix CEではAHVを10.3以上にあげると死ぬ、という話があるけど

 Nutanix Community「Do Not Upgrade CE to AHV 10.3 and Higher

今回は「AHV hypervisor 10.0.0.1」となっているので、とりあえずは問題はないようだ

ただ、10.0.0.1以降のバージョンもあるけど、なんで10.0.0.1が選択されているんだろう?

とりあえず全部にチェックを入れて進めてみる

あれ?AOSのバージョンが「6.0.1.14」から「7.0.1.15」に書き換わってる??

この段階でのバージョン変移予定
AHV hypervisor: el8.nutanix.20230302.101026 → 10.0.0.1
AOS: 6.8.1 → 6.10.1.14 / 7.0.1.15
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

実行中・・・

おそらくCVM再起動で再ログイン後

えーと、18:58開始で、終わったの21:30すぎのはずなんですが2時間ぐらいで終わったことになってるのなぜ??

で、LCMに戻るとAHV Hypervisor 10.0.1.6へのアップデートが登場

この段階でのバージョン変移予定
AHV hypervisor: el8.nutanix.20230302.101026 → 10.0.0.1 → 10.0.1.6
AOS: 6.8.1 → 6.10.1.14 / 7.0.1.15
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

よりあたらしい10.0.1.9があるのに、10.0.1.6か、と思いつつアップデート

エラー発生 KB6945 を見ろとある

とりあえず再起動して再挑戦すると、先に進める

約30分で終了

次のアップデートは10.0.1.9

この段階でのバージョン変移予定
AHV hypervisor: el8.nutanix.20230302.101026 → 10.0.0.1 → 10.0.1.6 → 10.0.1.9
AOS: 6.8.1 → 6.10.1.14 / 7.0.1.15
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

とりあえずUpdateなしに?

もう1回Inventoryを実行してみたところアップデート登場

出たな!!問題児 10.3.x代の 10.3.1.5

10.0.1.9から 10.3.1.5の間のバージョンにすることはできない、と

AOSの方はバージョンアップしても問題ないらしいので、7.0.1.15→7.3.1.9へのアップデートを試みる

この段階でのバージョン変移予定
AHV hypervisor: el8.nutanix.20230302.101026 → 10.0.0.1 → 10.0.1.6 → 10.0.1.9 →× 10.3.1.5
AOS: 6.8.1 → 6.10.1.14 / 7.0.1.15 → 7.3.1.9
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

アップデート完了

現状
AHV hypervisor: el8.nutanix.20230302.101026 → 10.0.0.1 → 10.0.1.6 → 10.0.1.9 →× 10.3.1.5
AOS: 6.8.1 → 6.10.1.14 / 7.0.1.15 → 7.3.1.9
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1


2026/07/10 追記

実験してたら壊してしまったので再セットアップを行って、初回のバージョンアップが終わったところなんですがAHV hypervisorのバージョンに異変が・・・

AHV Hypervisor el8.nutanix.20230302.101026 → el8.nutanix.20230302.103053
AOS: 6.8.1 → 6.10.1.14
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

AHV Hypervisor el8.nutanix.20230302.101026 → el8.nutanix.20230302.103053 → el8.nutanix.20230302.103087
AOS: 6.8.1 → 6.10.1.14 → 7.0.1.15
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

AHV Hypervisor el8.nutanix.20230302.101026 → el8.nutanix.20230302.103053 → el8.nutanix.20230302.103087 → 10.0.1.9 → × 10.3.1.7
AOS: 6.8.1 → 6.10.1.14 → 7.0.1.15
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

AHV Hypervisor el8.nutanix.20230302.101026 → el8.nutanix.20230302.103053 → el8.nutanix.20230302.103087 → 10.0.1.9 → × 10.3.1.7
AOS: 6.8.1 → 6.10.1.14 → 7.0.1.15 → 7.3.1.9
FSM: 5.0.0.1 → 5.3.0.1
Foundation 5.6.1 → 5.10.4
NCC 5.0.1 → 5.3.1.1

Nutanix CE 2.1(AOS 6.8.1)をRyzen 3700UのESXi 8上で構築したときのメモ 2026/04/03版

各仮想環境で作成した仮想マシンハードウェアのlspci上での見た目の違いを確認しようと思って、Nutanix CE環境を新規で構築した

そのときに迷ったことのメモ

入手について

公式には「Nutanix Communitiy Edition」のページから遷移することになるがめんどくさい

マニュアル「Getting Started with Community Edition

リリースノートなどは、サポート契約を要求されていて読むことは出来ない

ソフトウェアのダウンロードは「Download Community Edition」から行う

2026/04/03時点でも、2024/08/19リリースの phoenix.x86_64-fnd_5.6.1_patch-aos_6.8.1_ga.iso が最新である模様

CE 2.1はAOS 6.8.1ですが、通常版は現在 AOS 7.3.0.1 である模様

インストールについて

ESXi 8の場合、「CPU ハードウェア仮想化:ハードウェア アシストによる仮想化をゲスト OS に公開」と「UEFI Secure boot 無効化」だけでいけるかと思いきや

インストーラが途中で/dev/sdbが見つからないとして失敗

NTNX日記の「ESXi で Nested Nutanix CE を構成してみる。(CE 2.1 / AOS 6.8.1 版)」に書いてある「1つめのハード ディスクは、デフォルトで作成されるものを 32GB に変更するか、いったん削除して再作成します。」がポイントだとは思いませんでした。

ゲストOSの種類はNTNX日記だと「Red Hat Enterprise Linux 8 (64 ビット)」だったのでそれで作ったのですが、open-vm-toolsを追加したところ「その他のLinux 6.x 以降(64ビット)」だ、と言われました。

初回ログイン時のユーザ情報は「Creating and Configuring a Cluster」を参照

AHVは「root」「nutanix/4u」
CVMは「nutanix」「nutanix/4u」
Web UIは「admin」「nutanix/4u」初回ログイン時にパスワード変更が求められるが制限がきつめ

Web初回ログイン時にNEXTアカウントを要求されるが、Nutanix NEXTのMy profileで表示されるユーザ名ではなく「メールアドレス」を入力する

その他メモ

LCMの動作にアクセスできるNTPサーバは必須

初期設定ではNTPサーバとして0.pool.ntp.org と 1.pool.ntp.org が登録されている

これらにアクセスできないとLCMでのInventoryが失敗する

error alert
Lcm prechecks detected 1 issue that would cause upgrade failures.

Check 'test_ntp_server_reachability' failed: Failure reason: Cannot upgrade if the configured NTP server(s): ['0.pool.ntp.org', '1.pool.ntp.org'] are not reachable. For details read article 6401

設定してあるのに上記エラーが出ているというときに、Hypervisor側でNTP動作状況確認のコマンドを実行

[root@NTNX-4bc9a811-A ~]# chronyc -n sources -v

  .-- Source mode  '^' = server, '=' = peer, '#' = local clock.
 / .- Source state '*' = current best, '+' = combined, '-' = not combined,
| /             'x' = may be in error, '~' = too variable, '?' = unusable.
||                                                 .- xxxx [ yyyy ] +/- zzzz
||      Reachability register (octal) -.           |  xxxx = adjusted offset,
||      Log2(Polling interval) --.      |          |  yyyy = measured offset,
||                                \     |          |  zzzz = estimated error.
||                                 |    |           \
MS Name/IP address         Stratum Poll Reach LastRx Last sample
===============================================================================
^? 163.5.56.11                   0   9     0     -     +0ns[   +0ns] +/-    0ns
^? 109.61.109.140                0   9     0     -     +0ns[   +0ns] +/-    0ns
^? 192.168.1.1                   0   8     0     -     +0ns[   +0ns] +/-    0ns
[root@NTNX-4bc9a811-A ~]#

hypervisor階層では問題無く動作している模様

CVMの方を確認すると、設定されていないように見える

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo chronyc -n sources -v

  .-- Source mode  '^' = server, '=' = peer, '#' = local clock.
 / .- Source state '*' = current best, '+' = combined, '-' = not combined,
| /             'x' = may be in error, '~' = too variable, '?' = unusable.
||                                                 .- xxxx [ yyyy ] +/- zzzz
||      Reachability register (octal) -.           |  xxxx = adjusted offset,
||      Log2(Polling interval) --.      |          |  yyyy = measured offset,
||                                \     |          |  zzzz = estimated error.
||                                 |    |           \
MS Name/IP address         Stratum Poll Reach LastRx Last sample
===============================================================================
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

実際設定ファイルにもない

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo cat /etc/chrony.conf
# Auto generated by ChronyConfig on Thu Jul  9 01:28:04 2026

local stratum 10
driftfile /var/lib/chrony/drift
maxdistance 16.0
makestep 1.0 3
rtcsync
allow 0.0.0.0/0
allow 127.0.0.1
allow ::/0
allow ::1
leapsectz right/UTC
cmdport 0
logdir /var/log/chrony
log measurements statistics tracking
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~

hypervisorの方の /etc/chrony.confを確認すると、こちらにはNTPサーバ設定はある

[root@NTNX-4bc9a811-A ~]# cat /etc/chrony.conf
# Use public servers from the pool.ntp.org project.
# Please consider joining the pool (http://www.pool.ntp.org/join.html).

# Record the rate at which the system clock gains/losses time.
driftfile /var/lib/chrony/drift

# Allow the system clock to be stepped in the first three updates
# if its offset is larger than 1 second.

# Enable kernel synchronization of the real-time clock (RTC).
rtcsync

# Enable hardware timestamping on all interfaces that support it.
#hwtimestamp *

# Increase the minimum number of selectable sources required to adjust
# the system clock.
#minsources 2

# Allow NTP client access from local network.
#allow 192.168.0.0/16

# Serve time even if not synchronized to a time source.
#local stratum 10

# Specify file containing keys for NTP authentication.
keyfile /etc/chrony.keys

# Get TAI-UTC offset and leap seconds from the system tz database.
leapsectz right/UTC

# Specify directory for log files.
logdir /var/log/chrony

# Select which information is logged.
#log measurements statistics tracking
port 0
cmdport 0
server 1.pool.ntp.org maxpoll 10 iburst
server 0.pool.ntp.org maxpoll 10 iburst
server 192.168.1.1 maxpoll 10 iburst
[root@NTNX-4bc9a811-A ~]#

ncli clusterコマンドでNTPサーバ一覧を取得すると、サーバ群は登録されていることになっている

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ ncli cluster get-ntp-servers

    NTP Servers               : 0.pool.ntp.org, 1.pool.ntp.org, 192.168.1.1
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

CVM内部からNTPサーバ群へのNTPポート123へのアクセスは成功する

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ nc -vz -u 192.168.1.1 123
Ncat: Version 7.92 ( https://nmap.org/ncat )
Ncat: Connected to 192.168.1.1:123.
Ncat: UDP packet sent successfully
Ncat: 1 bytes sent, 0 bytes received in 2.02 seconds.
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ nc -vz -u 163.5.56.11 123
Ncat: Version 7.92 ( https://nmap.org/ncat )
Ncat: Connected to 163.5.56.11:123.
Ncat: UDP packet sent successfully
Ncat: 1 bytes sent, 0 bytes received in 2.01 seconds.
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ nc -vz -u 109.61.109.140 123
Ncat: Version 7.92 ( https://nmap.org/ncat )
Ncat: Connected to 109.61.109.140:123.
Ncat: UDP packet sent successfully
Ncat: 1 bytes sent, 0 bytes received in 2.02 seconds.
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

とりあえずCVMの/etc/chrony.confを直接編集してみた

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo vi /etc/chrony.conf
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo cat /etc/chrony.conf
# Auto generated by ChronyConfig on Thu Jul  9 01:28:04 2026

local stratum 10
driftfile /var/lib/chrony/drift
maxdistance 16.0
makestep 1.0 3
rtcsync
allow 0.0.0.0/0
allow 127.0.0.1
allow ::/0
allow ::1
leapsectz right/UTC
cmdport 0
logdir /var/log/chrony
log measurements statistics tracking
server 192.168.1.1 maxpoll 10 iburst
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo systemctl restart chronyd
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo chronyc -n sources -v

  .-- Source mode  '^' = server, '=' = peer, '#' = local clock.
 / .- Source state '*' = current best, '+' = combined, '-' = not combined,
| /             'x' = may be in error, '~' = too variable, '?' = unusable.
||                                                 .- xxxx [ yyyy ] +/- zzzz
||      Reachability register (octal) -.           |  xxxx = adjusted offset,
||      Log2(Polling interval) --.      |          |  yyyy = measured offset,
||                                \     |          |  zzzz = estimated error.
||                                 |    |           \
MS Name/IP address         Stratum Poll Reach LastRx Last sample
===============================================================================
^? 192.168.1.1                   0   6     0     -     +0ns[   +0ns] +/-    0ns
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

とりあえずNTPを使えるようにした

CLIでcheck_ntpを実行

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ ncc health_checks network_checks check_ntp

####################################################
# TIMESTAMP : Thu Jul 09 01:52:10 2026 (UTC +0000) #
####################################################
Cluster Name: cvm
Cluster Id: 3772327690115644291
Cluster UUID: 00064e84-58d6-fd69-345a-000c29b67b83
Cluster Version: 6.8.1
NCC Version: 5.0.1-83db8d0f
    CVM ID(Svmid)            : 2
    CVM external IP          : 192.168.1.14
    Hypervisor IP            : 192.168.1.13
    Hypervisor version       : Nutanix 20230302.101026
    Node serial              : 61e640f9-e1fe-4ba3-a4cc-8c2384c95c9a
    Model                    : CommunityEdition
    Node Position            : A
    Block S/N                : 4bc9a811


Running : health_checks network_checks check_ntp
[==================================================] 100%
/health_checks/network_checks/check_ntp                                              [ WARN ]
---------------------------------------------------------------------------------------------+

Detailed information for check_ntp:
Node 192.168.1.14:
WARN: NTP servers configured on CVM (['192.168.1.1']) differ from those configured in the cluster (['0.pool.ntp.org', '1.pool.ntp.org', '192.168.1.1']).
WARN: The host (192.168.1.13) is not synchronizing with any NTP server. This might occur if none of the configured NTP servers are available or you are currently experiencing network instability determined by the high offset/high jitter.
Refer to KB 4519 (http://portal.nutanix.com/kb/4519) for details on check_ntp or Recheck with: ncc health_checks network_checks check_ntp --cvm_list=192.168.1.14
+-----------------------+
| State         | Count |
+-----------------------+
| Warning       | 1     |
| Total Plugins | 1     |
+-----------------------+
Plugin output written to /home/nutanix/data/logs/ncc-output-latest.log
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

NTPサーバ群の数が違うのでダメか

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo vi /etc/chrony.conf
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo cat /etc/chrony.conf
# Auto generated by ChronyConfig on Thu Jul  9 01:28:04 2026

local stratum 10
driftfile /var/lib/chrony/drift
maxdistance 16.0
makestep 1.0 3
rtcsync
allow 0.0.0.0/0
allow 127.0.0.1
allow ::/0
allow ::1
leapsectz right/UTC
cmdport 0
logdir /var/log/chrony
log measurements statistics tracking
server 192.168.1.1 maxpoll 10 iburst
server 1.pool.ntp.org maxpoll 10 iburst
server 0.pool.ntp.org maxpoll 10 iburst
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo systemctl restart chronyd
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo chronyc -n sources -v

  .-- Source mode  '^' = server, '=' = peer, '#' = local clock.
 / .- Source state '*' = current best, '+' = combined, '-' = not combined,
| /             'x' = may be in error, '~' = too variable, '?' = unusable.
||                                                 .- xxxx [ yyyy ] +/- zzzz
||      Reachability register (octal) -.           |  xxxx = adjusted offset,
||      Log2(Polling interval) --.      |          |  yyyy = measured offset,
||                                \     |          |  zzzz = estimated error.
||                                 |    |           \
MS Name/IP address         Stratum Poll Reach LastRx Last sample
===============================================================================
^? 192.168.1.1                   0   6     0     -     +0ns[   +0ns] +/-    0ns
^? 122.215.240.52                0   6     0     -     +0ns[   +0ns] +/-    0ns
^? 46.250.253.227                0   6     0     -     +0ns[   +0ns] +/-    0ns
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

再チェック

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ ncc health_checks network_checks check_ntp

####################################################
# TIMESTAMP : Thu Jul 09 01:57:28 2026 (UTC +0000) #
####################################################
Cluster Name: cvm
Cluster Id: 3772327690115644291
Cluster UUID: 00064e84-58d6-fd69-345a-000c29b67b83
Cluster Version: 6.8.1
NCC Version: 5.0.1-83db8d0f
    CVM ID(Svmid)            : 2
    CVM external IP          : 192.168.1.14
    Hypervisor IP            : 192.168.1.13
    Hypervisor version       : Nutanix 20230302.101026
    Node serial              : 61e640f9-e1fe-4ba3-a4cc-8c2384c95c9a
    Model                    : CommunityEdition
    Node Position            : A
    Block S/N                : 4bc9a811


Running : health_checks network_checks check_ntp
[==================================================] 100%
/health_checks/network_checks/check_ntp                                              [ ERR  ]
---------------------------------------------------------------------------------------------+

Detailed information for check_ntp:
Node 192.168.1.14:
ERR : node (service_vm_id: 2) : NTP synchronized to server which is neither in the cluster nor in the list of allowed NTP servers
WARN: The host (192.168.1.13) is not synchronizing with any NTP server. This might occur if none of the configured NTP servers are available or you are currently experiencing network instability determined by the high offset/high jitter.
Refer to KB 4519 (http://portal.nutanix.com/kb/4519) for details on check_ntp or Recheck with: ncc health_checks network_checks check_ntp --cvm_list=192.168.1.14

One or more plugins generated ERROR as there were insufficient data to validate results. Please resolve other reported issues and re-run the health checks.
+-----------------------+
| State         | Count |
+-----------------------+
| Error         | 1     |
| Total Plugins | 1     |
+-----------------------+
Plugin output written to /home/nutanix/data/logs/ncc-output-latest.log
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

KB-16363 を参照してみると、「sudo chronyc tracking」を実行して「Reference ID」のところにNTPサーバ名が出てるか確認、とある・・・ない

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo chronyc tracking
Reference ID    : 7F7F0101 ()
Stratum         : 10
Ref time (UTC)  : Thu Jul 09 02:06:19 2026
System time     : 0.000000004 seconds slow of NTP time
Last offset     : +0.000000000 seconds
RMS offset      : 0.000000000 seconds
Frequency       : 5.919 ppm slow
Residual freq   : +0.000 ppm
Skew            : 0.000 ppm
Root delay      : 0.000000000 seconds
Root dispersion : 0.000000000 seconds
Update interval : 0.0 seconds
Leap status     : Normal
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

[root@NTNX-4bc9a811-A ~]# chronyc tracking
Reference ID    : 00000000 ()
Stratum         : 0
Ref time (UTC)  : Thu Jan 01 00:00:00 1970
System time     : 0.000000000 seconds slow of NTP time
Last offset     : +0.000000000 seconds
RMS offset      : 0.000000000 seconds
Frequency       : 5.788 ppm slow
Residual freq   : +0.000 ppm
Skew            : 0.000 ppm
Root delay      : 1.000000000 seconds
Root dispersion : 1.000000000 seconds
Update interval : 0.0 seconds
Leap status     : Not synchronised
[root@NTNX-4bc9a811-A ~]#

いろいろ試行していたところ、結局のところopenwrtで提供しようとしていたNTPに問題が出ていたようなので、別のLinuxでchronydによるNTPサーバを立てて見たところ、そちらではなんとかなった

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ ncc health_checks network_checks check_ntp --cvm_list=192.168.1.14

####################################################
# TIMESTAMP : Thu Jul 09 06:07:56 2026 (UTC +0000) #
####################################################
Cluster Name: cvm
Cluster Id: 3772327690115644291
Cluster UUID: 00064e84-58d6-fd69-345a-000c29b67b83
Cluster Version: 6.8.1
NCC Version: 5.0.1-83db8d0f
    CVM ID(Svmid)            : 2
    CVM external IP          : 192.168.1.14
    Hypervisor IP            : 192.168.1.13
    Hypervisor version       : Nutanix 20230302.101026
    Node serial              : 61e640f9-e1fe-4ba3-a4cc-8c2384c95c9a
    Model                    : CommunityEdition
    Node Position            : A
    Block S/N                : 4bc9a811


Running : health_checks network_checks check_ntp
[==================================================] 100%
/health_checks/network_checks/check_ntp                                              [ WARN ]
---------------------------------------------------------------------------------------------+

Detailed information for check_ntp:
Node 192.168.1.14:
WARN: NTP servers configured on CVM (['0.pool.ntp.org', '192.168.1.1', '1.pool.ntp.org']) differ from those configured in the cluster (['0.pool.ntp.org', '1.pool.ntp.org', '192.168.1.1', '192.168.1.10']).
Refer to KB 4519 (http://portal.nutanix.com/kb/4519) for details on check_ntp or Recheck with: ncc health_checks network_checks check_ntp --cvm_list=192.168.1.14
+-----------------------+
| State         | Count |
+-----------------------+
| Warning       | 1     |
| Total Plugins | 1     |
+-----------------------+
Plugin output written to /home/nutanix/data/logs/ncc-output-latest.log
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

CVM内の/etc/chrony.confも書き換わっていた

nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$ sudo cat /etc/chrony.conf
# Auto generated by ChronyConfig on Thu Jul  9 06:11:50 2026

pool 0.pool.ntp.org iburst maxpoll 10
server 192.168.1.10 iburst maxpoll 10
pool 1.pool.ntp.org iburst maxpoll 10
server 192.168.1.1 iburst maxpoll 10
local stratum 10
driftfile /var/lib/chrony/drift
maxdistance 16.0
makestep 1.0 3
rtcsync
allow 0.0.0.0/0
allow 127.0.0.1
allow ::/0
allow ::1
leapsectz right/UTC
cmdport 0
logdir /var/log/chrony
log measurements statistics tracking
nutanix@NTNX-4bc9a811-A-CVM:192.168.1.14:~$

仮想サーバを構築するための基盤メモ 2026/07/06版

VMware/vSphereがあんなことになってしまったので問い合わせが多いのでメモ

2024/03/28 初版作成
2024/12/13 バージョン情報などをアップデート
2026/07/06 ProxmoxVE、oVirt 4.5.7、XenServer9、を更新

VMware vSpere

VMware vSphere / ESXi はBrocadeに買収されたことで、アレな感じになって迷走中

Microsoft Hyper-V

Windows Serverにも含まれるHyper-V

Hyper-V Sevrer 2019という仮想基盤だけのやつは無料製品としてあるんだけど、2022版が出ていないまま、Windows Server 2025の時代になり、単品のHyper-V Serverはなくなった模様。

物理サーバ間を稼働中の仮想マシンを移動させることは、Windows Serverのフェイルオーバークラスタリング(MSFC/WSFC)、System Center Virtual Machine Managerを利用することで実現する。(ライブマイグレーションの概要)

Nutanix

VMware vSAN/HCI環境を似たような構成で移行しようとすると、Nutanixになる。(というか、NutanixをまねしたのがvSAN)

vSAN = AOS Storage
ESXi hypervisor=Nutanix Acropolis Hypervisor(AHV)
vCenter Server=Prism

単体AHVに標準でPrism Elementも含まれてて、これだけでもクラスタを組める

Prism Centralは、Prism Elementで作ったクラスタを複数まとめて管理したり、また、仮想マシンをSecure boot対応にする場合の暗号化キー管理などを行える。

RHEV/RHV → RedHat OpenShift Virtualization

RedHat Virtualization / RedHat Enterprise Virtualzation、RHEVというのがあったんだけど、これはRHEV4.4で終了したプロダクトとなる。

RHEV4.4はRHEL 8.xベースの上に構築する。

後継はRedHat OpenShift Virtualizationとなる。

旧ドキュメント: Product Documentation for Red Hat Virtualization 4.4

ドキュメント: OpenShift Container PlatformAbout OpenShift Virtualization

Proxmox VE

Proxmox Virtual Environment は最初はRHEL or Debianベースでコンテナを動かすやつだったものが、時代の流れでDebianベースのKVM/qemu仮想マシンとlxcコンテナを動かすやつに変わっていったもの

長く続くプロダクトなので、一通り使える Web GUIが備わっているし、複数物理サーバの一括管理物理サーバ間の仮想マシン移動(Online Migration)HA機能があるが、Webでは設定できずコマンド実行が必要な機能は多い。

debian 13debian 12ベースの上に構築されている。

一般向けドキュメント: Proxmox VE Documentation Index
旧来からの資料サイト: PVE wiki

複数のProxmox VEクラスタを管理するためのProxmox Datacenter Managerが2024年12月から開発されていたが2025年12月にv1.0、2026年5月にv1.1が公開されている。

Oracle OLVM

Oracle VM Server for x86 というのがあったんだけどOracle VM 3で終了になった。

後継として、Oracle LinuxのKVMベースで構築して、管理UIとして Oracle Linux Virtualization Manager を提供する、という形に変わっている。

oVirtを利用していて、そもそもRedHatVirtualization 4.xのOracle版がOLVM 4.xとなる

RedHatが4.4で提供をやめたので今後どうなるかなぁ、と思っていたら、OLVMの方は4.5を出してOracle Linux 9.x環境でも構築できるようになったので一安心

Oracle Linux 8.x, 9.x ベースで構築

oVrit 4.5.5ベースのバージョンが出ているが10.x向けバージョンについては音沙汰がない?

oVirt

RHV/RHEV/OLVMで利用している元の技術 oVirt

RHVは4.4.xで止まっているが、oVirtの方は4.5.xが出ていて、Oracleから2024/7にOLVMも4.5が出た。

oVirt 4.5.4からはRHEL9.xベースで構築することが可能になった。

2026/1/13リリースの oVirt 4.5.7からはRHEL10.xベースの構築も可能になった

ドキュメント: oVirt documentation

Citrix Hypervisor(XenServer)

Linux KVMより歴史が古い仮想化技術 Xen を使用したもの。

2024/03/25にXenServer 8が出たばかり

2-26/07/02にXenServer 9が出た

vCenterに相当するものはXenCenterとなっている。

XCP-ng / Vates

XenServerのオープンソース版がXCP-ng だったんだけど、なんかいつの間にかXCP-ngの商用サポート版として Vates なるものが登場してる

Vatesの方にはHCIプロダクトとして、XOSTORなるものもあるようだ

サポートと価格について

Sangfor HCI

構成がよくわからんけど Sangfor HCI というのがあるらしい

ZStack Cloud

中国で開発されているZStack

インストール用ISO提供あり

中国産なのでopenEulerベースかと思ったら、CentOS 7ベースのh76c,h79cとRocky Linux 8ベースのh84r だった。また、ISOがリリースされているのはx86_64向けのみだけど、GUI的にはARM, 龍芯系(mips64el,loongarch)向けも想定されてる模様。

2026/07/06時点でもh84rが最新のようで、Rocky Linux 9ベースか10ベースへの移行は進んでいなさそう

ドキュメント: ZStack Cloud Documentation
github: https://github.com/zstackio/zstack

H3C CAS/UIS

中国H3Cが開発しているLinux KVMベースのH3C CAS 仮想化プラットフォーム

日本の代理店経由で購入することができるが、基本的にH3Cブランドのサーバとセットで買うことになる

HCIモデルはH3C UISという模様

参照先

vinchin How to Migrate RHV/RHEV VMs to Other Hosts?
この記事にRHEVからの乗り換え先として「VMware, Citrix Hypervisor/XenServer, XCP-ng, Oracle OLVM, oVirt, Sangfor HCI, OpenStack, ZStack, Huawei FusionCompute, and H3C CAS/UIS」と記載されていて、知らないのがあるな、というのが記事を書くきっかけ

Storware vProtect documentation Virtual Machines
バックアップソフトのマニュアルなんだけど、対応してる各仮想環境でどういう風にバックアップを取るのかという構成図がある。

Nutanix CE 5.18でFile Serverを有効にしようとしたけど1TBなかったので失敗?

Nutanix Community Edition 5.18では、Nutanix File Server機能が利用できるようになった。

まず[設定]-[ソフトウェアアップグレード]-[File Server]を開く

今回は、この時点での最新版 3.7.3を選択し、ダウンロード開始

ダウンロードが終わったら「Continue」

すでに「ファイルサーバー」が起動していました。

[+File Server]をクリックしてファイルサーバーを追加

ファイルサーバについての設定を入力

0.1TBはエラー

用意された物理ストレージサイズより大きい1TBは警告がでるけど通った。

「クライアントネットワーク」設定

「ストレージネットワーク」設定

「ディレクトリサービス」設定

NFSは「未管理」で設定

「サマリー」の確認

[Create]ボタンを押して作成

作成中…

失敗した・・・

ディスクを1TB以上用意しておかないと設定できないっぽいな

ESXi上のNutanix CE AHVをアップデートした

ESXi上にNutanix CE AHVをインストールした」でインストールしたNutanix CE環境をアップデートしてみた。

2021/03/17追記: CE 5.11からCE 5.18へのアップデートを行い、その時のキャプチャも追加した

トラブルポイントのまとめ

なんとなく手順を進めていったらいくつかキツイ問題が発生してアップデートプロセスが止まったりした。今回発生した問題は下記3点

・AHVのrootパーテーション容量が足らない
・AHV内の標準仮想マシン設定にあるPC Typeが初期値に戻るので既存の仮想マシンが起動しない
・AHV内のCVM仮想マシン設定にあるPC Typeがpc-i440fx-rhel7.3.0になり起動しない
・CVM仮想マシンのメモリが12GBだとサービスが起動しない

なお、調査の際に参考になったページ「Nutanix CE: Cannot Start VM」「Guest VM Running in Nested Nutanix CE on VMware vSphere Won’t Boot

CVM仮想マシン上のサービスが起動しないあたりは「PRISM SERVICES HAVE NOT STARTED YET. PLEASE TRY AGAIN LATER

実際に実施した手順はもっといろいろあったが、完了後に、たぶんこの順序で実施すれば大丈夫だったんだろう、というものを下記に手順として残す。

手順1 アップデータ入手

Download Community Edition (CE-2020.09.16/CE 5.18)」もしくは「Download Nutanix CE, Docs, and Guides (CE-2019.11.22/CE 5.11.1.2)」から下記のファイルをダウンロード。

・「Metadata for AOS, AHV upgrades and PC deployment」のce-2020.09.16-metadata.zip か ce-2019.11.22-metadata.zipを展開してjsonファイルを取りだしておく
・「AOS Upgrade」(ce-pc-upgrade-2020.09.16.tar.gz か ce-2019.11.22-upgrade.tar.gzのままで使う)
・「AHV Upgrade」(CE 5.18ではLCMからの操作に変更。CE5.11.1.2は host-bundle-el7.nutanix.20191030.415.tar.gz のままで使う)

手順2 CVM仮想マシンの自動起動を止める

この後、何回かNutanix CE仮想マシンを再起動する。その際にCVM仮想マシンの起動が完了するのを待っていると時間がかかるので、自動起動を止める。

「virsh list –all」でCVM仮想マシンのIDを確認して、「virsh autostart <ID> –disable」と実行すると自動起動が止まる。

手順3 Nutanix CE仮想マシンのディスク拡大

AHVのrootパーテーションの空き容量が足らない為アップデートが失敗することがある。

その場合はvSphere側でNutanix CE仮想マシンのディスクサイズを拡大する。

たぶん、ハードディスク1は10GB未満だと失敗するので12GB程度にする。

標準の「ハードディスク1」が約7GBとなっている。

これを、12GBに増やす。

変更後、Nutanix CE仮想マシンを再起動する。

再起動後、vSphereのコンソールを開き「root」ユーザでログインする。デフォルトパスワードは「nutanix/4u」

ログイン後、現在のディスク使用状況と、システムディスクである/dev/sdaのパーテーション構成を確認する。

「df -h」と「fdisk -l /dev/sda」を実行する。

パーテーション変更は「fdisk /dev/sda」を実行して行う。

既存のパーテーションを「d」で消して、新しいパーテーションを作成しなおす、という形になる。

bootフラグのセットも忘れずに

最後は「w」で書き込みを実行する。

再起動しないと新しいパーテーションで認識してくれないので、再度Nutanix CE仮想マシンを再起動する。

再起動後、再度「fdisk -l /dev/sda」と「df -h」を実行してみると、fdiskの方は新しいディスクサイズで認識しているが、rootパーテーションはまだ古い容量のままとなっている。

「resize2fs /dev/sda1」を実行してファイルシステムの拡張を行い、新しいディスク容量が反映される。

手順4 CVM仮想マシンの自動起動を戻す

AHV内のCVM仮想マシンの自動起動設定を戻し、自動起動するようにする。

「virsh list –all」でCVM仮想マシンのNameを確認して、「virsh autostart <Name>」を実行する。(起動していない場合はIdが割り当てられていないので、Nameで指定する必要がある)

自動自動設定ができたかどうかは「/etc/libvirt/qemu/autostart/」にXMLファイルがあるかで確認する。

「virsh start <Name>」でCVM仮想マシンを起動するか、rebootでNutanix CE仮想マシンを再起動する。

手順5 AOSアップデート

Nutanixにログインして「設定」の「ソフトウェアアップグレード」にある「AOS」を開く。

「AOS base softwareバイナリをアップロード」のリンクをクリック

AOS BASE SOFTWAREメタデータファイルは「ce-aos-upgrade-2020.09.16-metadata.json」か「ce-2019.11.22-upgrade-metadata.json」
AOS BASE SOFTWAREバイナリファイルは「ce-aos-upgrade-2020.09.16.tar」か「ce-2019.11.22-upgrade.tar.gz」
を指定する。

「今すぐアップロード」をクリックする。

上記の様になったらアップロード成功。

「Upgrade Now」を選択してアップデートを開始する。

アップグレードが進んでいきます。

ちなみに「Nothing To Do?」は下記の2048ゲームが表示されます。

途中、CVM仮想マシンの再起動などがあり、完了します。

手順6 Hypervisorのアップデート(CE 5.18の場合)

CE5.18では「LCM」にHypervisorのアップデートが移動している。

「LCM」の「Inventory」タブを開く

「Perform Inventory」を選択し、実行

Inventory終了後、「Updates」の「Software」に移動すると、アップデート可能なソフトウェア一覧が表示されている。

チェックをいれて「Update」ボタンを押す

適用確認で「Apply ? Updates」をクリック

アップデートが適用されるのを待つ

途中でhypervisorの再起動が2回実行されるので「Unable to reach server. Please check your network connection」という表示がしばらく出続けるが無視しておく

…とはいえ、30分以上経過しても表示上は↑の38%から変化しないのは不安なので、念のためログインしなおしてみても表示は変わらずでした。

45分ぐらい経過したところで、ようやく64%に進みました。

約1時間で終了

手順6 Hypervisorのアップデート(CE 5.11の場合)

CE 5.11ではNutanixの「設定」の「ソフトウェアアップグレード」にある「Hypervisor」を選択。

「upload a Hypervisor Binary」をクリックし、下記の選択をして「今すぐアップロード」する。

HYPERVISOR メタデータファイル「host-bundle-el7.nutanix.20191030.415-metadata.json」
HYPERVISOR バイナリファイル「host-bundle-el7.nutanix.20191030.415.tar.gz」

続いて、「Upgrade Now」を実施する。

で、アップグレードが進んでいきます。

たぶん、下記の様な「71%」から30分以上待っても進まないと思います。

いまの状態はHypervisorはアップデートできたものの、その上のCVM仮想マシンが起動していない状態となります。

手順7 AHV上の仮想マシンの標準設定の修正

vSphere上でNutanix CE 5.11を稼働させた場合、標準設定の状態ではNutanix上で作成した仮想マシンが起動しませんでした。

CE5.11で起動させるためには、「/var/cache/libvirt/qemu/capabilities/3c76bc41d59c0c7314b1ae8e63f4f765d2cf16abaeea081b3ca1f5d8732f7bb1.xml」 のalias=’pc’をpc-i440fx-rhel7.2.0の行に付け直します操作が必要でした。

該当ファイルは下記の様な形になっていて、「alias=’pc’」がpc-i440fx-rhel7.3.0の行についています。

これを「pc-i440fx-rhel7.2.0」の行に「alias=’pc’」設定を移動させます。

手順としては、pc-i440fx-rhel7.3.0の行をpc-i440fx-rhel7.2.0書き換えて、既存のpc-i440fx-rhel7.2.0設定を削除するのが簡単でしょう。

画像

CE5.18の場合は、pc-i440fx-rhel7.6.0 にalias=’pc’ がありました。CE 5.11を稼働させた時のESXiサーバとハードウェアが異なっているせいかどうかわかりませんでしたが、pc-i440fx-rhel7.6.0設定のままで動いたので、そのままにしています。

もし、動かない場合は、pc-i440fx-rhel7.2.0 に移動挿せてみてください。

手順8 AHV上のCVM仮想マシン設定の修正

CE5.11へのアップデート時は、CVM仮想マシンの仮想マシンタイプ設定が「pc-i440fx-rhel7.3.0」に設定されていました。(CE5.18へのアップデート時は、pc-i440fx-rhel7.2.0設定のままでした)

設定の確認は「virsh dumpxml <name>|less」で行います。
設定変更は「virsh edit <Name>」となります。

viコマンドでxmlファイルが開かれますので、「pc-i440fx-rhel7.3.0」を「pc-i440fx-rhel7.2.0」に書き換えて保存します。

また、「<memory unit=’KiB’>~</memory>」のメモリ容量を増加させます。Nutanix CE標準だと最低28GBとなっているようです。

参考としてGUIから設定できるCVMに割り当てられる容量は下記の様になっています。

これ以外の値に変更したい場合は、直接xmlを書き換えます。今回は約26GBで設定しています。

この後、CVM仮想マシンを再起動します

面倒ならNutanix CE仮想マシンごとrebootします。

手順9 終了