ECCエラー多発してるエラーが取れたのでメモ


CentOS6サーバに、2GBメモリが2枚刺さってる。
久々に起動したら、ECC関連のエラーメッセージを吐きまくってるのでメモ書き。

Feb  8 16:42:15 cent6server kernel: EDAC MC0: CE page 0x1e23, offset 0x980, grain 128, syndrome 0x64, row 0, channel 1, label "": i3000 CE
Feb  8 16:42:16 cent6server kernel: EDAC MC0: CE page 0x1e23, offset 0x980, grain 128, syndrome 0x64, row 0, channel 1, label "": i3000 CE
Feb  8 16:42:17 cent6server kernel: EDAC MC0: CE page 0x1e23, offset 0x980, grain 128, syndrome 0x64, row 0, channel 1, label "": i3000 CE
Feb  8 16:42:18 cent6server kernel: EDAC MC0: CE page 0x1e23, offset 0x980, grain 128, syndrome 0x64, row 0, channel 1, label "": i3000 CE
Feb  8 16:42:19 cent6server kernel: EDAC MC0: CE page 0x1e23, offset 0x980, grain 128, syndrome 0x64, row 0, channel 1, label "": i3000 CE
Feb  8 16:42:20 cent6server kernel: EDAC MC0: CE page 0x1e23, offset 0x980, grain 128, syndrome 0x64, row 0, channel 1, label "": i3000 CE
Feb  8 16:42:21 cent6server kernel: EDAC MC0: CE page 0x1e23, offset 0x980, grain 128, syndrome 0x64, row 0, channel 1, label "": i3000 CE
Feb  8 16:42:22 cent6server kernel: EDAC MC0: CE page 0x1e23, offset 0x980, grain 128, syndrome 0x64, row 0, channel 1, label "": i3000 CE
Feb  8 16:42:23 cent6server kernel: EDAC MC0: CE page 0xfb802, offset 0x200, grain 128, syndrome 0x64, row 1, channel 1, label "": i3000 CE
Feb  8 16:42:24 cent6server kernel: EDAC MC0: CE page 0xfab1b, offset 0xa00, grain 128, syndrome 0x64, row 1, channel 1, label "": i3000 CE
Feb  8 16:42:25 cent6server kernel: EDAC MC0: CE page 0xfb8ac, offset 0x780, grain 128, syndrome 0x64, row 1, channel 1, label "": i3000 CE

ちなみに、読み込まれているドライバは以下でした。

# lsmod|grep edac
i3000_edac              3471  0
edac_core              46581  3 i3000_edac
#

ちなみに「rmmod edac」を実行すると、エラーログを出力させなくすることもできます。
(もちろん、エラーがなくなるわけではない)

Proxmox上のOpenVZ仮想マシンをCLIでlive motion


Proxmox 2.xでは、共有ディスク無しでのホストサーバ移行(Live Motion/vMotion)みたいなことができる。
Web GUIでの方法はわかったが、CLIでのやり方についてのドキュメントが見つけにくく難航した。

使用するコマンド「pvectl」

ただし、このコマンドは、自サーバ上のみのコントロールを担当する。

「pvectl list」で、サーバ上にある仮想マシンリストを表示

root@pve1:~# pvectl list
Use of uninitialized value in printf at /usr/bin/pvectl line 46.
      VMID NAME                 STATUS     MEM(MB)    DISK(GB)
       101 server1.osakana.net  running    1024       8.00
       102 server2.osakana.net  running    1280       30.00
#

他にもサーバがある場合は以下の様な形で他サーバに対してssh経由でコマンドを発行して状態を取得する。

root@pve1:~# ssh root@pve2 pvectl list
Use of uninitialized value in printf at /usr/bin/pvectl line 46.
      VMID NAME                 STATUS     MEM(MB)    DISK(GB)
       103 server3.osakana.net  stopped    1024       10.00
       104 server4.osakana.net  stopped    1024       8.00
# 

移動させる時は「pvectl migrate VMID サーバ名 -online」

root@ns5:~# pvectl migrate 101 pve2 -online
Jan 31 15:56:51 starting migration of CT 101 to node 'pve2' (192.168.1.102)
Jan 31 15:56:51 container is running - using online migration
Jan 31 15:56:51 starting rsync phase 1
Jan 31 15:56:51 # /usr/bin/rsync -aHAX --delete --numeric-ids --sparse /var/lib/vz/private/101 root@192.168.1.102:/var/lib/vz/private
Jan 31 15:57:31 start live migration - suspending container
Jan 31 15:57:31 dump container state
Jan 31 15:57:32 copy dump file to target node
Jan 31 15:57:32 starting rsync (2nd pass)
Jan 31 15:57:32 # /usr/bin/rsync -aHAX --delete --numeric-ids /var/lib/vz/private/101 root@192.168.1.102:/var/lib/vz/private
Jan 31 15:57:35 dump 2nd level quota
Jan 31 15:57:35 copy 2nd level quota to target node
Jan 31 15:57:36 initialize container on remote node 'pve2'
Jan 31 15:57:36 initializing remote quota
Jan 31 15:57:37 turn on remote quota
Jan 31 15:57:38 load 2nd level quota
Jan 31 15:57:38 starting container on remote node 'pve2'
Jan 31 15:57:38 restore container state
Jan 31 15:57:39 removing container files on local node
Jan 31 15:57:40 start final cleanup
Jan 31 15:57:40 migration finished successfuly (duration 00:00:49)
root@pve1:~ #

で、うちの環境だと、CPUがpve1はIntel, pve2がAMDなので、移行後の起動に失敗する。
なので、別途、起動させる必要がある。

root@pve1:~# ssh root@pve2 pvectl start 101
Starting container ...
Container is mounted
Adding IP address(es): 192.168.1.201
Setting CPU units: 1000
Setting CPUs: 1
Container start in progress...
root@pve1:~#

これで、以下のような感じで移行が完了する。

root@pve1:~# pvectl list
Use of uninitialized value in printf at /usr/bin/pvectl line 46.
      VMID NAME                 STATUS     MEM(MB)    DISK(GB)
       102 server2.osakana.net  running    1280       30.00
root@pve1:~# ssh root@pve2 pvectl list
Use of uninitialized value in printf at /usr/bin/pvectl line 46.
      VMID NAME                 STATUS     MEM(MB)    DISK(GB)
       101 server1.osakana.net  running    1024       8.00
       103 server3.osakana.net  stopped    1024       10.00
       104 server4.osakana.net  stopped    1024       8.00
# 

さて、この処理を自動化すると・・・

#!/usr/bin/bash

SERVER=pve2
for vid in `pvectl list 2>&1 |grep running | awk '{ print $1 }'`
do
  echo === $vid ===
  echo pvectl migrate $vid $SERVER -online
  pvectl migrate $vid $SERVER -online
  ssh root@$SERVER pvectl list 2>&1 |grep  stop | grep $vid
  echo ssh root@$SERVER pvectl start $vid
  ssh root@$SERVER pvectl start $vid
done

ほんとは、移行後に起動しているか確認した上で、pvectl startを実行させるべきなんだろうけど、起動状態でpvectl startを実行しても影響がないので、無視している。

USB温度計 TEMPerV1.2は計測ミスが多い


(注意: TEMPer V1.2のドライバは→「ここ」にあります)
USB温度計TEMPer V1.2で温度取得をおこなっていると、以下の様な形で、エラーとなることがある。

 $ ./pcsensor
USB interrupt read: Resource temporarily unavailable
Fatal error> USB read failed
$

しかも、これが発生すると該当デバイスは一度offlineとなり、別のデバイスとして認識されてしまいます。

どれくらいの確率で発生するのかを、スクリプト組んで確かめてみました。

作成したスクリプト

#!/bin/bash

SUCCESS=0
FAILED=0
I=0
while [ $I -lt 1000 ]
do
        echo -n "$I "
        ./pcsensor > /dev/null 2>&1
        if [ $? -eq 0 ];
        then
                SUCCESS=`expr $SUCCESS + 1`
        else
                FAILED=`expr $FAILED + 1`
        fi
        sleep 5
        I=`expr $I + 1`
done
echo ""
echo "successed: $SUCCESS"
echo "failed:    $FAILED"

pcsensorを実行して5秒待つ、というのを繰り返すという、まぁ、素直なものですね。

USB温度計を2つつなげて、1000回の測定を開始!

$ ./test.sh
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 
<略>
7 988 989 990 991 992 993 994 995 996 997 998 999
successed: 879
failed:    121
$

2個のうちどちらか片方こけただけでも、両方アウトになるので、失敗確率が結構いってしまいます。

また、エラーが発生すると、offlineになるので、ログには以下の様な記録がずらずらっと・・・

# tail /var/log/messages
Jan 17 15:02:27 temperserver kernel: usb 2-2: configuration #1 chosen from 1 choice
Jan 17 15:02:27 temperserver kernel: input: RDing TEMPerV1.2 as /class/input/input174
Jan 17 15:02:27 temperserver kernel: input,hidraw0: USB HID v1.10 Keyboard [RDing TEMPerV1.2] on usb-0000:00:1d.0-2
Jan 17 15:02:27 temperserver kernel: hiddev96,hidraw96: USB HID v1.10 Device [RDing TEMPerV1.2] on usb-0000:00:1d.0-2
Jan 17 15:03:02 temperserver kernel: usb 3-1: USB disconnect, address 90
Jan 17 15:03:03 temperserver kernel: usb 3-1: new low speed USB device using uhci_hcd and address 91
Jan 17 15:03:03 temperserver kernel: usb 3-1: configuration #1 chosen from 1 choice
Jan 17 15:03:03 temperserver kernel: input: RDing TEMPerV1.2 as /class/input/input175
Jan 17 15:03:03 temperserver kernel: input,hidraw0: USB HID v1.10 Keyboard [RDing TEMPerV1.2] on usb-0000:00:1d.1-1
Jan 17 15:03:03 temperserver kernel: hiddev96,hidraw96: USB HID v1.10 Device [RDing TEMPerV1.2] on usb-0000:00:1d.1-1

そして、lsusbを実行すると、以下のように、デバイス番号がすごいことに・・・

# lsusb
Protocol spec without prior Class and Subclass spec at line 4297
Bus 003 Device 091: ID 0c45:7401 Microdia
Bus 003 Device 001: ID 0000:0000
Bus 002 Device 084: ID 0c45:7401 Microdia
Bus 002 Device 001: ID 0000:0000
Bus 001 Device 001: ID 0000:0000

(1000回スクリプト実行前にも、テストとかをおこなっているので・・・)

運用に当たっては、いろいろ配慮が必要なようです。

LinuxサーバにUSB温度計を2つつけてみた


dealextremeから、USB温度計が届いたので、Linuxサーバに複数取り付けてみた。
(ちなみに、上海問屋では欠品ですが、Dealextremeの公式ショップで買うと送料込みで$9.2で、3週間~4週間で到着します。)

いままでは、Relavk Labsの「TEMPer Temperature Sensor Linux Driver」のCrayさんコメントにある「pcsensor-0.0.1.tgz」を使っていましたが、これは1つのみの対応でした。
(ちなみに、Crayさんが「pcsensor-1.0.1.tgz」にアップデートしたとコメントしていましたが、相変わらず1個のみの対応でした。http://www.isp-sl.com/pcsensor-1.0.1.tgz

複数のUSB温度計をつけた場合に対応しているものを探したところ、同じコメント欄に発見しました。
Momtchil Momtchevさんが「pcsensor-1.0.0-multi.tgz」を作ったとコメントしています。
コメント内のリンク先は消えていましたが、「A modified TemperUSB driver that supports multiple devices」にて配布されていました。

(2013/01/24追記: デバイス指定ができる改良版をpcsensor-1.0.2 for TEMPerV1.2 with multi device supportにて公開中)

 $  ./pcsensor
2013/01/16 18:30:12 Temperature 77.45F 25.25C
2013/01/16 18:30:12 Temperature 91.18F 32.88C
$

が・・・デバイスの指定はできないようです。

詳細オプションをつけるとこんな感じです。

$ ./pcsensor -v
usb_set_debug: Setting debugging level to 255 (on)
usb_os_init: Found USB VFS at /dev/bus/usb
usb_os_find_busses: Found 003
usb_os_find_busses: Found 002
usb_os_find_busses: Found 001
usb_os_find_devices: Found 004 on 003
skipped 1 class/vendor specific interface descriptors
skipped 1 class/vendor specific interface descriptors
usb_os_find_devices: Found 001 on 003
error obtaining child information: Inappropriate ioctl for device
usb_os_find_devices: Found 003 on 002
skipped 1 class/vendor specific interface descriptors
skipped 1 class/vendor specific interface descriptors
usb_os_find_devices: Found 001 on 002
error obtaining child information: Inappropriate ioctl for device
usb_os_find_devices: Found 001 on 001
lvr_winusb with Vendor Id: c45 and Product Id: 7401 found.
lvr_winusb with Vendor Id: c45 and Product Id: 7401 found.
USB error: could not detach kernel driver from interface 0: No data available
Device already detached
USB error: could not detach kernel driver from interface 1: No data available
Device already detached
USB error: could not detach kernel driver from interface 0: No data available
Device already detached
USB error: could not detach kernel driver from interface 1: No data available
Device already detached
01 01 6f 20 64 61 74 61
01 80 33 01 00 00 00 00
80 02 19 40 65 72 46 31
01 82 77 01 00 00 00 00
82 01 00 40 65 72 46 31
01 86 ff 01 00 00 00 00
54 45 4d 50 65 72 46 31
2e 32 4d 50 65 72 46 31
01 01 4a d6 ff 7f 00 00
01 80 33 01 00 00 00 00
80 02 20 e0 65 72 46 31
01 82 77 01 00 00 00 00
82 01 00 e0 65 72 46 31
01 86 ff 01 00 00 00 00
54 45 4d 50 65 72 46 31
2e 32 4d 50 65 72 46 31
01 80 33 01 00 00 00 00
80 02 19 40 65 72 46 31
2013/01/16 18:30:49 Temperature 77.45F 25.25C
01 80 33 01 00 00 00 00
80 02 20 e0 65 72 46 31
2013/01/16 18:30:49 Temperature 91.18F 32.88C
$

USB温度計で測定してみたメモ


Linux上でpcsensorコマンド(http://www.isp-sl.com/pcsensor-0.0.1.tgz)を使って、何度か手動計測をおこなった。
その結果、後述のような感じで出力が得られた。

気になった点
・0.12度~0.13度ぐらいのきざみ幅で上昇している?
・時々取得に失敗している

取得に失敗する点は、まぁ、仕方ない、ということにして、刻み幅の件について、ソースファイルを確認してみた。

・温度取得関連部分

*tempC = temperature * (125.0 / 32000.0);

摂氏に変換する際に、125/32000と実行しているので、刻み幅の0.12~0.13というのは、そこらへんから来ているということでよさそう。

華氏表示については、摂氏で取得した値からコンバートしているだけだった。

(9.0 / 5.0 * tempc + 32.0)

以下は、取得した結果。

# ./pcsensor 
2012/12/26 14:37:52 Temperature 74.75F 23.75C
# ./pcsensor 
2012/12/26 14:37:53 Temperature 74.75F 23.75C
# ./pcsensor 
2012/12/27 14:16:06 Temperature 74.30F 23.50C
# ./pcsensor 
2012/12/27 14:16:08 Temperature 74.30F 23.50C
# ./pcsensor 
2012/12/27 14:16:19 Temperature 74.75F 23.75C
# ./pcsensor 
2012/12/27 14:16:21 Temperature 74.75F 23.75C
# ./pcsensor 
2012/12/27 14:16:24 Temperature 74.75F 23.75C
# ./pcsensor 
USB interrupt read: Resource temporarily unavailable
Fatal error> USB read failed
# ./pcsensor 
2012/12/27 14:16:28 Temperature 75.88F 24.38C
# ./pcsensor 
2012/12/27 14:16:30 Temperature 76.33F 24.62C
# ./pcsensor 
2012/12/27 14:16:32 Temperature 76.78F 24.88C
# ./pcsensor 
2012/12/27 14:16:34 Temperature 77.22F 25.12C
# ./pcsensor 
2012/12/27 14:16:36 Temperature 77.90F 25.50C
# ./pcsensor 
2012/12/27 14:16:39 Temperature 78.58F 25.88C
# ./pcsensor 
2012/12/27 14:16:44 Temperature 79.70F 26.50C
# ./pcsensor 
2012/12/27 14:16:50 Temperature 80.60F 27.00C
# ./pcsensor 
2012/12/27 14:16:52 Temperature 81.05F 27.25C
# ./pcsensor 
2012/12/27 14:16:58 Temperature 81.95F 27.75C
# ./pcsensor 
2012/12/27 14:17:01 Temperature 82.18F 27.88C
# ./pcsensor 
2012/12/27 14:17:03 Temperature 82.62F 28.12C
# ./pcsensor 
2012/12/27 14:17:09 Temperature 83.08F 28.38C
# ./pcsensor 
2012/12/27 14:17:10 Temperature 83.30F 28.50C
# ./pcsensor 
2012/12/27 14:17:12 Temperature 83.53F 28.62C
# ./pcsensor 
USB interrupt read: Resource temporarily unavailable
Fatal error> USB read failed
# ./pcsensor 
Couldn't find the USB device, Exiting
# ./pcsensor 
2012/12/27 14:17:20 Temperature 84.20F 29.00C
# ./pcsensor 
2012/12/27 14:17:23 Temperature 84.43F 29.12C
# ./pcsensor 
2012/12/27 14:17:25 Temperature 84.65F 29.25C
# ./pcsensor 
2012/12/27 14:17:29 Temperature 84.88F 29.38C
# ./pcsensor 
2012/12/27 14:17:30 Temperature 85.10F 29.50C
# ./pcsensor 
2012/12/27 14:17:36 Temperature 85.33F 29.62C
# ./pcsensor 
2012/12/27 14:17:38 Temperature 85.55F 29.75C
# ./pcsensor 
2012/12/27 14:17:47 Temperature 86.00F 30.00C
# ./pcsensor 
2012/12/27 14:17:49 Temperature 86.22F 30.12C
# ./pcsensor 
2012/12/27 14:17:50 Temperature 86.22F 30.12C
# ./pcsensor 
2012/12/27 14:17:52 Temperature 86.45F 30.25C
# ./pcsensor 
2012/12/27 14:17:54 Temperature 86.45F 30.25C
# ./pcsensor 
2012/12/27 14:17:56 Temperature 86.45F 30.25C
# ./pcsensor 
2012/12/27 14:17:58 Temperature 86.68F 30.38C
# ./pcsensor 
2012/12/27 14:18:03 Temperature 86.90F 30.50C
# ./pcsensor 
USB interrupt read: Resource temporarily unavailable
Fatal error> USB read failed
# ./pcsensor 
2012/12/27 14:18:07 Temperature 87.12F 30.62C
# ./pcsensor 
2012/12/27 14:18:08 Temperature 87.12F 30.62C
# ./pcsensor 
2012/12/27 14:18:13 Temperature 87.35F 30.75C
# ./pcsensor 
2012/12/27 14:18:16 Temperature 87.58F 30.88C
# ./pcsensor 
2012/12/27 14:18:20 Temperature 87.58F 30.88C
# ./pcsensor 
2012/12/27 14:18:22 Temperature 87.80F 31.00C
# ./pcsensor 
2012/12/27 14:18:23 Temperature 87.80F 31.00C
# ./pcsensor 
2012/12/27 14:18:24 Temperature 87.80F 31.00C
# ./pcsensor 
2012/12/27 14:18:25 Temperature 87.80F 31.00C
# ./pcsensor 
2012/12/27 14:18:32 Temperature 88.03F 31.12C
# ./pcsensor 
2012/12/27 14:18:35 Temperature 88.25F 31.25C
# ./pcsensor 
2012/12/27 14:18:36 Temperature 88.25F 31.25C
# ./pcsensor 
2012/12/27 14:18:38 Temperature 88.25F 31.25C
# ./pcsensor 
2012/12/27 14:18:40 Temperature 88.47F 31.38C
# ./pcsensor 
2012/12/27 14:18:41 Temperature 88.47F 31.38C
# 
# ./pcsensor 
USB interrupt read: Resource temporarily unavailable
Fatal error> USB read failed
# ./pcsensor 
Couldn't find the USB device, Exiting
# ./pcsensor 
2012/12/27 14:18:45 Temperature 88.47F 31.38C
# 
# ./pcsensor 
2012/12/27 14:18:47 Temperature 88.47F 31.38C
# 
# ./pcsensor 
2012/12/27 14:18:48 Temperature 88.70F 31.50C
# 
# ./pcsensor 
2012/12/27 14:18:53 Temperature 88.70F 31.50C
# ./pcsensor 
2012/12/27 14:18:55 Temperature 88.70F 31.50C
# ./pcsensor 
2012/12/27 14:18:56 Temperature 88.70F 31.50C
# ./pcsensor 
2012/12/27 14:18:56 Temperature 88.70F 31.50C
# ./pcsensor 
2012/12/27 14:18:57 Temperature 88.93F 31.62C
# ./pcsensor 
2012/12/27 14:18:59 Temperature 88.93F 31.62C
# ./pcsensor 
2012/12/27 14:18:59 Temperature 88.93F 31.62C
# ./pcsensor 
2012/12/27 14:19:00 Temperature 88.93F 31.62C
# ./pcsensor 
2012/12/27 14:19:06 Temperature 88.93F 31.62C
# ./pcsensor 
2012/12/27 14:19:08 Temperature 89.15F 31.75C
# ./pcsensor 
2012/12/27 14:19:16 Temperature 89.15F 31.75C
# ./pcsensor 
2012/12/27 14:19:18 Temperature 89.15F 31.75C
# ./pcsensor 
USB interrupt read: Resource temporarily unavailable
Fatal error> USB read failed
# ./pcsensor 
Couldn't find the USB device, Exiting
# ./pcsensor 
2012/12/27 14:19:22 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:28 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:29 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:30 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:31 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:31 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:33 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:34 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:35 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:35 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:36 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:37 Temperature 89.38F 31.88C
# ./pcsensor 
2012/12/27 14:19:37 Temperature 89.60F 32.00C
# ./pcsensor 
2012/12/27 14:19:38 Temperature 89.60F 32.00C
#