LinuxのVMWare PlayerでホストOSからゲストOSのLinuxをデバッグする

LinuxでVMware Player上のLinuxをデバッグするときの設定。
仮想シリアルポートをソケットとして追加する。

.vmx:

---

serial0.present = "TRUE"
serial0.fileType = "pipe"
serial0.fileName = "/tmp/vm-tty-pipe"
serial0.pipe.endPoint = "server"
serial0.yieldOnMsrRead = "TRUE"

---

あとはVirtualBoxのときと同じ。

/boot/grub/menu.lst（/boot/grub/grub.conf) の
kernel /vmlinuz-2.6..... というところに、以下を追加。

---

kgdbwait kgdboc=ttyS0,115200

---

Host OSで
$ socat -d -d /tmp/vm-tty-pipe pty

socatのログで /dev/pts/# の部分を確認。

2011/04/18 20:50:05 socat[23989] N PTY is /dev/pts/5

---

gdbの設定
.gdbinit:

file ./vmlinux
set remotebaud 115200
target remote /dev/pts/5 ... socatで確認した番号

---