Ошибка отладки ядра IDA

Окружающая обстановка:

64-разрядная версия Windows 7

Виртуальная машина (Vmware 8) + Virtualkd: 32-битная версия Windows XP

Пытаясь отлаживать ядро ​​с помощью ida 6.1, я получаю эту ошибку:

Windbg: using debugging tools from 'C:\Program Files (x86)\Debugging Tools for Windows (x86)\'
Connecting to the kernel with 'com:port=\\.\pipe\kd_WinXP_kerneldbg'
**Connect failed: Incorrect function.**
Flushing buffers, please wait...ok
Unloading IDP module C:\ida61\procs\pc.w32...

vmmon64 выглядит нормально:

http://s13.postimg.org/qpn50bcdz/Untitled.png

Строка подключения на IDA:

com:port=\\.\pipe\kd_WinXP_kerneldbg

кто-нибудь, пожалуйста


person user3122    schedule 06.11.2013    source источник
comment
Как vm настроить?   -  person sergmat    schedule 06.11.2013
comment
Я следую этой инструкции: hexblog.com/?p=123   -  person user3122    schedule 06.11.2013
comment
проверьте настройки виртуальной машины с помощью команды bcdedit /dbgsettings   -  person sergmat    schedule 06.11.2013


Ответы (1)


Строка подключения, которую вы использовали, это когда у вас есть подключение к физическому последовательному порту. Для виртуальной машины вам нужно использовать немного другую строку. Пытаться:

com:pipe,port=\\.\pipe\kd_WinXP_kerneldbg

Обратите внимание на дополнительный раздел pipe,port, необходимый для COM-соединений виртуальной машины. Вот возможные строки подключения, на которые ссылается Живая отладка в режиме ядра с использованием WinDbg

windbg [-y SymbolPath] -k net:port=PortNumber,key=Key
windbg [-y SymbolPath] -k 1394:channel=1394Channel[,symlink=1394Protocol] 
windbg [-y SymbolPath] -k usb:targetname=USBString
windbg [-y SymbolPath] -k com:port=ComPort,baud=BaudRate
windbg [-y SymbolPath] -k com:pipe,port=\\VMHost\pipe\PipeName[,resets=0][,reconnect]
windbg [-y SymbolPath] -k com:modem
windbg [-y SymbolPath] -kl 
windbg [-y SymbolPath] -k 

В случае, когда виртуальная машина работает на той же машине, что и отладчик, используйте \\.\, а не \\VMHost\

Настройка отладки в режиме ядра Виртуальная машина вручную также может быть полезна в целом.

person Steve    schedule 10.07.2014