GDB調(diào)試工具的原理

一、GDB調(diào)試工具的原理

1.1 未執(zhí)行進(jìn)程調(diào)試

啟用gdb調(diào)試運(yùn)行g(shù)db ./test的時(shí)候，在操作系統(tǒng)里發(fā)生了很多復(fù)雜的事情，系統(tǒng)首先會(huì)啟動(dòng)gdb進(jìn)程，這個(gè)進(jìn)程會(huì)調(diào)用系統(tǒng)函數(shù)fork()來(lái)創(chuàng)建一個(gè)子進(jìn)程，這個(gè)子進(jìn)程做兩件事情：

?調(diào)用系統(tǒng)函數(shù)ptrace(PTRACE_TRACEME，[其他參數(shù)])；

?通過(guò)exec來(lái)加載、執(zhí)行可執(zhí)行程序test，那么test程序就在這個(gè)子進(jìn)程中開(kāi)始執(zhí)行了。

1.2 執(zhí)行中進(jìn)程調(diào)試

如果想對(duì)一個(gè)已經(jīng)執(zhí)行的進(jìn)程進(jìn)行調(diào)試，那么就要在gdb這個(gè)父進(jìn)程中調(diào)用ptrace(PTRACE_ATTACH,[其他參數(shù)])，此時(shí)，gdb進(jìn)程會(huì)attach(綁定)到已經(jīng)執(zhí)行的進(jìn)程B，gdb把進(jìn)程B收養(yǎng)成為自己的子進(jìn)程，而子進(jìn)程B的行為等同于它進(jìn)行了一次 PTRACE_TRACEME操作。

此時(shí)gdb進(jìn)程會(huì)發(fā)送SIGSTO信號(hào)給子進(jìn)程B，子進(jìn)程B接收到SIGSTOP信號(hào)后，就會(huì)暫停執(zhí)行進(jìn)入TASK_STOPED狀態(tài)，表示自己準(zhǔn)備好被調(diào)試了。

1.3 gdb系統(tǒng)調(diào)用原型介紹

复制#include < sys/ptrace.h >


long ptrace(enum __ptrace_request request, pid_t pid, void *addr, void *data);

ptrace系統(tǒng)函數(shù)是Linux內(nèi)核提供的一個(gè)用于進(jìn)程跟蹤的系統(tǒng)調(diào)用，通過(guò)它，一個(gè)進(jìn)程(gdb)可以讀寫(xiě)另外一個(gè)進(jìn)程(test)的指令空間、數(shù)據(jù)空間、堆棧和寄存器的值。

而且gdb進(jìn)程接管了test進(jìn)程的所有信號(hào)，也就是說(shuō)系統(tǒng)向test進(jìn)程發(fā)送的所有信號(hào)，都被gdb進(jìn)程接收到，這樣一來(lái)，test進(jìn)程的執(zhí)行就被gdb控制了，從而達(dá)到調(diào)試的目的。

下面對(duì)各個(gè)參數(shù)進(jìn)行解釋?zhuān)?/p>

1. ** enum __ptrace_request request：** 是一個(gè)枚舉類(lèi)型，用于指定要執(zhí)行的操作類(lèi)型。這個(gè)參數(shù)告訴** ptrace** 函數(shù)將要對(duì)進(jìn)程進(jìn)行何種跟蹤操作，例如讀取寄存器、寫(xiě)型，其定義了一系列跟蹤請(qǐng)求類(lèi)型的常量。例如，**PTRACE_ATTACH **表示附加到一個(gè)新進(jìn)程，PTRACE_GETREGS 表示獲取寄存器值。request的主要類(lèi)型如下：
   PTRACE_TRACEME：用于將當(dāng)前進(jìn)程標(biāo)記為被跟蹤的目標(biāo)。調(diào)用進(jìn)程使用這個(gè)類(lèi)型請(qǐng)求后，它的父進(jìn)程可以使用 PTRACE_ATTACH 來(lái)附加到它，對(duì)其進(jìn)行調(diào)試和跟蹤。
   PTRACE_ATTACH：用于將一個(gè)進(jìn)程附加到另一個(gè)進(jìn)程上進(jìn)行調(diào)試和跟蹤。調(diào)試器進(jìn)程可以使用這個(gè)類(lèi)型請(qǐng)求，通過(guò)指定目標(biāo)進(jìn)程ID來(lái)附加到目標(biāo)進(jìn)程。
   PTRACE_DETACH：用于從一個(gè)已經(jīng)被附加和調(diào)試的進(jìn)程上分離調(diào)試器。這個(gè)請(qǐng)求會(huì)停止對(duì)目標(biāo)進(jìn)程的跟蹤，并將其恢復(fù)為正常運(yùn)行狀態(tài)。
   PTRACE_PEEKDATA：用于從目標(biāo)進(jìn)程的內(nèi)存中讀取數(shù)據(jù)?？梢允褂迷撜?qǐng)求來(lái)讀取目標(biāo)進(jìn)程的內(nèi)存值，例如寄存器、棧幀等。
   PTRACE_POKEDATA：用于向目標(biāo)進(jìn)程的內(nèi)存中寫(xiě)入數(shù)據(jù)?？梢允褂迷撜?qǐng)求來(lái)修改目標(biāo)進(jìn)程的內(nèi)存值，例如修改寄存器、改變變量值等。
   PTRACE_GETREGS：用于獲取目標(biāo)進(jìn)程的寄存器值。通過(guò)這個(gè)請(qǐng)求，可以獲得目標(biāo)進(jìn)程的 CPU 寄存器的當(dāng)前值，用于調(diào)試和跟蹤。
   PTRACE_SETREGS：用于設(shè)置目標(biāo)進(jìn)程的寄存器值。通過(guò)這個(gè)請(qǐng)求，可以將特定的寄存器值設(shè)置為目標(biāo)進(jìn)程中的特定值。
   PTRACE_CONT：用于繼續(xù)執(zhí)行已附加的目標(biāo)進(jìn)程。調(diào)試器進(jìn)程可以使用這個(gè)請(qǐng)求來(lái)繼續(xù)目標(biāo)進(jìn)程的執(zhí)行，直到下一個(gè)斷點(diǎn)或者其他事件觸發(fā)。

2. pid_t pid： 是一個(gè)整數(shù)類(lèi)型，表示要操作的目標(biāo)進(jìn)程的進(jìn)程ID（PID）。pid指定了要對(duì)哪個(gè)進(jìn)程進(jìn)行跟蹤操作，可以是當(dāng)前進(jìn)程、正在運(yùn)行的其他進(jìn)程或子進(jìn)程等。

3. void addr： 是一個(gè)指針類(lèi)型，用于指定內(nèi)存地址，具體用途根據(jù)不同的request *參數(shù)而定。例如，對(duì)于一些讀寫(xiě)內(nèi)存的請(qǐng)求，addr指定了要讀取或?qū)懭氲膬?nèi)存地址。

4. void data： 是一個(gè)指針類(lèi)型，用于傳遞數(shù)據(jù)，具體用途也根據(jù)不同的request *參數(shù)而定。對(duì)于一些讀寫(xiě)內(nèi)存或寄存器的請(qǐng)求，data指定了要讀取或?qū)懭氲臄?shù)據(jù)存儲(chǔ)位置。

ptrace函數(shù)返回一個(gè)long類(lèi)型值，表示操作的結(jié)果或錯(cuò)誤碼。通常情況下，返回值大于等于0表示成功，小于0表示發(fā)生錯(cuò)誤。

如果沒(méi)有g(shù)db調(diào)試，操作系統(tǒng)與目標(biāo)進(jìn)程之間是直接交互的；如果使用gdb來(lái)調(diào)試程序，那么操作系統(tǒng)發(fā)送給目標(biāo)進(jìn)程的信號(hào)就會(huì)被gdb截獲，gdb根據(jù)信號(hào)的屬性來(lái)決定：在繼續(xù)運(yùn)行目標(biāo)程序時(shí)是否把當(dāng)前截獲的信號(hào)轉(zhuǎn)交給目標(biāo)程序，如此一來(lái)，目標(biāo)程序就在gdb發(fā)來(lái)的信號(hào)指揮下進(jìn)行相應(yīng)的動(dòng)作。