Initialize thrd in a new FrameNode ctor
[dyninst.git] / stackwalk / src / callchecker-IAPI.C
1 /*
2  * See the dyninst/COPYRIGHT file for copyright information.
3  * 
4  * We provide the Paradyn Tools (below described as "Paradyn")
5  * on an AS IS basis, and do not warrant its validity or performance.
6  * We reserve the right to update, modify, or discontinue this
7  * software at any time.  We shall have no obligation to supply such
8  * updates or modifications or any other form of support to you.
9  * 
10  * By your use of Paradyn, you understand and agree that we (or any
11  * other person or entity with proprietary rights in Paradyn) are
12  * under no obligation to provide either maintenance services,
13  * update services, notices of latent defects, or correction of
14  * defects for Paradyn.
15  * 
16  * This library is free software; you can redistribute it and/or
17  * modify it under the terms of the GNU Lesser General Public
18  * License as published by the Free Software Foundation; either
19  * version 2.1 of the License, or (at your option) any later version.
20  * 
21  * This library is distributed in the hope that it will be useful,
22  * but WITHOUT ANY WARRANTY; without even the implied warranty of
23  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
24  * Lesser General Public License for more details.
25  * 
26  * You should have received a copy of the GNU Lesser General Public
27  * License along with this library; if not, write to the Free Software
28  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
29  */
30
31 #include "stackwalk/h/swk_errors.h"
32 #include "stackwalk/src/sw.h"
33
34 #include "instructionAPI/h/InstructionDecoder.h"
35
36 using namespace Dyninst;
37 using namespace Stackwalker;
38 using namespace std;
39
40 CallChecker::CallChecker(ProcessState * proc_) : proc(proc_) {}
41 CallChecker::~CallChecker() {}
42
43 bool CallChecker::isPrevInstrACall(Address addr, Address &target)
44 {
45     sw_printf("[%s:%u] - isPrevInstrACall on %lx\n", __FILE__, __LINE__, addr);
46     if (addr == 0) return false;
47     const unsigned max_call_length = 6;
48     unsigned char buffer[max_call_length];
49
50     Address start;
51     for (unsigned size = max_call_length; size > 0; size--) {
52         start = addr - size;
53         if (proc->readMem(buffer, start, max_call_length)) break;
54     }
55
56     unsigned char * bufferPtr = buffer;
57     
58     Dyninst::Architecture arch = proc->getArchitecture();
59
60     for (unsigned size = addr - start; size > 0; size--) {
61         InstructionAPI::InstructionDecoder d(bufferPtr, size, arch);
62
63         unsigned int aligned = 0;
64
65         // Decode all instructions in the buffer
66         InstructionAPI::Instruction::Ptr tmp = d.decode();
67         InstructionAPI::Instruction::Ptr prevInsn = tmp;
68
69         while (tmp) {
70             if (tmp->size() > size) break;
71         
72             aligned += tmp->size();
73             prevInsn = tmp;
74             tmp = d.decode();
75         }
76
77         // prevInsn was the last valid instruction found
78         // is it (a) aligned and (b) a call?
79         if ( (aligned == size) && 
80              (prevInsn->getOperation().getID() == e_call) ) {
81             int disp = *((int*)(bufferPtr+(size-prevInsn->size() + 2)));
82             target = addr + disp;
83             sw_printf("[%s:%u] - Found call encoded by %d to %lx (addr = %lx, disp = %lx)\n",
84                     __FILE__, __LINE__,
85                     (int)buffer[0], target, addr, disp);
86             return true;
87         } else {
88             bufferPtr++;
89             continue;
90         }
91     }
92    
93     target = 0x0; 
94     return false;
95 }