Update copyright to LGPL on all files
[dyninst.git] / dyninstAPI / src / frameChecker.C
1 /*
2  * Copyright (c) 1996-2009 Barton P. Miller
3  * 
4  * We provide the Paradyn Parallel Performance Tools (below
5  * described as "Paradyn") on an AS IS basis, and do not warrant its
6  * validity or performance.  We reserve the right to update, modify,
7  * or discontinue this software at any time.  We shall have no
8  * obligation to supply such updates or modifications or any other
9  * form of support to you.
10  * 
11  * By your use of Paradyn, you understand and agree that we (or any
12  * other person or entity with proprietary rights in Paradyn) are
13  * under no obligation to provide either maintenance services,
14  * update services, notices of latent defects, or correction of
15  * defects for Paradyn.
16  * 
17  * This library is free software; you can redistribute it and/or
18  * modify it under the terms of the GNU Lesser General Public
19  * License as published by the Free Software Foundation; either
20  * version 2.1 of the License, or (at your option) any later version.
21  * 
22  * This library is distributed in the hope that it will be useful,
23  * but WITHOUT ANY WARRANTY; without even the implied warranty of
24  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
25  * Lesser General Public License for more details.
26  * 
27  * You should have received a copy of the GNU Lesser General Public
28  * License along with this library; if not, write to the Free Software
29  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
30  */
31
32 #if defined(cap_instruction_api)
33
34 #include "frameChecker.h"
35 #include "instructionAPI/h/InstructionDecoder.h"
36
37 using namespace Dyninst::InstructionAPI;
38
39
40 frameChecker::frameChecker(const unsigned char* addr, size_t max_length)
41 {
42   // How many instructions in our stack frame idioms?
43   static const unsigned max_insns = 3;
44   
45   InstructionDecoder d;
46   unsigned bytesDecoded = 0;
47   
48   for(unsigned i = 0; i < max_insns && bytesDecoded < max_length; i++)
49   {
50     m_Insns.push_back(d.decode(addr));
51     addr += m_Insns.back()->size();
52     bytesDecoded += m_Insns.back()->size();
53   }
54 }
55
56 frameChecker::~frameChecker()
57 {
58 }
59
60
61 bool frameChecker::isReturn() const
62 {
63   entryID firstOpcode = m_Insns[0]->getOperation().getID();
64   return (firstOpcode == e_ret_far) || (firstOpcode == e_ret_near);
65 }
66
67 bool frameChecker::isStackPreamble() const
68 {
69   if(m_Insns[0]->getOperation().getID() != e_push)
70   {
71     return false;
72   }
73   if(!isMovStackToBase(1) && !isMovStackToBase(2))
74   {
75     return false;
76   }
77   return true;
78 }
79
80 bool frameChecker::isMovStackToBase(unsigned index_to_check) const
81 {
82    if(m_Insns.size() <= index_to_check) return false;
83   if(m_Insns[index_to_check]->getOperation().getID() == e_mov)
84   {
85     RegisterAST::Ptr stack_ptr(new RegisterAST(r_ESP));
86     RegisterAST::Ptr base_ptr(new RegisterAST(r_EBP));
87     std::string debugMe = m_Insns[index_to_check]->format();
88     
89     if(m_Insns[index_to_check]->isWritten(base_ptr) && m_Insns[index_to_check]->isRead(stack_ptr))
90     {
91       return true;
92     }
93     stack_ptr = RegisterAST::Ptr(new RegisterAST(r_RSP));
94     base_ptr = RegisterAST::Ptr(new RegisterAST(r_RBP));
95     if(m_Insns[index_to_check]->isWritten(base_ptr) && m_Insns[index_to_check]->isRead(stack_ptr))
96     {
97       return true;
98     }   
99   }
100   return false;
101 }
102
103
104 bool frameChecker::isStackFrameSetup() const
105 {
106   return isMovStackToBase(0);
107 }
108
109 #endif // defined(cap_instruction_api)