Stackwalker AnalysisStepper and SigHandlerStepper corrections
[dyninst.git] / stackwalk / src / linux-x86-swk.C
1 /*
2  * Copyright (c) 1996-2009 Barton P. Miller
3  * 
4  * We provide the Paradyn Parallel Performance Tools (below
5  * described as "Paradyn") on an AS IS basis, and do not warrant its
6  * validity or performance.  We reserve the right to update, modify,
7  * or discontinue this software at any time.  We shall have no
8  * obligation to supply such updates or modifications or any other
9  * form of support to you.
10  * 
11  * By your use of Paradyn, you understand and agree that we (or any
12  * other person or entity with proprietary rights in Paradyn) are
13  * under no obligation to provide either maintenance services,
14  * update services, notices of latent defects, or correction of
15  * defects for Paradyn.
16  * 
17  * This library is free software; you can redistribute it and/or
18  * modify it under the terms of the GNU Lesser General Public
19  * License as published by the Free Software Foundation; either
20  * version 2.1 of the License, or (at your option) any later version.
21  * 
22  * This library is distributed in the hope that it will be useful,
23  * but WITHOUT ANY WARRANTY; without even the implied warranty of
24  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
25  * Lesser General Public License for more details.
26  * 
27  * You should have received a copy of the GNU Lesser General Public
28  * License along with this library; if not, write to the Free Software
29  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
30  */
31
32 #include "stackwalk/h/swk_errors.h"
33 #include "stackwalk/h/walker.h"
34 #include "stackwalk/h/procstate.h"
35 #include "stackwalk/h/framestepper.h"
36 #include "stackwalk/h/basetypes.h"
37 #include "stackwalk/h/frame.h"
38
39 #include "stackwalk/src/symtab-swk.h"
40 #include "stackwalk/src/linux-swk.h"
41 #include "stackwalk/src/dbgstepper-impl.h"
42 #include "stackwalk/src/x86-swk.h"
43
44 #include "common/h/Types.h"
45
46 #include <sys/user.h>
47 #include <sys/ptrace.h>
48 #include <sys/types.h>
49 #include <sys/stat.h>
50 #include <fcntl.h>
51 #include <string.h>
52 #include <errno.h>
53
54 using namespace Dyninst;
55 using namespace Dyninst::Stackwalker;
56
57 bool Walker::createDefaultSteppers()
58 {
59   FrameStepper *stepper;
60   WandererHelper *whelper_x86;
61   LookupFuncStart *frameFuncHelper_x86;
62   bool result = true;
63
64   stepper = new DebugStepper(this);
65   result = addStepper(stepper);
66   if (!result)
67      goto error;
68   sw_printf("[%s:%u] - Stepper %p is DebugStepper\n",
69             __FILE__, __LINE__, stepper);
70
71   frameFuncHelper_x86 = LookupFuncStart::getLookupFuncStart(getProcessState());
72   stepper = new FrameFuncStepper(this, frameFuncHelper_x86);
73   result = addStepper(stepper);
74   if (!result)
75      goto error;
76   sw_printf("[%s:%u] - Stepper %p is FrameFuncStepper\n",
77             __FILE__, __LINE__, stepper);
78
79   //Call getLookupFuncStart twice to get reference counts correct.
80   frameFuncHelper_x86 = LookupFuncStart::getLookupFuncStart(getProcessState());
81   whelper_x86 = new WandererHelper(getProcessState());
82   stepper = new StepperWanderer(this, whelper_x86, frameFuncHelper_x86);
83   result = addStepper(stepper);
84   if (!result)
85      goto error;
86   sw_printf("[%s:%u] - Stepper %p is StepperWanderer\n",
87             __FILE__, __LINE__, stepper);
88
89   stepper = new SigHandlerStepper(this);
90   result = addStepper(stepper);
91   if (!result)
92      goto error;
93   sw_printf("[%s:%u] - Stepper %p is SigHandlerStepper\n",
94             __FILE__, __LINE__, stepper);
95
96   stepper = new BottomOfStackStepper(this);
97   result = addStepper(stepper);
98   if (!result)
99      goto error;
100   sw_printf("[%s:%u] - Stepper %p is BottomOfStackStepper\n",
101             __FILE__, __LINE__, stepper);
102
103   /*
104    *  Disable AnalysisStepper until finished
105   stepper = new AnalysisStepper(this);
106   result = addStepper(stepper);
107   if (!result)
108      goto error;
109   sw_printf("[%s:%u] - Stepper %p is AnalysisStepper\n",
110             __FILE__, __LINE__, stepper);
111    */
112
113   return true;
114  error:
115   sw_printf("[%s:%u] - Error adding stepper %p\n", stepper);
116     return false;
117 }
118
119 static const int fp_offset_32 = 28;
120 static const int pc_offset_32 = 60;
121 static const int frame_size_32 = 736;
122 static const int fp_offset_64 = 120;
123 static const int pc_offset_64 = 168;
124 static const int frame_size_64 = 1088;
125
126 gcframe_ret_t SigHandlerStepperImpl::getCallerFrame(const Frame &in, Frame &out)
127 {
128    int fp_offset;
129    int pc_offset;
130    int frame_size;
131    bool result;
132    int addr_size = getProcessState()->getAddressWidth();
133    if (addr_size == 4) {
134       fp_offset = fp_offset_32;
135       pc_offset = pc_offset_32;
136       frame_size = frame_size_32;
137    }
138    else {
139       fp_offset = fp_offset_64;
140       pc_offset = pc_offset_64;
141       frame_size = frame_size_64;
142   }
143
144    location_t fp_loc;
145    Address fp = 0x0;
146    fp_loc.location = loc_address;
147    fp_loc.val.addr = in.getSP() + fp_offset;
148    sw_printf("[%s:%u] - SigHandler Reading FP from %lx\n",
149              __FILE__, __LINE__, fp_loc.val.addr);
150    result = getProcessState()->readMem(&fp, fp_loc.val.addr, addr_size);
151    if (!result) {
152       return gcf_error;
153    }
154
155    location_t pc_loc;
156    Address pc = 0x0;
157    pc_loc.location = loc_address;
158    pc_loc.val.addr = in.getSP() + pc_offset;
159    sw_printf("[%s:%u] - SigHandler Reading PC from %lx\n",
160              __FILE__, __LINE__, pc_loc.val.addr);
161    result = getProcessState()->readMem(&pc, pc_loc.val.addr, addr_size);
162    if (!result) {
163       return gcf_error;
164    }
165
166    Address sp = in.getSP() + frame_size;
167
168    out.setRA((Dyninst::MachRegisterVal) pc);
169    out.setFP((Dyninst::MachRegisterVal) fp);
170    out.setSP((Dyninst::MachRegisterVal) sp);
171    out.setRALocation(pc_loc);
172    out.setFPLocation(fp_loc);
173
174    return gcf_success;
175 }
176
177 bool DebugStepperImpl::isFrameRegister(MachRegister reg)
178 {
179    if (getProcessState()->getAddressWidth() == 4)
180       return (reg == x86::ebp);
181    else 
182       return (reg == x86_64::rbp);
183 }
184
185 bool DebugStepperImpl::isStackRegister(MachRegister reg)
186 {
187    if (getProcessState()->getAddressWidth() == 4)
188       return (reg == x86::esp);
189    else 
190       return (reg == x86_64::rsp);
191 }
192