Add new trampTrapMapping object to track traps in mutatees
[dyninst.git] / dyninstAPI / src / addressSpace.h
1 /*
2  * Copyright (c) 1996-2004 Barton P. Miller
3  * 
4  * We provide the Paradyn Parallel Performance Tools (below
5  * described as "Paradyn") on an AS IS basis, and do not warrant its
6  * validity or performance.  We reserve the right to update, modify,
7  * or discontinue this software at any time.  We shall have no
8  * obligation to supply such updates or modifications or any other
9  * form of support to you.
10  * 
11  * This license is for research uses.  For such uses, there is no
12  * charge. We define "research use" to mean you may freely use it
13  * inside your organization for whatever purposes you see fit. But you
14  * may not re-distribute Paradyn or parts of Paradyn, in any form
15  * source or binary (including derivatives), electronic or otherwise,
16  * to any other organization or entity without our permission.
17  * 
18  * (for other uses, please contact us at paradyn@cs.wisc.edu)
19  * 
20  * All warranties, including without limitation, any warranty of
21  * merchantability or fitness for a particular purpose, are hereby
22  * excluded.
23  * 
24  * By your use of Paradyn, you understand and agree that we (or any
25  * other person or entity with proprietary rights in Paradyn) are
26  * under no obligation to provide either maintenance services,
27  * update services, notices of latent defects, or correction of
28  * defects for Paradyn.
29  * 
30  * Even if advised of the possibility of such damages, under no
31  * circumstances shall we (or any other person or entity with
32  * proprietary rights in the software licensed hereunder) be liable
33  * to you or any third party for direct, indirect, or consequential
34  * damages of any character regardless of type of action, including,
35  * without limitation, loss of profits, loss of use, loss of good
36  * will, or computer failure or malfunction.  You agree to indemnify
37  * us (and any other person or entity with proprietary rights in the
38  * software licensed hereunder) for any and all liability it may
39  * incur to third parties resulting from your use of Paradyn.
40  */
41
42 // $Id: addressSpace.h,v 1.7 2008/01/31 18:01:49 legendre Exp $
43
44 #ifndef ADDRESS_SPACE_H
45 #define ADDRESS_SPACE_H
46
47 #include "infHeap.h"
48 #include "codeRange.h"
49 #include "InstructionSource.h"
50 #include "ast.h"
51 #include "symtabAPI/h/Symtab.h"
52 #include "dyninstAPI/src/trapMappings.h"
53
54 class codeRange;
55 class multiTramp;
56 class replacedFunctionCall;
57 class functionReplacement;
58
59 class int_function;
60 class int_variable;
61 class mapped_module;
62 class mapped_object;
63 class instPoint;
64
65 class BPatch_process;
66 class BPatch_function;
67 class BPatch_point;
68
69 class Emitter;
70 class generatedCodeObject;
71 class fileDescriptor;
72
73 using namespace Dyninst;
74 using namespace SymtabAPI;
75
76 class int_function;
77
78
79 class Dyn_Symbol;
80 class BinaryEdit;
81 class trampTrapMappings;
82
83 // This file serves to define an "address space", a set of routines that 
84 // code generation and instrumentation rely on to perform their duties. 
85 // This was derived from the process class and serves as a parent to that
86 // class and the static_space class for the rewriter. 
87
88 // The methods in this class were determined by what the code currently
89 // uses, not a particular design. As such, I expect this to change wildly
90 // by the time the refactoring is complete. 
91 //
92 // bernat, 5SEP07
93
94 // Note: this is a pure virtual class; it serves as an interface
95 // specification.
96
97 class AddressSpace : public InstructionSource {
98  public:
99     
100     // Down-conversion functions
101     process *proc();
102     BinaryEdit *edit();
103
104     // Read/write
105
106     // We have read/write for both "text" and "data". This comes in handy,
107     // somewhere, I'm sure
108     virtual bool readDataSpace(const void *inOther, 
109                                u_int amount, 
110                                void *inSelf, 
111                                bool showError) = 0;
112     virtual bool readTextSpace(const void *inOther, 
113                                u_int amount, 
114                                const void *inSelf) = 0;
115     
116
117     virtual bool writeDataSpace(void *inOther,
118                                 u_int amount,
119                                 const void *inSelf) = 0;
120     virtual bool writeTextSpace(void *inOther,
121                                 u_int amount,
122                                 const void *inSelf) = 0;
123
124     // Memory allocation
125     // We don't specify how it should be done, only that it is. The model is
126     // that you ask for an allocation "near" a point, where "near" has an
127     // internal, platform-specific definition. The allocation mechanism does its
128     // best to give you what you want, but there are no promises - check the
129     // address of the returned buffer to be sure.
130
131     virtual Address inferiorMalloc(unsigned size, inferiorHeapType type=anyHeap,
132                                    Address near = 0, bool *err = NULL) = 0;
133     void inferiorFree(Address item);
134     // And a "constrain" call to free unused memory. This is useful because our
135     // instrumentation is incredibly wasteful.
136     virtual bool inferiorRealloc(Address item, unsigned newSize);
137
138     bool isInferiorAllocated(Address block);
139
140     // Get the pointer size of the app we're modifying
141     virtual unsigned getAddressWidth() const = 0;
142
143     // We need a mechanism to track what exists at particular addresses in the
144     // address space - both for lookup and to ensure that there are no collisions.
145     // We have a multitude of ways to "muck with" the application (function replacement,
146     // instrumentation, function relocation, ...) and they can all stomp on each
147     // other. 
148
149     void addOrigRange(codeRange *range);
150     void addModifiedRange(codeRange *range);
151
152     void removeOrigRange(codeRange *range);
153     void removeModifiedRange(codeRange *range);
154
155     codeRange *findOrigByAddr(Address addr);
156     codeRange *findModByAddr(Address addr);
157
158     virtual void *getPtrToInstruction(Address) const;
159     virtual bool isValidAddress(const Address &) const;
160
161     // Trap address to base tramp address (for trap instrumentation)
162     trampTrapMappings trapMapping;
163     
164     // Should return iterators
165     bool getOrigRanges(pdvector<codeRange *> &);
166     bool getModifiedRanges(pdvector<codeRange *> &);
167
168     // Multitramp convenience functions
169     multiTramp *findMultiTrampByAddr(Address addr);
170     multiTramp *findMultiTrampById(unsigned int id);
171     void addMultiTramp(multiTramp *multi);
172     void removeMultiTramp(multiTramp *multi);
173
174     // Function replacement (or relocated, actually) convenience functions
175     functionReplacement *findFuncReplacement(Address addr);
176     void addFuncReplacement(functionReplacement *funcrep);
177     void removeFuncReplacement(functionReplacement *funcrep);
178
179     // Function call replacement convenience functions
180     replacedFunctionCall *findReplacedCall(Address addr);
181     void addReplacedCall(replacedFunctionCall *rep);
182     void removeReplacedCall(replacedFunctionCall *rep);
183
184     //////////////////////////////////////////////////////////////
185     // Function/variable lookup code
186     // Turns out that instrumentation needs this... so the 
187     // AddressSpace keeps growing. 
188     //////////////////////////////////////////////////////////////
189
190     // findFuncByName: returns function associated with "func_name"
191     // This routine checks both the a.out image and any shared object images 
192     // for this function
193     //int_function *findFuncByName(const pdstring &func_name);
194     
195     bool findFuncsByAll(const pdstring &funcname,
196                         pdvector<int_function *> &res,
197                         const pdstring &libname = "");
198     
199     // Specific versions...
200     bool findFuncsByPretty(const pdstring &funcname,
201                            pdvector<int_function *> &res,
202                            const pdstring &libname = "");
203     bool findFuncsByMangled(const pdstring &funcname, 
204                             pdvector<int_function *> &res,
205                             const pdstring &libname = "");
206     
207     bool findVarsByAll(const pdstring &varname,
208                        pdvector<int_variable *> &res,
209                        const pdstring &libname = "");
210     
211     // And we often internally want to wrap the above to return one
212     // and only one func...
213     int_function *findOnlyOneFunction(const std::string &name,
214                                       const std::string &libname = "");
215
216
217     // This will find the named symbol in the image or in a shared object
218     // Necessary since some things don't show up as a function or variable.
219     //    bool getSymbolInfo( const pdstring &name, Dyn_Symbol &ret );
220     bool getSymbolInfo( const pdstring &name, Dyninst::SymtabAPI::Symbol &ret );
221
222     // getAllFunctions: returns a vector of all functions defined in the
223     // a.out and in the shared objects
224     void getAllFunctions(pdvector<int_function *> &);
225     
226     // Find the code sequence containing an address
227     // Note: fix the name....
228     int_function *findFuncByAddr(Address addr);
229     int_basicBlock *findBasicBlockByAddr(Address addr);
230     
231     // And a lookup by "internal" function to find clones during fork...
232     int_function *findFuncByInternalFunc(image_func *ifunc);
233     
234     //findJumpTargetFuncByAddr Acts like findFunc, but if it fails,
235     // checks if 'addr' is a jump to a function.
236     int_function *findJumpTargetFuncByAddr(Address addr);
237     
238     // findModule: returns the module associated with "mod_name" 
239     // this routine checks both the a.out image and any shared object 
240     // images for this module
241     // if check_excluded is true it checks to see if the module is excluded
242     // and if it is it returns 0.  If check_excluded is false it doesn't check
243     //  if substring_match is true, the first module whose name contains
244     //  the provided string is returned.
245     // Wildcard: handles "*" and "?"
246     mapped_module *findModule(const pdstring &mod_name, bool wildcard = false);
247     // And the same for objects
248     // Wildcard: handles "*" and "?"
249     mapped_object *findObject(const pdstring &obj_name, bool wildcard = false);
250     mapped_object *findObject(Address addr);
251     mapped_object *findObject(fileDescriptor desc);
252
253     mapped_object *getAOut() { assert(mapped_objects.size()); return mapped_objects[0];}
254     
255     // getAllModules: returns a vector of all modules defined in the
256     // a.out and in the shared objects
257     void getAllModules(pdvector<mapped_module *> &);
258
259     // return the list of dynamically linked libs
260     const pdvector<mapped_object *> &mappedObjects() { return mapped_objects;  } 
261     
262     // If true is passed for ignore_if_mt_not_set, then an error won't be
263     // initiated if we're unable to determine if the program is multi-threaded.
264     // We are unable to determine this if the daemon hasn't yet figured out
265     // what libraries are linked against the application.  Currently, we
266     // identify an application as being multi-threaded if it is linked against
267     // a thread library (eg. libpthreads.a on AIX).  There are cases where we
268     // are querying whether the app is multi-threaded, but it can't be
269     // determined yet but it also isn't necessary to know.
270     virtual bool multithread_capable(bool ignore_if_mt_not_set = false) = 0;
271     
272     // Do we have the RT-side multithread functions available
273     virtual bool multithread_ready(bool ignore_if_mt_not_set = false) = 0;
274
275     //////////////////////////////////////////////////////
276     // Process-level instrumentation (?)
277     /////////////////////////////////////////////////////
278
279     // instPoint isn't const; it may get an updated list of
280     // instances since we generate them lazily.
281     // Shouldn't this be an instPoint member function?
282     bool replaceFunctionCall(instPoint *point,const int_function *newFunc);
283     
284     // And this....
285     bool getDynamicCallSiteArgs(instPoint *callSite, 
286                                 pdvector<AstNodePtr> &args);
287
288     // Default to "nope"
289     virtual bool hasBeenBound(const relocationEntry &, 
290                               int_function *&, 
291                               Address) { return false; }
292     
293     // Trampoline guard get/set functions
294     Address trampGuardBase(void) { return trampGuardBase_; }
295     AstNodePtr trampGuardAST(void);
296
297     // Get the current code generator (or emitter)
298     Emitter *getEmitter();
299
300     // Should be easy if the process isn't _executing_ where
301     // we're deleting...
302     virtual void deleteGeneratedCode(generatedCodeObject *del);
303
304     //////////////////////////////////////////////////////
305     // BPatch-level stuff
306     //////////////////////////////////////////////////////
307     // Callbacks for higher level code (like BPatch) to learn about new 
308     //  functions and InstPoints.
309  private:
310     BPatch_function *(*new_func_cb)(AddressSpace *a, int_function *f);
311     BPatch_point *(*new_instp_cb)(AddressSpace *a, int_function *f, instPoint *ip, 
312                                   int type);
313  public:
314     //Trigger the callbacks from a lower level
315     BPatch_function *newFunctionCB(int_function *f) 
316         { assert(new_func_cb); return new_func_cb(this, f); }
317     BPatch_point *newInstPointCB(int_function *f, instPoint *pt, int type)
318         { assert(new_instp_cb); return new_instp_cb(this, f, pt, type); }
319     
320     //Register callbacks from the higher level
321     void registerFunctionCallback(BPatch_function *(*f)(AddressSpace *p, 
322                                                         int_function *f))
323         { new_func_cb = f; };
324     void registerInstPointCallback(BPatch_point *(*f)(AddressSpace *p, int_function *f,
325                                                       instPoint *ip, int type))
326         { new_instp_cb = f; }
327     
328     
329     //Anonymous up pointer to the containing process.  This is BPatch_process
330     // in Dyninst.  Currently stored as an void pointer in case we do
331     // anything with this during the library split.
332     void *up_ptr() { return up_ptr_; }
333     void set_up_ptr(void *ptr) { up_ptr_ = ptr; }
334     
335     //////////////////////////////////////////////////////
336     // Internal and cleanup 
337     //////////////////////////////////////////////////////
338
339     // Clear things out (e.g., deleteProcess)
340     void deleteAddressSpace();
341     // Fork psuedo-constructor
342     void copyAddressSpace(process *parent);
343
344     // Aaand constructor/destructor
345     AddressSpace();
346     virtual ~AddressSpace();
347
348
349     //////////////////////////////////////////////////////
350     // Yuck
351     //////////////////////////////////////////////////////
352     Address getObservedCostAddr() const { return costAddr_; }
353     void updateObservedCostAddr(Address addr) { costAddr_ = addr;}
354
355     // Can we use traps if necessary?
356     virtual bool canUseTraps() = 0;
357
358  protected:
359
360     // inferior malloc support functions
361     void inferiorFreeCompact();
362     int findFreeIndex(unsigned size, int type, Address lo, Address hi);
363     void addHeap(heapItem *h);
364     void initializeHeap();
365     
366     // Centralization of certain inferiorMalloc operations
367     Address inferiorMallocInternal(unsigned size, Address lo, Address hi, 
368                                    inferiorHeapType type);
369     void inferiorMallocAlign(unsigned &size);
370
371     bool heapInitialized_;
372     inferiorHeap heap_;
373
374     // Text sections (including added - instrumentation)
375     codeRangeTree textRanges_;
376     // Data sections
377     codeRangeTree dataRanges_;
378     // And address-space-wide patches that we've dropped in
379     codeRangeTree modifiedRanges_;
380
381     // We label multiTramps by ID
382     dictionary_hash<int, multiTramp *> multiTrampsById_;
383
384     // Loaded mapped objects (may be just 1)
385     pdvector<mapped_object *> mapped_objects;
386
387     Address trampGuardBase_; // Tramp recursion index mapping
388     AstNodePtr trampGuardAST_;
389
390     void *up_ptr_;
391
392     Address costAddr_;
393 };
394
395 extern int heapItemCmpByAddr(const heapItem **A, const heapItem **B);
396
397 #endif // ADDRESS_SPACE_H