Remove unused rpc/xdr references.
[dyninst.git] / dataflowAPI / h / slicing.h
1 /*
2  * See the dyninst/COPYRIGHT file for copyright information.
3  * 
4  * We provide the Paradyn Tools (below described as "Paradyn")
5  * on an AS IS basis, and do not warrant its validity or performance.
6  * We reserve the right to update, modify, or discontinue this
7  * software at any time.  We shall have no obligation to supply such
8  * updates or modifications or any other form of support to you.
9  * 
10  * By your use of Paradyn, you understand and agree that we (or any
11  * other person or entity with proprietary rights in Paradyn) are
12  * under no obligation to provide either maintenance services,
13  * update services, notices of latent defects, or correction of
14  * defects for Paradyn.
15  * 
16  * This library is free software; you can redistribute it and/or
17  * modify it under the terms of the GNU Lesser General Public
18  * License as published by the Free Software Foundation; either
19  * version 2.1 of the License, or (at your option) any later version.
20  * 
21  * This library is distributed in the hope that it will be useful,
22  * but WITHOUT ANY WARRANTY; without even the implied warranty of
23  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
24  * Lesser General Public License for more details.
25  * 
26  * You should have received a copy of the GNU Lesser General Public
27  * License along with this library; if not, write to the Free Software
28  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
29  */
30 // A simple forward slice using a search of the control flow graph.
31 // Templated on a function that says when to stop slicing.
32
33 #if !defined(_SLICING_H_)
34 #define _SLICING_H_
35
36 #include <vector>
37 #include "dyntypes.h"
38 #include <queue>
39 #include <set>
40 #include <unordered_set>
41 #include <map>
42 #include <unordered_map>
43 #include <list>
44 #include <stack>
45
46 #include "util.h"
47 #include "Node.h"
48 #include "Edge.h"
49
50 #include "AbslocInterface.h"
51
52 #include <boost/functional/hash.hpp>
53
54 namespace Dyninst {
55
56 namespace ParseAPI {
57   class Block;
58   class Edge;
59   class Function;
60 };
61
62 class Assignment;
63 class AbsRegion;
64 typedef boost::shared_ptr<Assignment> AssignmentPtr;
65
66 class Graph;
67 typedef boost::shared_ptr<Graph> GraphPtr;
68
69  namespace InstructionAPI {
70    class Instruction;
71  }
72  typedef boost::shared_ptr<InstructionAPI::Instruction> InstructionPtr;
73
74  class Slicer;
75
76 // Used in temp slicer; should probably
77 // replace OperationNodes when we fix up
78 // the DDG code.
79 class DATAFLOW_EXPORT SliceNode : public Node {
80  public:
81   typedef boost::shared_ptr<SliceNode> Ptr;
82       
83   static SliceNode::Ptr create(AssignmentPtr ptr,
84                                 ParseAPI::Block *block,
85                                 ParseAPI::Function *func) {
86     return Ptr(new SliceNode(ptr, block, func));
87   }
88       
89   ParseAPI::Block *block() const { return b_; };
90   ParseAPI::Function *func() const { return f_; };
91   Address addr() const;
92   AssignmentPtr assign() const { return a_; }
93       
94   Node::Ptr copy() { return Node::Ptr(); }
95   bool isVirtual() const { return false; }
96       
97   std::string format() const;
98       
99   virtual ~SliceNode() {};
100       
101  private:
102       
103  SliceNode(AssignmentPtr ptr,
104             ParseAPI::Block *block,
105             ParseAPI::Function *func) : 
106   a_(ptr), b_(block), f_(func) {};
107       
108   AssignmentPtr a_;
109   ParseAPI::Block *b_;
110   ParseAPI::Function *f_;
111
112   friend class Slicer;
113 };
114
115 class SliceEdge : public Edge {
116   public:
117    typedef boost::shared_ptr<SliceEdge> Ptr;
118
119    DATAFLOW_EXPORT static SliceEdge::Ptr create(SliceNode::Ptr source,
120                                                 SliceNode::Ptr target,
121                                                 AbsRegion const&data) {
122       return Ptr(new SliceEdge(source, target, data)); 
123    }
124
125    const AbsRegion &data() const { return data_; };
126
127   private:
128    SliceEdge(const SliceNode::Ptr source, 
129              const SliceNode::Ptr target,
130              AbsRegion const& data) 
131       : Edge(source, target), data_(data) {};
132    AbsRegion data_;
133 };
134
135 class Slicer {
136  public:
137   typedef std::pair<InstructionPtr, Address> InsnInstance;
138   typedef std::vector<InsnInstance> InsnVec;
139
140   DATAFLOW_EXPORT Slicer(AssignmentPtr a,
141          ParseAPI::Block *block,
142          ParseAPI::Function *func,
143          bool cache = true,
144          bool stackAnalysis = true);
145     
146   DATAFLOW_EXPORT static bool isWidenNode(Node::Ptr n);
147
148   struct DATAFLOW_EXPORT ContextElement {
149     // We can implicitly find the callsite given a block,
150     // since calls end blocks. It's easier to look up 
151     // the successor this way than with an address.
152
153     ParseAPI::Function *func;
154
155     // If non-NULL this must be an internal context
156     // element, since we have an active call site.
157     ParseAPI::Block *block;
158
159     // To enter or leave a function we must be able to
160     // map corresponding abstract regions. 
161     // In particular, we need to know the depth of the 
162     // stack in the caller.
163      int stackDepth;
164
165   ContextElement(ParseAPI::Function *f) : 
166     func(f), block(NULL), stackDepth(-1) {};
167   ContextElement(ParseAPI::Function *f, long depth) :
168     func(f), block(NULL), stackDepth(depth) {};
169   };
170
171   // This should be sufficient...
172   typedef std::deque<ContextElement> Context;
173
174
175   // Where we are in a particular search...
176   struct DATAFLOW_EXPORT Location {
177     // The block we're looking through
178     ParseAPI::Function *func;
179     ParseAPI::Block *block; // current block
180
181     // Where we are in the block
182     InsnVec::iterator current;
183     InsnVec::iterator end;
184
185     bool fwd;
186
187     InsnVec::reverse_iterator rcurrent;
188     InsnVec::reverse_iterator rend;
189
190     Address addr() const { if(fwd) return (*current).second; else return (*rcurrent).second;}
191
192   Location(ParseAPI::Function *f,
193            ParseAPI::Block *b) : func(f), block(b), fwd(true){};
194   Location() : func(NULL), block(NULL), fwd(true) {};
195   };
196     
197   // Describes an abstract region, a minimal context
198   // (block and function), and the assignment that
199   // relates to that region (uses or defines it, 
200   // depending on slice direction)
201   //
202   // A slice is composed of Elements; SliceFrames 
203   // keep a list of the currently active elements
204   // that are at the `leading edge' of the 
205   // under-construction slice
206   struct DATAFLOW_EXPORT Element {
207     Element(ParseAPI::Block * b,
208         ParseAPI::Function * f,
209         AbsRegion const& r,
210         Assignment::Ptr p)
211       : block(b),
212         func(f),
213         reg(r),
214         ptr(p)
215     { }
216
217     // basic comparator for ordering
218     bool operator<(const Element& el) const { 
219         if (ptr->addr() < el.ptr->addr()) { return true; }
220         if (el.ptr->addr() < ptr->addr()) { return false; }
221         if (ptr->out() < el.ptr->out()) { return true; }
222         return false;
223     }
224
225     ParseAPI::Block * block;
226     ParseAPI::Function * func;
227
228     AbsRegion reg;
229     Assignment::Ptr ptr;
230   };
231
232   // State for recursive slicing is a context, location pair
233   // and a list of AbsRegions that are being searched for.
234   struct DATAFLOW_EXPORT SliceFrame {
235     SliceFrame(
236         Location const& l,
237         Context const& c)
238       : loc(l),
239         con(c),
240         valid(true)
241     { }
242     SliceFrame() : valid(true) { }
243     SliceFrame(bool v) : valid(v) { }
244
245     // Active slice nodes -- describe regions
246     // that are currently under scrutiny
247     std::map<AbsRegion, std::vector<Element> > active;
248     typedef std::map<AbsRegion, std::vector<Element> > ActiveMap;
249
250     Location loc;
251     Context con;
252     bool valid;
253
254     Address addr() const { return loc.addr(); }
255   };
256
257
258   class Predicates {
259     bool clearCache, controlFlowDep;
260
261   public:
262     typedef std::pair<ParseAPI::Function *, int> StackDepth_t;
263     typedef std::stack<StackDepth_t> CallStack_t;
264     DATAFLOW_EXPORT bool performCacheClear() { if (clearCache) {clearCache = false; return true;} else return false; }
265     DATAFLOW_EXPORT void setClearCache(bool b) { clearCache = b; }
266     DATAFLOW_EXPORT bool searchForControlFlowDep() { return controlFlowDep; }
267     DATAFLOW_EXPORT void setSearchForControlFlowDep(bool cfd) { controlFlowDep = cfd; }
268
269     DATAFLOW_EXPORT virtual bool allowImprecision() { return false; }
270     DATAFLOW_EXPORT virtual bool widenAtPoint(AssignmentPtr) { return false; }
271     DATAFLOW_EXPORT virtual bool endAtPoint(AssignmentPtr) { return false; }
272     DATAFLOW_EXPORT virtual bool followCall(ParseAPI::Function * /*callee*/,
273                                            CallStack_t & /*cs*/,
274                                            AbsRegion /*argument*/) { 
275        return false; 
276     }
277     DATAFLOW_EXPORT virtual std::vector<ParseAPI::Function *> 
278         followCallBackward(ParseAPI::Block * /*callerB*/,
279             CallStack_t & /*cs*/,
280             AbsRegion /*argument*/) {
281             std::vector<ParseAPI::Function *> vec;
282             return vec;
283         }
284     DATAFLOW_EXPORT virtual bool addPredecessor(AbsRegion /*reg*/) {
285         return true;
286     }
287     DATAFLOW_EXPORT virtual bool widenAtAssignment(const AbsRegion & /*in*/,
288                                                   const AbsRegion & /*out*/) { 
289        return false; 
290     }
291     DATAFLOW_EXPORT virtual ~Predicates() {};
292
293     // Callback function when adding a new node to the slice.
294     // Return true if we want to continue slicing
295     DATAFLOW_EXPORT virtual bool addNodeCallback(AssignmentPtr,
296                                                  std::set<ParseAPI::Edge*> &) { return true;}
297     // Callback function after we have added new a node and corresponding new edges to the slice.
298     // This function allows users to inspect the current slice graph and determine which abslocs
299     // need further slicing and which abslocs are no longer interesting, by modifying the current
300     // SliceFrame.
301     DATAFLOW_EXPORT virtual bool modifyCurrentFrame(SliceFrame &, GraphPtr, Slicer*) {return true;}                                             
302     DATAFLOW_EXPORT Predicates() : clearCache(false), controlFlowDep(false) {}                                          
303
304   };
305
306   DATAFLOW_EXPORT GraphPtr forwardSlice(Predicates &predicates);
307   
308   DATAFLOW_EXPORT GraphPtr backwardSlice(Predicates &predicates);
309
310  private:
311
312   typedef enum {
313     forward,
314     backward } Direction;
315
316   typedef std::map<ParseAPI::Block *, InsnVec> InsnCache;
317
318   // Our slicing is context-sensitive; that is, if we enter
319   // a function foo from a caller bar, all return edges
320   // from foo must enter bar. This makes an assumption that
321   // the return address is not modified, but hey. 
322   // We represent this as a list of call sites. This is redundant
323   // with the image_instPoint data structure, but hopefully that
324   // one will be going away. 
325
326   bool getStackDepth(ParseAPI::Function *func, ParseAPI::Block *block, Address callAddr, long &height);
327
328   // Add the newly called function to the given Context.
329   void pushContext(Context &context,
330                    ParseAPI::Function *callee,
331                    ParseAPI::Block *callBlock,
332                    long stackDepth);
333
334   // And remove it as appropriate
335   void popContext(Context &context);
336
337   typedef std::queue<Location> LocList;
338  
339   bool ReachableFromBothBranches(ParseAPI::Edge *e, std::vector<Element> &newE);
340
341   // Used for keeping track of visited edges in the
342   // slicing search
343   struct CacheEdge {
344     CacheEdge(Address src, Address trg) : s(src), t(trg) { }
345     Address s;
346     Address t;
347
348     bool operator<(CacheEdge const& o) const {
349         if(s < o.s)
350             return true;
351         else if(o.s < s)
352             return false;
353         else if(t < o.t)
354             return true;
355         else
356             return false;
357     }
358   };
359
360     /* 
361      * An element that is a slicing `def' (where
362      * def means `definition' in the backward case
363      * and `use' in the forward case, along with
364      * the associated AbsRegion that labels the slicing
365      * edge.
366      *
367      * These two pieces of information, along with an 
368      * element describing the other end of the dependency,
369      * are what you need to create a slice edge.
370      */
371     struct Def {
372       Def(Element const& e, AbsRegion const& r) : ele(e), data(r) { } 
373       Element ele;
374       AbsRegion data;
375  
376       struct DefHasher {
377           size_t operator() (const Def &o) const {
378               return Assignment::AssignmentPtrHasher()(o.ele.ptr);
379           }
380       };
381       // only the Assignment::Ptr of an Element matters
382       // for comparison
383       bool operator<(Def const& o) const {
384           if(ele.ptr < o.ele.ptr)
385               return true;
386           else if(o.ele.ptr < ele.ptr)
387               return false;
388           else if(data < o.data)
389               return true;
390           else 
391               return false;
392       }
393
394       bool operator==(Def const &o) const {
395           if (ele.ptr != o.ele.ptr) return false;
396           return data == o.data;
397       }
398     };
399
400     /*
401      * A cache from AbsRegions -> Defs.
402      *
403      * Each node that has been visited in the search
404      * has a DefCache that reflects the resolution of
405      * any AbsRegions down-slice. If the node is visited
406      * again through a different search path (if the graph
407      * has fork-join structure), this caching prevents
408      * expensive recursion
409      */
410     class DefCache {
411       public:
412         DefCache() { }
413         ~DefCache() { }
414
415         // add the values from another defcache
416         void merge(DefCache const& o);
417    
418         // replace mappings in this cache with those
419         // from another 
420         void replace(DefCache const& o);
421
422         std::set<Def> & get(AbsRegion const& r) { 
423             return defmap[r];
424         }
425         bool defines(AbsRegion const& r) const {
426             return defmap.find(r) != defmap.end();
427         }
428
429         void print() const;
430
431       private:
432         std::map< AbsRegion, std::set<Def> > defmap;
433     
434     };
435
436     // For preventing insertion of duplicate edges
437     // into the slice graph
438     struct EdgeTuple {
439         EdgeTuple(SliceNode::Ptr src, SliceNode::Ptr dst, AbsRegion const& reg)
440           : s(src), d(dst), r(reg) { }
441         bool operator<(EdgeTuple const& o) const {
442             if(s < o.s)
443                 return true;
444             else if(o.s < s)
445                 return false;
446             else if(d < o.d)
447                 return true;
448             else if(o.d < d)
449                 return false;
450             else if(r < o.r)
451                 return true;
452             else
453                 return false;
454         }
455         bool operator == (EdgeTuple const &o) const {
456             if (s != o.s) return false;
457             if (d != o.d) return false;
458             return r == o.r;
459         }
460         SliceNode::Ptr s;
461         SliceNode::Ptr d;
462         AbsRegion r;
463     };
464
465   // Shift an abs region by a given stack offset
466   void shiftAbsRegion(AbsRegion const&callerReg,
467                       AbsRegion &calleeReg,
468                       long stack_depth,
469                       ParseAPI::Function *callee);
470
471     // Shift all of the abstract regions active in the current frame
472     void shiftAllAbsRegions(
473         SliceFrame & cur,
474         long stack_depth,
475         ParseAPI::Function *callee);
476
477   /*
478    * Internal slicing support routines follow. See the
479    * implementation file for descriptions of what these
480    * routines actually do to implement slicing.
481    */
482     GraphPtr sliceInternal(Direction dir,
483             Predicates &predicates);
484     void sliceInternalAux(
485             GraphPtr g,
486             Direction dir,
487             Predicates &p,
488             SliceFrame &cand,
489             bool skip,
490             std::map<CacheEdge, std::set<AbsRegion> > & visited,
491             std::map<Address,DefCache> & single,
492             std::map<Address, DefCache>& cache);
493
494     bool updateAndLink(
495             GraphPtr g,
496             Direction dir,
497             SliceFrame & cand,
498             DefCache & cache,
499             Predicates &p);
500
501     void updateAndLinkFromCache(
502             GraphPtr g,
503             Direction dir,
504             SliceFrame & f,
505             DefCache & cache);
506
507     void removeBlocked(
508             SliceFrame & f,
509             std::set<AbsRegion> const& block);
510
511     bool stopSlicing(SliceFrame::ActiveMap& active, 
512                      GraphPtr g,
513                      Address addr,
514                      Direction dir);
515
516
517     void markVisited(
518             std::map<CacheEdge, std::set<AbsRegion> > & visited,
519             CacheEdge const& e,
520             SliceFrame::ActiveMap const& active);
521
522     void cachePotential(
523             Direction dir,
524             Assignment::Ptr assn,
525             DefCache & cache);
526
527     bool findMatch(
528             GraphPtr g,
529             Direction dir,
530             SliceFrame const& cand,
531             AbsRegion const& cur,
532             Assignment::Ptr assn,
533             std::vector<Element> & matches,
534             DefCache & cache);
535
536     bool getNextCandidates(
537             Direction dir,
538             Predicates & p,
539             SliceFrame const& cand,
540             std::vector<SliceFrame> & newCands);
541
542     /* forward slicing */
543
544     bool getSuccessors(
545             Predicates &p,
546             SliceFrame const& cand,
547             std::vector<SliceFrame> & newCands);
548
549
550     bool handleCall(
551             Predicates & p,
552             SliceFrame & cur,
553             bool & err);
554
555     bool followCall(
556             Predicates & p,
557             ParseAPI::Block * target,
558             SliceFrame & cur);
559
560     bool handleCallDetails(
561             SliceFrame & cur,
562             ParseAPI::Block * caller_block);
563
564     bool handleReturn(
565             Predicates & p,
566             SliceFrame & cur,
567             bool & err);
568
569     void handleReturnDetails(
570             SliceFrame & cur);
571
572     bool handleDefault(
573             Direction dir,
574             Predicates & p,
575             ParseAPI::Edge * e,
576             SliceFrame & cur,
577             bool & err);
578
579     /* backwards slicing */
580
581     bool getPredecessors(
582             Predicates &p,
583             SliceFrame const& cand,
584             std::vector<SliceFrame> & newCands);
585
586     bool handleCallBackward(
587             Predicates & p,
588             SliceFrame const& cand,
589             std::vector<SliceFrame> & newCands,
590             ParseAPI::Edge * e,
591             bool & err);
592
593     std::vector<ParseAPI::Function *> followCallBackward(
594             Predicates & p,
595             SliceFrame const& cand,
596             AbsRegion const& reg,
597             ParseAPI::Block * caller_block);
598
599     bool handleCallDetailsBackward(
600             SliceFrame & cur);
601
602     bool handleReturnBackward(
603             Predicates & p,
604             SliceFrame const& cand,
605             SliceFrame & newCand,
606             ParseAPI::Edge * e,
607             bool & err);
608
609     bool handleReturnDetailsBackward(
610             SliceFrame & cur,
611             ParseAPI::Block * caller_block);
612
613     bool followReturn(
614             Predicates & p,
615             SliceFrame const& cand,
616             ParseAPI::Block * source);
617     void handlePredecessorEdge(ParseAPI::Edge* e,
618                                Predicates& p,
619                                SliceFrame const& cand,
620                                std::vector<SliceFrame> & newCands,
621                                bool& err,
622                                SliceFrame& nf);
623   
624
625     /* general slicing support */
626   
627     void constructInitialFrame(
628             Direction dir, 
629             SliceFrame & initFrame);
630     
631     void widenAll(GraphPtr graph, Direction dir, SliceFrame const& frame);
632   
633   bool kills(AbsRegion const& reg, Assignment::Ptr &assign);
634
635   void widen(GraphPtr graph, Direction dir, Element const&source);
636
637   void insertPair(GraphPtr graph,
638                   Direction dir,
639                   Element const&source,
640                   Element const&target,
641           AbsRegion const& data);
642
643   void insertPair(GraphPtr graph,
644                   Direction dir,
645                   SliceNode::Ptr& source,
646                   SliceNode::Ptr& target,
647           AbsRegion const& data);
648
649   void convertInstruction(InstructionPtr,
650                           Address,
651                           ParseAPI::Function *,
652                           ParseAPI::Block *,
653                           std::vector<AssignmentPtr> &);
654
655   void fastForward(Location &loc, Address addr);
656
657   void fastBackward(Location &loc, Address addr);
658
659   SliceNode::Ptr widenNode();
660
661   void markAsEndNode(GraphPtr ret, Direction dir, Element &current);
662   
663   void markAsExitNode(GraphPtr ret, Element &current);
664
665   void markAsEntryNode(GraphPtr ret, Element &current);
666
667   void getInsns(Location &loc);
668
669 public:
670   void getInsnsBackward(Location &loc);
671
672 private:  
673
674   void setAliases(Assignment::Ptr, Element &);
675
676   SliceNode::Ptr createNode(Element const&);
677
678   void cleanGraph(GraphPtr g);
679
680   void promotePlausibleNodes(GraphPtr g, Direction d);
681
682   ParseAPI::Block *getBlock(ParseAPI::Edge *e,
683                             Direction dir);
684   
685
686   void insertInitialNode(GraphPtr ret, Direction dir, SliceNode::Ptr aP);
687
688   void mergeRecursiveCaches(std::map<Address, DefCache>& sc, std::map<Address, DefCache>& c, Address a);
689
690   InsnCache insnCache_;
691
692   AssignmentPtr a_;
693   ParseAPI::Block *b_;
694   ParseAPI::Function *f_;
695
696
697   // Assignments map to unique slice nodes
698   std::unordered_map<AssignmentPtr, SliceNode::Ptr, Assignment::AssignmentPtrHasher> created_;
699
700   // cache to prevent edge duplication
701   struct EdgeTupleHasher {
702     size_t operator() (const EdgeTuple& et) const {
703         size_t seed = (size_t)(et.s.get());
704         boost::hash_combine( seed , (size_t)(et.d.get()));
705         return seed;
706     }
707   };
708   std::unordered_map<EdgeTuple, int, EdgeTupleHasher> unique_edges_;
709
710   // map of previous active maps. these are used to end recursion.
711   typedef std::map<AbsRegion, std::set<Element> > PrevMap;
712   std::map<Address, PrevMap> prev_maps;
713
714   // set of plausible entry/exit nodes.
715   std::set<SliceNode::Ptr> plausibleNodes;
716
717   // a stack and set of addresses that mirror our recursion.
718   // these are used to detect loops and properly merge cache.
719   std::deque<Address> addrStack;
720   std::set<Address> addrSet;
721
722   AssignmentConverter converter;
723
724   SliceNode::Ptr widen_;
725  public: 
726   // A set of edges that have been visited during slicing,
727   // which can be used for external users to figure out
728   // which part of code has been analyzed
729   std::set<ParseAPI::Edge*> visitedEdges;
730 };
731
732 }
733
734 #endif