fixed problems with handling of fork and exec
[dyninst.git] / paradynd / src / init-sunos.C
1 /*
2  * Copyright (c) 1996 Barton P. Miller
3  * 
4  * We provide the Paradyn Parallel Performance Tools (below
5  * described as Paradyn") on an AS IS basis, and do not warrant its
6  * validity or performance.  We reserve the right to update, modify,
7  * or discontinue this software at any time.  We shall have no
8  * obligation to supply such updates or modifications or any other
9  * form of support to you.
10  * 
11  * This license is for research uses.  For such uses, there is no
12  * charge. We define "research use" to mean you may freely use it
13  * inside your organization for whatever purposes you see fit. But you
14  * may not re-distribute Paradyn or parts of Paradyn, in any form
15  * source or binary (including derivatives), electronic or otherwise,
16  * to any other organization or entity without our permission.
17  * 
18  * (for other uses, please contact us at paradyn@cs.wisc.edu)
19  * 
20  * All warranties, including without limitation, any warranty of
21  * merchantability or fitness for a particular purpose, are hereby
22  * excluded.
23  * 
24  * By your use of Paradyn, you understand and agree that we (or any
25  * other person or entity with proprietary rights in Paradyn) are
26  * under no obligation to provide either maintenance services,
27  * update services, notices of latent defects, or correction of
28  * defects for Paradyn.
29  * 
30  * Even if advised of the possibility of such damages, under no
31  * circumstances shall we (or any other person or entity with
32  * proprietary rights in the software licensed hereunder) be liable
33  * to you or any third party for direct, indirect, or consequential
34  * damages of any character regardless of type of action, including,
35  * without limitation, loss of profits, loss of use, loss of good
36  * will, or computer failure or malfunction.  You agree to indemnify
37  * us (and any other person or entity with proprietary rights in the
38  * software licensed hereunder) for any and all liability it may
39  * incur to third parties resulting from your use of Paradyn.
40  */
41
42 /*
43  * $Log: init-sunos.C,v $
44  * Revision 1.14  1996/12/11 17:02:48  mjrg
45  * fixed problems with handling of fork and exec
46  *
47  * Revision 1.13  1996/11/14 14:27:00  naim
48  * Changing AstNodes back to pointers to improve performance - naim
49  *
50  * Revision 1.12  1996/10/31 08:44:32  tamches
51  * in initOS(), main no longer calls DYNINSTinit
52  *
53  * Revision 1.11  1996/09/26 18:58:32  newhall
54  * added support for instrumenting dynamic executables on sparc-solaris
55  * platform
56  *
57  * Revision 1.10  1996/08/16 21:18:44  tamches
58  * updated copyright for release 1.1
59  *
60  * Revision 1.9  1996/08/12 16:27:16  mjrg
61  * Code cleanup: removed cm5 kludges and some unused code
62  *
63  * Revision 1.8  1996/05/08 23:54:45  mjrg
64  * added support for handling fork and exec by an application
65  * use /proc instead of ptrace on solaris
66  * removed warnings
67  *
68  * Revision 1.7  1996/03/20 17:02:44  mjrg
69  * Added multiple arguments to calls.
70  * Instrument pvm_send instead of pvm_recv to get tags.
71  *
72  * Revision 1.6  1996/03/01 22:31:59  mjrg
73  * Replaced calls at the exit point by a call to DYNINSTexit
74  *
75  * Revision 1.5  1995/12/15 22:26:48  mjrg
76  * Merged paradynd and paradyndPVM
77  * Get module name for functions from symbol table in solaris
78  * Fixed code generation for multiple instrumentation statements
79  * Changed syntax of MDL resource lists
80  *
81  * Revision 1.4  1995/08/24  15:03:54  hollings
82  * AIX/SP-2 port (including option for split instruction/data heaps)
83  * Tracing of rexec (correctly spawns a paradynd if needed)
84  * Added rtinst function to read getrusage stats (can now be used in metrics)
85  * Critical Path
86  * Improved Error reporting in MDL sematic checks
87  * Fixed MDL Function call statement
88  * Fixed bugs in TK usage (strings passed where UID expected)
89  *
90  */
91
92 #include "metric.h"
93 #include "internalMetrics.h"
94 #include "inst.h"
95 #include "init.h"
96 #include "ast.h"
97 #include "util.h"
98 #include "os.h"
99
100 // NOTE - the tagArg integer number starting with 0.  
101 static AstNode *tagArg = new AstNode(AstNode::Param, (void *) 1);
102 static AstNode *cmdArg = new AstNode(AstNode::Param, (void *) 4);
103 static AstNode *tidArg = new AstNode(AstNode::Param, (void *) 0);
104 static AstNode *retVal = new AstNode(AstNode::ReturnVal, (void *) 0);
105
106 bool initOS() {
107
108 //  initialRequests += new instMapping("main", "DYNINSTinit", FUNC_ENTRY);
109 // (obsoleted by installBootstrapInst() --ari)
110
111
112   initialRequests += new instMapping("main", "DYNINSTexit", FUNC_EXIT);
113
114   initialRequests += new instMapping(EXIT_NAME, "DYNINSTexit", FUNC_ENTRY);
115
116   initialRequests += new instMapping("fork", "DYNINSTfork", 
117                                      FUNC_EXIT|FUNC_ARG, retVal);
118   initialRequests += new instMapping("_libc_fork", "DYNINSTfork", 
119                                      FUNC_EXIT|FUNC_ARG, retVal);
120
121   initialRequests += new instMapping("execve", "DYNINSTexec",
122                                      FUNC_ENTRY|FUNC_ARG, tidArg);
123   initialRequests += new instMapping("execve", "DYNINSTexecFailed", FUNC_EXIT);
124   initialRequests += new instMapping("_execve", "DYNINSTexec",
125                                      FUNC_ENTRY|FUNC_ARG, tidArg);
126   initialRequests += new instMapping("_execve", "DYNINSTexecFailed", FUNC_EXIT);
127
128 #ifndef SHM_SAMPLING
129   initialRequests += new instMapping("DYNINSTsampleValues", "DYNINSTreportNewTags",
130                                  FUNC_ENTRY);
131 #endif
132
133   initialRequests += new instMapping("rexec", "DYNINSTrexec",
134                                  FUNC_ENTRY|FUNC_ARG, cmdArg);
135 //   initialRequests += new instMapping("PROCEDURE_LINKAGE_TABLE","DYNINSTdynlinker",FUNC_ENTRY);
136
137
138 #ifdef PARADYND_PVM
139   char *doPiggy;
140
141   initialRequests += new instMapping("pvm_send", "DYNINSTrecordTag",
142                                  FUNC_ENTRY|FUNC_ARG, tagArg);
143
144   // kludge to get Critical Path to work.
145   // XXX - should be tunable constant.
146   doPiggy = getenv("DYNINSTdoPiggy");
147   if (doPiggy) {
148       initialRequests += new instMapping("main", "DYNINSTpvmPiggyInit", FUNC_ENTRY);
149       initialRequests+= new instMapping("pvm_send", "DYNINSTpvmPiggySend",
150                            FUNC_ENTRY|FUNC_ARG, tidArg);
151       initialRequests += new instMapping("pvm_recv", "DYNINSTpvmPiggyRecv", FUNC_EXIT);
152       initialRequests += new instMapping("pvm_mcast", "DYNINSTpvmPiggyMcast",
153                            FUNC_ENTRY|FUNC_ARG, tidArg);
154   }
155 #endif
156
157   return true;
158 };