Revert "Revert "and added files""
[bcm963xx.git] / userapps / opensource / ipsec-tools / src / racoon / oakley.h
1 /* $Id: oakley.h,v 1.9 2004/10/24 17:37:00 manubsd Exp $ */
2
3 /*
4  * Copyright (C) 1995, 1996, 1997, and 1998 WIDE Project.
5  * All rights reserved.
6  * 
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  * 1. Redistributions of source code must retain the above copyright
11  *    notice, this list of conditions and the following disclaimer.
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  * 3. Neither the name of the project nor the names of its contributors
16  *    may be used to endorse or promote products derived from this software
17  *    without specific prior written permission.
18  * 
19  * THIS SOFTWARE IS PROVIDED BY THE PROJECT AND CONTRIBUTORS ``AS IS'' AND
20  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
21  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
22  * ARE DISCLAIMED.  IN NO EVENT SHALL THE PROJECT OR CONTRIBUTORS BE LIABLE
23  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
24  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
25  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
26  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
27  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
28  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
29  * SUCH DAMAGE.
30  */
31
32 #ifndef _OAKLEY_H
33 #define _OAKLEY_H
34
35 #include "vmbuf.h"
36
37 /* refer to RFC 2409 */
38
39 /* Attribute Classes */
40 #define OAKLEY_ATTR_ENC_ALG             1 /* B */
41 #define   OAKLEY_ATTR_ENC_ALG_DES               1
42 #define   OAKLEY_ATTR_ENC_ALG_IDEA              2
43 #define   OAKLEY_ATTR_ENC_ALG_BLOWFISH          3
44 #define   OAKLEY_ATTR_ENC_ALG_RC5               4
45 #define   OAKLEY_ATTR_ENC_ALG_3DES              5
46 #define   OAKLEY_ATTR_ENC_ALG_CAST              6
47 #define   OAKLEY_ATTR_ENC_ALG_AES               7
48                                         /*      65001 - 65535 Private Use */
49 #define OAKLEY_ATTR_HASH_ALG            2 /* B */
50 #define   OAKLEY_ATTR_HASH_ALG_MD5              1
51 #define   OAKLEY_ATTR_HASH_ALG_SHA              2
52 #define   OAKLEY_ATTR_HASH_ALG_TIGER            3
53 #if defined(WITH_SHA2)
54 #define   OAKLEY_ATTR_HASH_ALG_SHA2_256         4
55 #define   OAKLEY_ATTR_HASH_ALG_SHA2_384         5
56 #define   OAKLEY_ATTR_HASH_ALG_SHA2_512         6
57 #endif
58                                         /*      65001 - 65535 Private Use */
59 #define OAKLEY_ATTR_AUTH_METHOD         3 /* B */
60 #define   OAKLEY_ATTR_AUTH_METHOD_PSKEY         1
61 #define   OAKLEY_ATTR_AUTH_METHOD_DSSSIG        2
62 #define   OAKLEY_ATTR_AUTH_METHOD_RSASIG        3
63 #define   OAKLEY_ATTR_AUTH_METHOD_RSAENC        4
64 #define   OAKLEY_ATTR_AUTH_METHOD_RSAREV        5
65 #define   OAKLEY_ATTR_AUTH_METHOD_EGENC         6
66 #define   OAKLEY_ATTR_AUTH_METHOD_EGREV         7
67         /* Hybrid Auth */
68 #ifdef ENABLE_HYBRID    
69 #define   OAKLEY_ATTR_AUTH_METHOD_HYBRID_RSA_I  64221
70 #define   OAKLEY_ATTR_AUTH_METHOD_HYBRID_RSA_R  64222
71 #define   OAKLEY_ATTR_AUTH_METHOD_HYBRID_DSS_I  64223
72 #define   OAKLEY_ATTR_AUTH_METHOD_HYBRID_DSS_R  64224
73
74                                         /*      65001 - 65535 Private Use */
75
76         /* Plain Xauth, Not implemented */
77 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_PSKEY_I   65001
78 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_PSKEY_R   65002
79 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_DSSSIG_I  65003
80 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_DSSSIG_R  65004
81 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_RSASIG_I  65005
82 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_RSASIG_R  65006
83 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_RSAENC_I  65007
84 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_RSAENC_R  65008
85 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_RSAREV_I  65009
86 #define OAKLEY_ATTR_AUTH_METHOD_XAUTH_RSAREV_R  65010
87 #endif
88
89         /*
90          * The following are valid when the Vendor ID is one of
91          * the following:
92          *
93          *      MD5("A GSS-API Authentication Method for IKE")
94          *      MD5("GSSAPI") (recognized by Windows 2000)
95          *      MD5("MS NT5 ISAKMPOAKLEY") (sent by Windows 2000)
96          */
97 #define   OAKLEY_ATTR_AUTH_METHOD_GSSAPI_KRB    65001
98 #define OAKLEY_ATTR_GRP_DESC            4 /* B */
99 #define   OAKLEY_ATTR_GRP_DESC_MODP768          1
100 #define   OAKLEY_ATTR_GRP_DESC_MODP1024         2
101 #define   OAKLEY_ATTR_GRP_DESC_EC2N155          3
102 #define   OAKLEY_ATTR_GRP_DESC_EC2N185          4
103 #define   OAKLEY_ATTR_GRP_DESC_MODP1536         5
104 #define   OAKLEY_ATTR_GRP_DESC_MODP2048         14
105 #define   OAKLEY_ATTR_GRP_DESC_MODP3072         15
106 #define   OAKLEY_ATTR_GRP_DESC_MODP4096         16
107 #define   OAKLEY_ATTR_GRP_DESC_MODP6144         17
108 #define   OAKLEY_ATTR_GRP_DESC_MODP8192         18
109                                         /*      32768 - 65535 Private Use */
110 #define OAKLEY_ATTR_GRP_TYPE            5 /* B */
111 #define   OAKLEY_ATTR_GRP_TYPE_MODP             1
112 #define   OAKLEY_ATTR_GRP_TYPE_ECP              2
113 #define   OAKLEY_ATTR_GRP_TYPE_EC2N             3
114                                         /*      65001 - 65535 Private Use */
115 #define OAKLEY_ATTR_GRP_PI              6 /* V */
116 #define OAKLEY_ATTR_GRP_GEN_ONE         7 /* V */
117 #define OAKLEY_ATTR_GRP_GEN_TWO         8 /* V */
118 #define OAKLEY_ATTR_GRP_CURVE_A         9 /* V */
119 #define OAKLEY_ATTR_GRP_CURVE_B         10 /* V */
120 #define OAKLEY_ATTR_SA_LD_TYPE          11 /* B */
121 #define   OAKLEY_ATTR_SA_LD_TYPE_DEFAULT        1
122 #define   OAKLEY_ATTR_SA_LD_TYPE_SEC            1
123 #define   OAKLEY_ATTR_SA_LD_TYPE_KB             2
124 #define   OAKLEY_ATTR_SA_LD_TYPE_MAX            3
125                                         /*      65001 - 65535 Private Use */
126 #define OAKLEY_ATTR_SA_LD               12 /* V */
127 #define   OAKLEY_ATTR_SA_LD_SEC_DEFAULT         28800 /* 8 hours */
128 #define OAKLEY_ATTR_PRF                 13 /* B */
129 #define OAKLEY_ATTR_KEY_LEN             14 /* B */
130 #define OAKLEY_ATTR_FIELD_SIZE          15 /* B */
131 #define OAKLEY_ATTR_GRP_ORDER           16 /* V */
132 #define OAKLEY_ATTR_BLOCK_SIZE          17 /* B */
133                                 /*      16384 - 32767 Private Use */
134
135         /*
136          * The following are valid when the Vendor ID is one of
137          * the following:
138          *
139          *      MD5("A GSS-API Authentication Method for IKE")
140          *      MD5("GSSAPI") (recognized by Windows 2000)
141          *      MD5("MS NT5 ISAKMPOAKLEY") (sent by Windows 2000)
142          */
143 #define OAKLEY_ATTR_GSS_ID              16384
144
145 #define MAXPADLWORD     20
146
147 struct dhgroup {
148         int type;
149         vchar_t *prime;
150         int gen1;
151         int gen2;
152         vchar_t *curve_a;
153         vchar_t *curve_b;
154         vchar_t *order;
155 };
156
157 /* certificate holder */
158 typedef struct cert_t_tag {
159         u_int8_t type;          /* type of CERT, must be same to pl->v[0]*/
160         vchar_t cert;           /* pointer to the CERT */
161         vchar_t *pl;            /* CERT payload minus isakmp general header */
162 } cert_t;
163
164 struct ph1handle;
165 struct ph2handle;
166 struct isakmp_ivm;
167
168 extern int oakley_get_defaultlifetime __P((void));
169
170 extern int oakley_dhinit __P((void));
171 extern void oakley_dhgrp_free __P((struct dhgroup *));
172 extern int oakley_dh_compute __P((const struct dhgroup *,
173         vchar_t *, vchar_t *, vchar_t *, vchar_t **));
174 extern int oakley_dh_generate __P((const struct dhgroup *,
175         vchar_t **, vchar_t **));
176 extern int oakley_setdhgroup __P((int, struct dhgroup **));
177
178 extern vchar_t *oakley_prf __P((vchar_t *, vchar_t *, struct ph1handle *));
179 extern vchar_t *oakley_hash __P((vchar_t *, struct ph1handle *));
180
181 extern int oakley_compute_keymat __P((struct ph2handle *, int));
182
183 #if notyet
184 extern vchar_t *oakley_compute_hashx __P((void));
185 #endif
186 extern vchar_t *oakley_compute_hash3 __P((struct ph1handle *,
187         u_int32_t, vchar_t *));
188 extern vchar_t *oakley_compute_hash1 __P((struct ph1handle *,
189         u_int32_t, vchar_t *));
190 extern vchar_t *oakley_ph1hash_common __P((struct ph1handle *, int));
191 extern vchar_t *oakley_ph1hash_base_i __P((struct ph1handle *, int));
192 extern vchar_t *oakley_ph1hash_base_r __P((struct ph1handle *, int));
193
194 extern int oakley_validate_auth __P((struct ph1handle *));
195 extern int oakley_getmycert __P((struct ph1handle *));
196 extern int oakley_getsign __P((struct ph1handle *));
197 extern vchar_t *oakley_getcr __P((struct ph1handle *));
198 extern int oakley_checkcr __P((struct ph1handle *));
199 extern int oakley_needcr __P((int));
200 struct isakmp_gen;
201 extern int oakley_savecert __P((struct ph1handle *, struct isakmp_gen *));
202 extern int oakley_savecr __P((struct ph1handle *, struct isakmp_gen *));
203
204 extern int oakley_skeyid __P((struct ph1handle *));
205 extern int oakley_skeyid_dae __P((struct ph1handle *));
206
207 extern int oakley_compute_enckey __P((struct ph1handle *));
208 extern cert_t *oakley_newcert __P((void));
209 extern void oakley_delcert __P((cert_t *));
210 extern int oakley_newiv __P((struct ph1handle *));
211 extern struct isakmp_ivm *oakley_newiv2 __P((struct ph1handle *, u_int32_t));
212 extern void oakley_delivm __P((struct isakmp_ivm *));
213 extern vchar_t *oakley_do_decrypt __P((struct ph1handle *,
214         vchar_t *, vchar_t *, vchar_t *));
215 extern vchar_t *oakley_do_encrypt __P((struct ph1handle *,
216         vchar_t *, vchar_t *, vchar_t *));
217
218 #endif /* _OAKLEY_H */