source: trunk/source/library/elf.lisp @ 13279

Last change on this file since 13279 was 13279, checked in by gb, 10 years ago

Lots of changes from "purify" branch, mostly involving:

  • new memory layout, to support x86 function purification, static cons
  • fasloader changes to load/save string constants faster

Fasl version, image version changed; new binaries for all platforms soon.

File size: 19.0 KB
Line 
1;;; Copyright 2009 Clozure Associates
2;;; This file is part of Clozure CL. 
3;;;
4;;; Clozure CL is licensed under the terms of the Lisp Lesser GNU
5;;; Public License , known as the LLGPL and distributed with Clozure
6;;; CL as the file "LICENSE".  The LLGPL consists of a preamble and
7;;; the LGPL, which is distributed with Clozure CL as the file "LGPL".
8;;; Where these conflict, the preamble takes precedence.
9;;;
10;;; Clozure CL is referenced in the preamble as the "LIBRARY."
11;;;
12;;; The LLGPL is also available online at
13;;; http://opensource.franz.com/preamble.html
14
15(in-package "CCL")
16
17(eval-when (:compile-toplevel :execute)
18  (use-interface-dir :elf))
19
20
21(defloadvar *readonly-area*
22    (do-consing-areas (a)
23      (when (eql (%fixnum-ref a target::area.code)
24                 ccl::area-readonly)
25        (return a))))
26
27;;; String tables: used both for symbol names and for section names.
28(defstruct elf-string-table
29  (hash (make-hash-table :test #'equal))
30  (string (make-array 100 :element-type '(unsigned-byte 8) :fill-pointer 1 :adjustable t)))
31
32;;; Collect info about Elf symbols.
33(defstruct elf-symbol-table
34  (strings (make-elf-string-table))
35  data                                  ; foreign pointer
36  nsyms
37  )
38
39;;; Wrapper around libelf's "elf" pointer
40(defstruct elf-object
41  libelf-pointer
42  fd
43  pathname
44  )
45
46
47;;; Is libelf thread-safe ?  Who knows, there's no
48;;; documentation ...
49(defun libelf-error-string (&optional (errnum -1))
50  (let* ((p (#_elf_errmsg errnum)))
51    (if (%null-ptr-p p)
52      (format nil "ELF error ~d" errnum)
53      (%get-cstring p))))
54
55(defloadvar *checked-libelf-version* nil)
56
57(defun check-libelf-version ()
58  (or *checked-libelf-version*
59      (progn
60        (open-shared-library "libelf.so")
61        (let* ((version (#_elf_version #$EV_CURRENT)))
62          (if (eql #$EV_NONE version)
63            (error "ELF library initialization failed: ~a" (libelf-error-string)))
64          (setq *checked-libelf-version* version)))))
65
66
67;;; Prepate to create an ELF object file at PATHNAME, overwriting
68;;; whatever might have been there.
69(defun create-elf-object (pathname)
70  (let* ((namestring (native-translated-namestring pathname))
71         (fd (ccl::fd-open namestring
72                           (logior #$O_RDWR #$O_CREAT #$O_TRUNC)
73                           #o755)))
74    (if (< fd 0)
75      (signal-file-error fd pathname)
76      (progn
77        (check-libelf-version)
78        (let* ((ptr (#_elf_begin fd #$ELF_C_WRITE +null-ptr+)))
79          (if (%null-ptr-p ptr)
80            (error "Can't initialize libelf object for ~s: ~a"
81                   pathname (libelf-error-string))
82            (make-elf-object :libelf-pointer (assert-pointer-type ptr :<E>lf)
83                             :fd fd
84                             :pathname pathname)))))))
85
86(defun elf-end (object)
87  (#_elf_end (elf-object-libelf-pointer object))
88  (setf (elf-object-libelf-pointer object) nil
89        (elf-object-fd object) nil))
90
91(defun new-elf-file-header (object format type machine)
92  (let* ((ehdr (#+64-bit-target #_elf64_newehdr #+32-bit-target #_elf32_newehdr (elf-object-libelf-pointer object))))
93    (if (%null-ptr-p ehdr)
94      (error "Can't create ELF file header for ~s: ~a"
95             (elf-object-pathname object)
96             (libelf-error-string))
97      (progn
98        (setf (paref (pref ehdr
99                           #+64-bit-target :<E>lf64_<E>hdr.e_ident
100                           #+32-bit-target :<E>lf32_<E>hdr.e_ident) (:* :unsigned-char) #$EI_DATA) format
101              (pref ehdr
102                    #+64-bit-target :<E>lf64_<E>hdr.e_machine
103                    #+32-bit-target :<E>lf32_<E>hdr.e_machine) machine
104              (pref ehdr
105                    #+64-bit-target :<E>lf64_<E>hdr.e_type
106                    #+32-bit-target :<E>lf32_<E>hdr.e_type) type
107              (pref ehdr
108                    #+64-bit-target :<E>lf64_<E>hdr.e_version
109                    #+32-bit-target :<E>lf32_<E>hdr.e_version) *checked-libelf-version*)
110        (assert-pointer-type ehdr
111                             #+64-bit-target :<E>lf64_<E>hdr
112                             #+32-bit-target :<E>lf32_<E>hdr)))))
113
114(defun new-elf-program-header (object &optional (count 1))
115  (let* ((phdr (#+64-bit-target #_elf64_newphdr #+32-bit-target #_elf32_newphdr (elf-object-libelf-pointer object) count)))
116    (if (%null-ptr-p phdr)
117      (error "Can't create ELF program header for ~s: ~a"
118             (elf-object-pathname object)
119             (libelf-error-string))
120      (assert-pointer-type phdr
121                           #+64-bit-target :<E>lf64_<P>hdr
122                           #+32-bit-target :<E>lf32_<P>hdr))))
123
124(defun new-elf-section (object)
125  (let* ((scn (#_elf_newscn (elf-object-libelf-pointer object))))
126    (if (%null-ptr-p scn)
127      (error "Can' create ELF section for ~s: ~a"
128             (elf-object-pathname object)
129             (libelf-error-string))
130      (assert-pointer-type scn :<E>lf_<S>cn))))
131
132(defun elf-section-header-for-section (object section)
133  (let* ((shdr (#+64-bit-target #_elf64_getshdr #+32-bit-target #_elf32_getshdr  section)))
134    (if (%null-ptr-p shdr)
135      (error "Can' obtain ELF section header for ~s: ~a"
136             (elf-object-pathname object)
137             (libelf-error-string))
138      (assert-pointer-type shdr
139                           #+64-bit-target :<E>lf64_<S>hdr
140                           #+32-bit-target :<E>lf32_<S>hdr))))
141
142(defun elf-data-pointer-for-section (object section)
143  (let* ((data (#_elf_newdata section)))
144    (if (%null-ptr-p data)
145      (error "Can' obtain ELF data pointer for ~s: ~a"
146             (elf-object-pathname object)
147             (libelf-error-string))
148      (assert-pointer-type data :<E>lf_<D>ata))))
149                   
150
151(defun elf-register-string (string table)
152  (let* ((hash (elf-string-table-hash table))
153         (s (elf-string-table-string table)))
154    (when (gethash string hash)
155      (format t "~& duplicate: ~s" string))
156    (or (gethash string hash)
157        (setf (gethash string hash)
158              (let* ((n (length s)))
159                (dotimes (i (length string) (progn (vector-push-extend 0 s) n))
160                  (let* ((code (char-code (char string i))))
161                    (declare (type (mod #x110000) code))
162                    (if (> code 255)
163                      (vector-push-extend (char-code #\sub) s)
164                      (vector-push-extend code s)))))))))
165
166
167(defun elf-lisp-function-name (f)
168  (let* ((name (format nil "~s" f)))
169    (subseq (nsubstitute #\0 #\# (nsubstitute #\. #\Space name)) 1)))
170
171
172
173(defun collect-elf-static-functions ()
174  (collect ((functions))
175    (purify)
176    (block walk
177      (%map-areas (lambda (o)
178                    (when (typep o
179                                 #+x8664-target 'function-vector
180                                 #-x8664-target 'function)
181                      (functions (function-vector-to-function o))))
182                  ccl::area-readonly
183                  ccl::area-readonly
184                  ))
185    (functions)))
186
187(defun register-elf-functions (section-number)
188  (let* ((functions (collect-elf-static-functions))
189         (n (length functions))
190         (data (#_calloc (1+ n) (record-length #+64-bit-target :<E>lf64_<S>ym
191                                               #+32-bit-target :<E>lf32_<S>ym)))
192         (string-table (make-elf-string-table)))
193    (declare (fixnum n))
194    (do* ((i 0 (1+ i))
195          (p (%inc-ptr data
196                       (record-length #+64-bit-target :<E>lf64_<S>ym
197                                      #+32-bit-target :<E>lf32_<S>ym))
198             (progn (%incf-ptr p
199                               (record-length #+64-bit-target :<E>lf64_<S>ym
200                                              #+32-bit-target :<E>lf32_<S>ym))
201                    p))
202          (f (pop functions) (pop functions)))
203         ((= i n)
204          (make-elf-symbol-table :strings string-table :data data :nsyms n))
205      (declare (fixnum n))
206      (setf (pref p
207                  #+64-bit-target :<E>lf64_<S>ym.st_name
208                  #+32-bit-target :<E>lf32_<S>ym.st_name)
209            (elf-register-string (elf-lisp-function-name f) string-table)
210            (pref p
211                  #+64-bit-target :<E>lf64_<S>ym.st_info
212                  #+32-bit-target :<E>lf32_<S>ym.st_info)
213            (logior (ash #$STB_GLOBAL 4) #$STT_FUNC)
214            (pref p
215                  #+64-bit-target :<E>lf64_<S>ym.st_shndx
216                  #+32-bit-target :<E>lf32_<S>ym.st_shndx) section-number
217            (pref p
218                  #+64-bit-target :<E>lf64_<S>ym.st_value
219                  #+32-bit-target :<E>lf32_<S>ym.st_value) (%address-of f)
220            (pref p
221                  #+64-bit-target :<E>lf64_<S>ym.st_size
222                  #+32-bit-target :<E>lf32_<S>ym.st_size) (1+ (ash (1- (%function-code-words f)) target::word-shift))))))
223
224(defun elf-section-index (section)
225  (#_elf_ndxscn section))
226
227(defun elf-set-shstrab-section (object scn)
228  #+freebsd-target
229  (#_elf_setshstrndx (elf-object-libelf-pointer object) (elf-section-index scn))
230  #-freebsd-target
231  (declare (ignore object scn)))
232
233
234(defun elf-init-section-data-from-string-table (object section string-table)
235  (let* ((strings-data (elf-data-pointer-for-section object section))
236         (s (elf-string-table-string string-table))
237         (bytes (array-data-and-offset s))
238         (n (length s))
239         (buf (#_malloc n)))
240    (%copy-ivector-to-ptr bytes 0 buf 0 n)
241    (setf (pref strings-data :<E>lf_<D>ata.d_align) 1
242          (pref strings-data :<E>lf_<D>ata.d_off) 0
243          (pref strings-data :<E>lf_<D>ata.d_type) #$ELF_T_BYTE
244          (pref strings-data :<E>lf_<D>ata.d_version) #$EV_CURRENT
245          (pref strings-data :<E>lf_<D>ata.d_size) n
246          (pref strings-data :<E>lf_<D>ata.d_buf) buf)
247    n))
248
249(defun elf-init-symbol-section-from-symbol-table (object section symbols)
250  (let* ((symbols-data (elf-data-pointer-for-section object section))
251         (buf (elf-symbol-table-data symbols))
252         (nsyms (elf-symbol-table-nsyms symbols) )
253         (n (* (1+ nsyms) (record-length #+64-bit-target :<E>lf64_<S>ym
254                                         #+32-bit-target :<E>lf32_<S>ym))))
255    (setf (pref symbols-data :<E>lf_<D>ata.d_align) 8
256          (pref symbols-data :<E>lf_<D>ata.d_off) 0
257          (pref symbols-data :<E>lf_<D>ata.d_type) #$ELF_T_SYM
258          (pref symbols-data :<E>lf_<D>ata.d_version) #$EV_CURRENT
259          (pref symbols-data :<E>lf_<D>ata.d_size) n
260          (pref symbols-data :<E>lf_<D>ata.d_buf) buf)
261    nsyms))
262
263(defun elf-make-empty-data-for-section (object section &optional (size 0))
264  (let* ((data (elf-data-pointer-for-section object section))
265         (buf +null-ptr+))
266    (setf (pref data :<E>lf_<D>ata.d_align) 0
267          (pref data :<E>lf_<D>ata.d_off) 0
268          (pref data :<E>lf_<D>ata.d_type) #$ELF_T_BYTE
269          (pref data :<E>lf_<D>ata.d_version) #$EV_CURRENT
270          (pref data :<E>lf_<D>ata.d_size) size
271          (pref data :<E>lf_<D>ata.d_buf) buf)
272    0))
273 
274
275(defun elf-flag-phdr (object cmd flags)
276  (#_elf_flagphdr (elf-object-libelf-pointer object) cmd flags))
277
278(defun elf-update (object cmd)
279  (let* ((size (#_elf_update (elf-object-libelf-pointer object) cmd)))
280    (if (< size 0)
281      (error "elf_update failed for for ~s: ~a"
282             (elf-object-pathname object)
283             (libelf-error-string))
284      size)))
285
286(defun fixup-lisp-section-offset (fd eof sectnum)
287  (fd-lseek fd 0 #$SEEK_SET)
288  (rlet ((fhdr #+64-bit-target :<E>lf64_<E>hdr
289               #+32-bit-target :<E>lf32_<E>hdr)
290         (shdr #+64-bit-target :<E>lf64_<S>hdr
291               #+32-bit-target :<E>lf32_<S>hdr))
292    (fd-read fd fhdr (record-length #+64-bit-target :<E>lf64_<E>hdr
293                                    #+32-bit-target :<E>lf32_<E>hdr))
294    (let* ((pos (+ (pref fhdr #+64-bit-target :<E>lf64_<E>hdr.e_shoff
295                         #+32-bit-target :<E>lf32_<E>hdr.e_shoff)
296                   (* sectnum (pref fhdr #+64-bit-target :<E>lf64_<E>hdr.e_shentsize
297                                    #+32-bit-target :<E>lf32_<E>hdr.e_shentsize)))))
298      (fd-lseek fd pos #$SEEK_SET)
299      (fd-read fd shdr (record-length #+64-bit-target :<E>lf64_<S>hdr
300                                      #+32-bit-target :<E>lf32_<S>hdr))
301      ;; On 64-bit platforms, the section data precedes the image
302      ;; header; on 32-bit platforms, the image header and image
303      ;; section table precede the image data for the first (static)
304      ;; section.  With alignment, the header/section headers are
305      ;; one 4K page, and the static section size is 8K ...
306      (setf (pref shdr #+64-bit-target :<E>lf64_<S>hdr.sh_offset
307                  #+32-bit-target :<E>lf32_<S>hdr.sh_offset)
308            (+ #+32-bit-target #x1000 #+64-bit-target 0  #x2000 (logandc2 (+ eof 4095) 4095))) 
309      (setf (pref shdr #+64-bit-target :<E>lf64_<S>hdr.sh_type
310                  #+32-bit-target :<E>lf32_<S>hdr.sh_type)
311            #$SHT_PROGBITS)
312      (fd-lseek fd pos #$SEEK_SET)
313      (fd-write fd shdr (record-length #+64-bit-target :<E>lf64_<S>hdr
314                                       #+32-bit-target :<E>lf32_<S>hdr))
315      t)))
316 
317(defun write-elf-symbols-to-file (pathname)
318  (let* ((object (create-elf-object pathname))
319         (file-header (new-elf-file-header object
320                                           #+little-endian-target #$ELFDATA2LSB
321                                           #+big-endian-target #$ELFDATA2MSB
322                                           #$ET_DYN
323                                           #+x8664-target #$EM_X86_64
324                                           #+x8632-target #$EM_386
325                                           #+ppc32-target #$EM_PPC
326                                           #+ppc64-target #$EM_PPC64
327                                           ))
328         (program-header (new-elf-program-header object))
329         (lisp-section (new-elf-section object))
330         (symbols-section (new-elf-section object))
331         (strings-section (new-elf-section object))
332         (shstrtab-section (new-elf-section object))
333         (section-names (make-elf-string-table))
334         (lisp-section-index (elf-section-index lisp-section))
335         (symbols (register-elf-functions lisp-section-index))
336         (lisp-section-header (elf-section-header-for-section object lisp-section))
337         (symbols-section-header (elf-section-header-for-section object symbols-section))
338         (strings-section-header (elf-section-header-for-section object strings-section))
339         (shstrtab-section-header (elf-section-header-for-section object shstrtab-section)))
340   
341    (setf (pref file-header #+64-bit-target :<E>lf64_<E>hdr.e_shstrndx
342                #+32-bit-target :<E>lf32_<E>hdr.e_shstrndx) (elf-section-index shstrtab-section))
343    (setf (pref lisp-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_name
344                #+32-bit-target :<E>lf32_<S>hdr.sh_name) (elf-register-string ".lisp" section-names)
345          (pref lisp-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_type
346                #+32-bit-target :<E>lf32_<S>hdr.sh_type) #$SHT_NOBITS
347          (pref lisp-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_flags
348                #+32-bit-target :<E>lf32_<S>hdr.sh_flags) (logior #$SHF_WRITE #$SHF_ALLOC #$SHF_EXECINSTR)
349          (pref lisp-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_addr
350                #+32-bit-target :<E>lf32_<S>hdr.sh_addr) (ash (%fixnum-ref *readonly-area* target::area.low) target::fixnumshift)
351          (pref lisp-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_size
352                #+32-bit-target :<E>lf32_<S>hdr.sh_size) (ash (- (%fixnum-ref *readonly-area* target::area.active) (%fixnum-ref *readonly-area* target::area.low) )target::fixnumshift)
353          (pref lisp-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_offset
354                #+32-bit-target :<E>lf32_<S>hdr.sh_offset) 0
355          (pref lisp-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_addralign
356                #+32-bit-target :<E>lf32_<S>hdr.sh_addralign) 1)
357    (setf (pref symbols-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_name
358                #+32-bit-target :<E>lf32_<S>hdr.sh_name) (elf-register-string ".symtab" section-names)
359          (pref symbols-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_type
360                #+32-bit-target :<E>lf32_<S>hdr.sh_type) #$SHT_SYMTAB
361          (pref symbols-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_entsize
362                #+32-bit-target :<E>lf32_<S>hdr.sh_entsize) (record-length #+64-bit-target :<E>lf64_<S>ym
363                                                                           #+32-bit-target :<E>lf32_<S>ym)
364          (pref symbols-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_link
365                #+32-bit-target :<E>lf32_<S>hdr.sh_link) (elf-section-index strings-section))
366    (setf (pref strings-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_name
367                #+32-bit-target :<E>lf32_<S>hdr.sh_name) (elf-register-string ".strtab" section-names)
368          (pref strings-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_type
369                #+32-bit-target :<E>lf32_<S>hdr.sh_type) #$SHT_STRTAB
370          (pref strings-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_flags
371                #+32-bit-target :<E>lf32_<S>hdr.sh_flags) (logior #$SHF_STRINGS #$SHF_ALLOC))
372    (setf (pref shstrtab-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_name
373                #+32-bit-target :<E>lf32_<S>hdr.sh_name) (elf-register-string ".shstrtab" section-names)
374          (pref shstrtab-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_type
375                #+32-bit-target :<E>lf32_<S>hdr.sh_type) #$SHT_STRTAB
376          (pref shstrtab-section-header #+64-bit-target :<E>lf64_<S>hdr.sh_flags
377                #+32-bit-target :<E>lf32_<S>hdr.sh_flags) (logior #$SHF_STRINGS #$SHF_ALLOC))
378    (elf-make-empty-data-for-section object lisp-section (ash (- (%fixnum-ref *readonly-area* target::area.active) (%fixnum-ref *readonly-area* target::area.low) )target::fixnumshift))
379    (elf-init-section-data-from-string-table object strings-section (elf-symbol-table-strings symbols))
380    (elf-init-section-data-from-string-table object shstrtab-section section-names)
381    (elf-init-symbol-section-from-symbol-table object symbols-section symbols)
382    ;; Prepare in-memory data structures.
383    (elf-update object #$ELF_C_NULL)
384    ;; Fix up the program header.
385    (setf (pref program-header
386                #+64-bit-target :<E>lf64_<P>hdr.p_type
387                #+32-bit-target :<E>lf32_<P>hdr.p_type) #$PT_PHDR
388          (pref program-header #+64-bit-target :<E>lf64_<P>hdr.p_offset
389                #+32-bit-target :<E>lf32_<P>hdr.p_offset)
390          (pref file-header
391                #+64-bit-target :<E>lf64_<E>hdr.e_phoff
392                #+32-bit-target :<E>lf32_<E>hdr.e_phoff)
393          (pref program-header
394                #+64-bit-target :<E>lf64_<P>hdr.p_filesz
395                #+32-bit-target :<E>lf32_<P>hdr.p_filesz)
396          (#+64-bit-target #_elf64_fsize #+32-bit-target #_elf32_fsize #$ELF_T_PHDR 1 #$EV_CURRENT))
397    ;; Mark the program header as being dirty.
398    (elf-flag-phdr object #$ELF_C_SET #$ELF_F_DIRTY)
399    (let* ((eof (elf-update object #$ELF_C_WRITE))
400           (fd (elf-object-fd object)))
401      (elf-end object)
402      (fixup-lisp-section-offset fd eof lisp-section-index)
403      (fd-close fd))
404    pathname))
405
406     
407   
408   
Note: See TracBrowser for help on using the repository browser.