Mr Dk.'s BlogMr Dk.'s Blog
  • 🦆 About Me
  • ⛏️ Technology Stack
  • 🔗 Links
  • 🗒️ About Blog
  • Algorithm
  • C++
  • Compiler
  • Cryptography
  • DevOps
  • Docker
  • Git
  • Java
  • Linux
  • MS Office
  • MySQL
  • Network
  • Operating System
  • Performance
  • PostgreSQL
  • Productivity
  • Solidity
  • Vue.js
  • Web
  • Wireless
  • 🐧 How Linux Works (notes)
  • 🐧 Linux Kernel Comments (notes)
  • 🐧 Linux Kernel Development (notes)
  • 🐤 μc/OS-II Source Code (notes)
  • ☕ Understanding the JVM (notes)
  • ⛸️ Redis Implementation (notes)
  • 🗜️ Understanding Nginx (notes)
  • ⚙️ Netty in Action (notes)
  • ☁️ Spring Microservices (notes)
  • ⚒️ The Annotated STL Sources (notes)
  • ☕ Java Development Kit 8
GitHub
  • 🦆 About Me
  • ⛏️ Technology Stack
  • 🔗 Links
  • 🗒️ About Blog
  • Algorithm
  • C++
  • Compiler
  • Cryptography
  • DevOps
  • Docker
  • Git
  • Java
  • Linux
  • MS Office
  • MySQL
  • Network
  • Operating System
  • Performance
  • PostgreSQL
  • Productivity
  • Solidity
  • Vue.js
  • Web
  • Wireless
  • 🐧 How Linux Works (notes)
  • 🐧 Linux Kernel Comments (notes)
  • 🐧 Linux Kernel Development (notes)
  • 🐤 μc/OS-II Source Code (notes)
  • ☕ Understanding the JVM (notes)
  • ⛸️ Redis Implementation (notes)
  • 🗜️ Understanding Nginx (notes)
  • ⚙️ Netty in Action (notes)
  • ☁️ Spring Microservices (notes)
  • ⚒️ The Annotated STL Sources (notes)
  • ☕ Java Development Kit 8
GitHub
  • 📝 Notes
    • Algorithm
      • Algorithm - Bloom Filter
      • Algorithm - Disjoint Set
      • Algorithm - Fast Power
      • Algorithm - KMP
      • Algorithm - Monotonic Stack
      • Algorithm - RB-Tree
      • Algorithm - Regular Expression
      • Algorithm - Sliding Window
      • Online Judge - I/O
    • C++
      • C++ - Const
      • C++ File I/O
      • C++ - Object Layout
      • C++ - Operator Overload
      • C++ - Polymorphism
      • C++ STL algorithm
      • C++ STL map
      • C++ STL multimap
      • C++ STL priority_queue
      • C++ STL set
      • C++ STL string
      • C++ STL unordered_map
      • C++ STL vector
      • C++ - Smart Pointer
      • C++ - Template & Genericity
    • Compiler
      • ANTLR - Basic
      • Compiler - LLVM Architecture
      • Compiler - Multi-version GCC
    • Cryptography
      • Cryptography - Certbot
      • Cryptography - Digital Signature & PKCS #7
      • Cryptography - GPG
      • Cryptography - JWT
      • Cryptography - Keystore & Certificates
      • Cryptography - OAuth 2.0
      • Cryptography - Java 实现对称与非对称加密算法
      • Cryptography - TLS
    • DevOps
      • DevOps - Travis CI
    • Docker
      • Docker - Image & Storage Management
      • Docker - Image
      • Docker - Libcontainer
      • Docker - Multi-Arch Image
      • Docker - Multi-Stage Build
      • Docker - Network
      • Docker - Orchestration & Deployment
      • Docker - Overview
      • Docker - Service Building
      • Docker - Volume & Network Usage
      • Docker - Volume
      • Linux - Control Group
      • Linux - Namespace
    • Git
      • Git - Branch & Merge
      • Git - Cached
      • Git - Cherry Pick
      • Git - Commit
      • Git - Patch
      • Git - Proxy
      • Git - Rebase
      • Git - Reset
      • Git - Stash
      • Git - Theme for Git-Bash
    • Java
      • JVM - Synchronized
      • JVM - Volatile
      • Java - Annotation 注解
      • Java - BIO & NIO
      • Java - Class Path
      • Java - Condition and LockSupport
      • Java - Current Timestamp
      • Java - Deep Copy
      • Java - 运行环境配置
      • Java - Equals
      • Java - Exporting JAR
      • Java - Javadoc
      • Java - Lock
      • Java - Maven 项目构建工具
      • Java - References
      • Java - Reflection Mechanism
      • Java - String Split
      • Java - Thread Pool
      • Java - Thread
      • Tomcat - Class Loader
      • Tomcat - Container
    • Linux
      • addr2line
      • cut
      • df
      • du
      • fallocate
      • find
      • fio
      • grep
      • groupadd
      • gzip
      • head / tail
      • hexdump
      • iostat
      • iotop
      • kill
      • ldd
      • lsof
      • ltrace / strace
      • mpstat
      • netstat
      • nm
      • pidstat
      • pmap
      • readlink
      • readlink
      • rpm2cpio / rpm2archive
      • sort
      • tee
      • uniq
      • useradd
      • usermod
      • watch
      • wc
      • which
      • xargs
    • MS Office
      • MS Office - Add-in Dev
      • MS Office - Application
    • MySQL
      • InnoDB - Architecture
      • InnoDB - Backup
      • InnoDB - Checkpoint
      • InnoDB - Critical Features
      • InnoDB - Files
      • InnoDB - Index
      • InnoDB - Insert Buffer
      • InnoDB - Lock
      • InnoDB - Partition Table
      • InnoDB - Table Storage
      • MySQL - Server Configuration
      • MySQL - Storage Engine
    • Network
      • Network - ARP
      • Network - FTP
      • Network - GitHub Accelerating
      • HTTP - Message Format
      • HTTP - POST 提交表单的两种方式
      • Network - Proxy Server
      • Network - SCP
      • Network - SSH
      • Network - TCP Congestion Control
      • Network - TCP Connection Management
      • Network - TCP Flow Control
      • Network - TCP Retransmission
      • Network - Traceroute
      • Network - V2Ray
      • Network - WebSocket
      • Network - Windows 10 Mail APP
      • Network - frp
    • Operating System
      • Linux - Kernel Compilation
      • Linux - Multi-OS
      • Linux - Mutex & Condition
      • Linux - Operations
      • Linux: Package Manager
      • Linux - Process Manipulation
      • Linux - User ID
      • Linux - Execve
      • OS - Compile and Link
      • OS - Dynamic Linking
      • OS - ELF
      • Linux - Image
      • OS - Loading
      • OS - Shared Library Organization
      • OS - Static Linking
      • Syzkaller - Architecture
      • Syzkaller - Description Syntax
      • Syzkaller - Usage
      • Ubuntu - Desktop Recover (Python)
      • WSL: CentOS 8
    • Performance
      • Linux Performance - Perf Event
      • Linux Performance - Perf Record
      • Linux Performance - Perf Report
      • Linux Performance - Flame Graphs
      • Linux Performance - Off CPU Analyze
    • PostgreSQL
      • PostgreSQL - ANALYZE
      • PostgreSQL - Atomics
      • PostgreSQL - CREATE INDEX CONCURRENTLY
      • PostgreSQL - COPY FROM
      • PostgreSQL - COPY TO
      • PostgreSQL - Executor: Append
      • PostgreSQL - Executor: Group
      • PostgreSQL - Executor: Limit
      • PostgreSQL - Executor: Material
      • PostgreSQL - Executor: Nest Loop Join
      • PostgreSQL - Executor: Result
      • PostgreSQL - Executor: Sequential Scan
      • PostgreSQL - Executor: Sort
      • PostgreSQL - Executor: Unique
      • PostgreSQL - FDW Asynchronous Execution
      • PostgreSQL - GUC
      • PostgreSQL - Locking
      • PostgreSQL - LWLock
      • PostgreSQL - Multi Insert
      • PostgreSQL - Plan Hint GUC
      • PostgreSQL - Process Activity
      • PostgreSQL - Query Execution
      • PostgreSQL - Spinlock
      • PostgreSQL - Storage Management
      • PostgreSQL - VFD
      • PostgreSQL - WAL Insert
      • PostgreSQL - WAL Prefetch
    • Productivity
      • LaTeX
      • Venn Diagram
      • VuePress
    • Solidity
      • Solidity - ABI Specification
      • Solidity - Contracts
      • Solidity - Expressions and Control Structures
      • Solidity - Layout and Structure
      • Solidity - Remix IDE
      • Solidity - Slither
      • Solidity - Types
      • Solidity - Units and Globally Available Variables
    • Vue.js
      • Vue.js - Environment Variable
    • Web
      • Web - CORS
      • Web - OpenAPI Specification
    • Wireless
      • Wireless - WEP Cracking by Aircrack-ng
      • Wireless - WPS Cracking by Reaver
      • Wireless - wifiphisher

OS - Dynamic Linking

Created by : Mr Dk.

2020 / 06 / 29 20:08

Nanjing, Jiangsu, China


本文内容来自于 程序员的自我修养 - 链接、装载与库,俞甲子 石凡 潘爱民著。


为什么要动态链接

如果只使用静态链接,那么每一个可执行文件中都包含一些公共库函数的副本,极大地浪费了内存和磁盘空间:

  • 磁盘:库函数被链接在每一个可执行文件中
  • 内存:每个进程空间中都装载了相同的库函数代码

另外,对于程序的开发的发布,如果使用静态链接,一旦程序中用到的库有更新,那么整个函数就需要重新被链接,然后再发布。

动态链接的基本思想是,把程序中用到的各个模块尽可能分开,不再将它们静态地链接在一起,等到程序要运行时才进行链接。这种方法解决了共享目标文件的多副本问题。另外,动态链接也使程序的升级变得容易,理论上只需要将旧的目标文件覆盖掉即可 (当然新模块与旧模块的接口要兼容)。使得各个模块的开发更加独立,耦合度更小。

在 Linux 中,ELF 动态链接文件被称为 共享对象 (Shared Objects),以 .so 结尾;在 Windows 中被称为 动态链接库 (Dynamical Linking Library),以 .dll 结尾。当程序被装载时,系统的 动态链接器 将程序所需要用到的动态链接库装载到进程的地址空间,并将程序中的所有未决议符号绑定到相应的动态链接库中,进行重定位。动态链接把链接过程从程序装载前推迟到了装载时。

动态链接例子

在编译期间,如果程序用到了动态链接库的函数,那么输入参数也必须指定相应的 共享对象。但是这一过程并没有进行链接,只是为了确认程序中使用符号的性质。如果程序中使用的符号是一个定义在其它目标文件中的符号,那么按照静态链接的规则链接、重定位;如果符号定义在共享对象中,那么链接器将这个符号标记为动态链接符号,不对它进行重定位。这一过程中,只使用了共享对象中保存的 符号信息。

共享对象的最终装载地址在编译时是不确定的,由装载器根据地址空间的空闲状况,动态分配一块足够的地址空间给共享对象。

Linux 中的动态链接器位于 /lib/x86_64-linux-gnu/ld-2.27.so:

$ ls -alt ld*
-rwxr-xr-x 1 root root 170960 Apr 17  2018 ld-2.27.so
lrwxrwxrwx 1 root root     10 Apr 17  2018 ld-linux-x86-64.so.2 -> ld-2.27.so

地址无关代码

程序模块和数据中会包含一些对绝对地址的引用,在链接产生输出文件的时候,这些地址需要被确定。而在动态链接的情况下,不同模块的目标装载地址都一样是不可行的。静态共享库 (Static Shared Library) 将程序的各种模块统一交给 OS 来管理,OS 会在特定地址划分出一些地址块,为已知模块预留足够的空间。但是在实用中还是会有很多问题。能否让共享对象在任意地址加载 - 即,共享对象在编译时不能假设自己在进程虚拟地址空间中的位置。

装载时重定位

在链接时,对所有绝对地址的引用不作重定位,将这一步推迟到装载时再完成。等到模块的装载地址确定,再将程序中所有的绝对地址引用进行重定位。OS 根据当时内存空闲情况,动态分配一块大小合适的物理内存给程序。在 Windows 中,装载时重定位 (Load Time Relocation) 也被称为 基址重置 (Rebasing)。

动态链接模块被装载后,其只读的 指令部分 应当由多个进程共享。由于装载时重定位已经对指令进行了重定位,这些修改后的指令已经无法在多个进程之间共享。然而,动态链接库中可读写的 数据部分 对不同的进程来说应有多个副本,所以可以通过装载时重定位的方法来解决。

在 GCC 命令中,如果只使用 -shared 选项,那么就会编译出使用装载时重定位的共享对象。

地址无关代码

根据上述问题,我们希望共享对象中的指令部分在装载时不需要因为装载地址的改变而改变 (重定位),这样多个进程可以共享一份指令副本。解决方法是,将指令中 需要被修改的部分 分离出来,和数据放在一起。这样指令部分可以保持不变,而数据部分在每个进程中都有一个副本。这就是 地址无关代码 (Position Independent Code, PIC) 技术。

对于一个模块来说,根据引用指令和引用数据,模块内引用和模块外引用,可以分为四种情况:

  • 模块内函数调用 (指令)
  • 模块内数据访问 (全局变量、静态变量)
  • 模块外函数调用
  • 模块外数据访问

模块内部函数调用

被调用函数与函数调用者处于同一模块,它们之间的位置是相对固定的。所以可以使用相对寻址 (相对于当前指令地址 PC) 的方式直接调用,不需要重定位。比如,对于 CALL 指令,其参数是目的地址对于下一条指令的偏移。

模块内部数据访问

与指令类似,任意一条指令与模块内部数据之间的相对位置都是固定的。但是目前 CPU 体系结构中基本不支持数据相对于 PC 的寻址方式。ELF 使用一个巧妙的方法得到当前的 PC 值,然后再加上一个偏移量,就可以达到访问变量的目的了。有一些特殊的函数可以将 PC 值放到寄存器中。

模块外的访问

ELF 在 数据段 中建立一个指向模块外变量地址或函数地址的指针数组,称为 全局偏移表 (Global Offset Table, GOT)。当代码需要引用模块外的变量或函数时,通过 GOT 中相对应的项来间接引用。链接器在装载模块时,会查找每个变量或函数所在的地址,然后填充到 GOT 的表项中。GOT 被放在数据段,因此可以在模块装载时被修改,每个进程也都有独立的副本。

在编译时,GOT 本身相对于当前指令 PC 的偏移量也可以被确定。因此,根据当前 PC 加上偏移量进行间接寻址,就能够找到 GOT 表,从而找到外部变量或函数的地址。共享对象内所有对于模块外变量或函数的引用,都通过对 GOT 表项的引用来完成。这样,指令本身就与装载地址无关了,只需要修改 GOT 中的指针,使其能正确指向对应的变量和函数即可。

在 GCC 命令中,使用 -fPIC 或 -fpic (产生的代码小而快,但有些平台上不支持) 能够产生地址无关代码。另外,对于一个可执行文件,可以使用 -fPIE 或 -fpie 方式直接编译出 地址无关的可执行文件 (Position Indepent Executable, PIE)。如果不使用 -fPIC,那么代码段也会被编译为装载时重定位的形式。由于无法满足地址无关性,代码段将无法被进程共享,失去了节省内存的优点;但代码运行速度得到了提高,因为在每次访问全局数据和函数时对 GOT 表的间接访问。地址无关的 ELF 文件中包含 .got 段。

数据段的地址无关性

由于每个进程都有数据段的一份独立副本,因此可以使用 装载时重定位 的方法来解决数据段中的绝对地址引用问题。如果数据段中有绝对地址引用,那么编译器和链接器就会为生成一个 重定位表,并表示重定位入口为特定类型。当动态链接器识别到这个重定位入口时,就会对共享对象进行重定位。


延迟绑定 (PLT)

动态链接相比于静态链接而言,性能会有 1%-5% 的损失。性能损失来源于:

  1. 对模块外变量和函数的访问需要经过 GOT 表间接寻址
  2. 动态链接在程序运行时完成,需要寻找、装载共享对象,然后查找符号、重定位

在动态链接下,程序模块之间包含大量的函数调用。在动态链接时,如果直接把一个模块中所有的函数都链接完毕,其实是一种浪费。因为很多函数在程序执行完成前根本不会被用到,比如错误处理函数或用户较少使用的模块等。ELF 采用 延迟绑定 (Lazy Binding) 的方法,当函数第一次被使用到时,才进行符号查找、重定位;如果没有用到,则不绑定。这样能够大大加快程序的启动速度。

ELF 中使用 PLT (Procedure Linkage Table) 来实现延迟绑定。当调用某个模块外部的函数时,并不直接通过 GOT 表来进行跳转,而是通过 PLT 表再加入一个间接层。每个外部函数在 PLT 表中都有一个相应的项。比如某个外部函数 bar() 的 PLT 项:

bar@plt:
jmp *(bar@GOT)
push n
push moduleID
jump _dl_runtime_resolve

对于第一条 jmp 指令,如果链接器已经初始化该项,那么就相当于直接通过 GOT 表中的地址跳转到 bar()。然而,当第一次使用该函数时,链接器还没有初始化 PLT 表中的这一项,那么这条指令的效果是跳转到下一条指令,相当于啥也不干。push 将 bar() 的符号引用在重定位表 .rel.plt 中的下标与模块 ID 压入堆栈 (作为接下来要调用的函数的参数),然后调用动态链接器的 _dl_runtime_resolve() 函数完成符号解析、重定位,并将 bar() 的真正地址直接填入到 bar@GOT 中。再次调用 bar@plt 时,通过第一条 jmp 指令就能直接跳转到 bar() 中。

在 ELF 中,GOT 表被拆分为 .got 和 .got.plt,所有对外部函数的引用都被分离到了 .got.plt 中。另外,.got.plt 中的前三项有特殊含义:

  • .dynamic 段的地址
  • 本模块 ID
  • _dl_runtime_resolve() 的地址

由动态链接器在装载时将它们初始化。

PLT 在 ELF 中以单独的段存放,而且是地址无关的代码,因此可以与代码段合并为可读可执行的 segment。


动态链接相关结构

OS 首先读取可执行文件的头部,检查文件的合法性,然后从 program header 中读取每个 segment 的信息,并将其映射到进程虚拟地址空间中。如果是静态链接,那么 OS 就会将控制权转移可执行文件的入口地址,然后程序开始执行;而如果是动态链接,OS 不能立刻将控制权交给可执行文件,因为可执行文件中对外部符号的引用还没有与共享对象链接。因此,OS 会首先启动动态链接器。动态链接器 ld.so 是一个共享对象,OS 将其加载到进程的地址空间中,将控制权交给动态链接器的入口地址。动态链接器开始工作,当所有动态链接工作完成后,动态链接器将控制权转交到可执行文件的入口地址。此时,程序才开始执行。

.interp

动态链接器的位置与系统无关,而是由 ELF 文件本身决定。在 .interp section 中,保存了一个字符串,就是可执行文件需要的动态链接器的路径。在 Linux 下,一般都是 /lib/ld-linux.so.2 - 一般来说这是一个软链接,指向相应版本的 ld.so。即,.interp 指定了动态链接器的路径。

.dynamic

.dynamic 中保存了动态链接器需要用到的基本信息:

  • 依赖哪些共享对象
  • 动态链接符号表的位置
  • 动态链接重定位表的位置
  • 共享变量初始化代码地址 ...
typedef struct
{
  Elf64_Sxword	d_tag;			/* Dynamic entry type */
  union
    {
      Elf64_Xword d_val;		/* Integer value */
      Elf64_Addr d_ptr;			/* Address value */
    } d_un;
} Elf64_Dyn;

d_tag 表示类型,剩余部分表示数值或指针。类型包含很多,大致内容与 ELF header 类似。可以认为,.dynamic 就是动态链接下 ELF 文件的 ELF header。

动态符号表 .dynsym

与静态链接中的符号表 .symtab 类似,保存动态链接下模块符号的导入导出信息。其中,只保存与动态链接相关的符号。另外,静态链接时的 .strtab 表也有对应的动态符号字符串表 .dynstr。

动态链接重定位表

在动态链接下,一旦程序依赖于其它共享对象,那么代码或数据中就会用对于导入符号的引用。导入符号的地址只有在运行时才确定,因此需要重定位。与静态链接中,代码段、数据段分别带有重定位表类似,动态链接中:

  • .rel.plt - 对函数引用的重定位,修正位置位于 .got.plt
  • .rel.dyn - 对数据引用的重定位,修正位置位于 .got 与数据段

进程堆栈初始化信息

当 OS 把控制权交给动态链接器的时候,动态链接器需要知道一些与可执行文件以及本进程相关的信息。这些信息由 OS 传递给动态链接器,保存在进程的堆栈中。这些辅助信息由一个结构体数组组成,结构体定义如下:

typedef struct
{
  uint64_t a_type;		/* Entry type */
  union
    {
      uint64_t a_val;		/* Integer value */
      /* We use to have pointer elements added here.  We cannot do that,
	 though, since it does not work when using 32-bit definitions
	 on 64-bit platforms and vice versa.  */
    } a_un;
} Elf64_auxv_t;

这些辅助信息位于环境变量指针之后。


动态链接的步骤和实现

动态链接简单讲分为三步:

  1. OS 启动动态链接器
  2. 动态链接器装载所有需要的共享对象
  3. 重定位、初始化

动态链接器本身也是一个共享对象。谁来加载它并重定位呢?

动态链接器本身不依赖于任何共享对象。其本身所需要的全局变量和静态变量的重定位由它自己完成。动态链接器必须能够在不使用全局变量和静态变量和条件下完成启动。这一启动过程被称为 自举 (Bootstrap)。动态链接器的入口地址就是自举代码的地址。自举代码需要找到自己的 GOT 表,通过 GOT 表的第一个入口,得到 .dynamic 的偏移地址。在 .dynamic 中,自举代码获得动态链接器本身的重定位表和符号表,然后将它们全部重定位。之后,动态链接器代码才可以使用自己的全局变量和静态变量。在自举代码中,动态链接器甚至不能调用函数 - 因为如果使用 PIC 模式编译的共享对象,对于模块内的函数调用也是采用 GOT/PLT 的方式。在重定位之前,自举代码无法使用全局变量,也无法调用函数。

完成自举后,动态链接器将可执行文件与动态链接器本身的符号表合并为全局符号表,然后开始寻找可执行文件依赖的共享对象。在 .dynamic 中,可以指明可执行文件 (或共享对象) 依赖的共享对象。动态链接器依次将这些共享对象的文件打开,将代码段和数据段映射到进程地址空间。当一个新的共享对象被装载到内存时,其符号表会被合并到全局符号表中。

共享对象中的全局符号与另一个共享对象的同名符号发生冲突的现象被称为共享对象的 全局符号介入 (Global Symbol Interpose)。当一个符号要被加入全局符号表时,如果相同的符号名已经存在,则后加入的符号被忽略。

上面的步骤完成后,链接器开始重新遍历可执行文件和每个共享对象的重定位表,将其中的 GOT/PLT 中每个需要被重定位的位置进行修正。由于此时已经有了全局符号表,因此修正过程较为简单。如果共享对象有 .init 段,动态链接器就会执行 .init 段中的代码;如果可执行文件也有 .init,动态链接器不会执行,由程序初始化代码负责执行。

以上,所有准备工作完成,动态链接器将控制权转交给可执行文件入口地址。


Edit this page on GitHub
Prev
OS - Compile and Link
Next
OS - ELF