你的位置:首页 > Java教程

[Java教程]JVM内存管理笔记


这篇文章通过翻译、总结,提炼SUN公司(已被甲骨文收购) 的文档 "Memory Management in the Java HotSpot™ Virtual Machine", Sun Microsystems, April 2006"

得到的JVM内存管理方面的学习笔记。其中大部分插图来自文档。

1.内存的手动、自动管理

内存的手动管理,需要明确地指出对象何时不再被使用并将其释放,而自动管理,需要根据对象的引用情况来判断释放与否。当然,被引用的对象不一定都有用;混乱的引用导致了一些对象不会被释放。自动管理解决了大部分内存问题,但无法完全解决内存问题。

2.垃圾回收的概念

垃圾回收器(Garbage Collector, GC) 是JVM 进行内存管理的工具。

垃圾回收器负责:

  •  分配内存
  •  保存全部被引用的对象在内存中
  •  在代码执行时回收不再被引用的对象所占用的内存

Java程序中被引用的对象(应该指被有效引用的对象)称为存活的(live). 不再被引用的对象称为死亡的(dead) 也称作垃圾(garbage). 对死亡的对象进行查找并释放内存空间的过程被称为垃圾回收。

  2.1.什么是良好的垃圾回收器?

  • 安全并高效地的分配与释放内存空间

安全即有用的数据不会被回收,无用的数据不会长期得不到释放;高效即回收器工作时不会引起长时间的卡顿。

然而,大多数系统都有时间,空间和频率之间的权衡。堆小会提升回收速度,但堆很快会被填满,造成更频繁地回收。

  • 碎片限制

在对象的被释放后,回收得到的空间可能是分散在不同区块的碎片,这些碎片可能都没有足够的空间来分配一个大对象。我们需要消除碎片获得连续的空间,消除碎片的方法成为“压实”(compaction)

  • 可扩展性

分配与回收是否成为多线程应用程序在多处理器系统上扩展的瓶颈。

  2.2.垃圾回收算法要权衡什么?

设计或选择一个垃圾回收算法应做出如下选择:

  • 串行(Serial)与并行(Parallel)

串行则只有一个CPU进行回收,并行则将回收任务被分割交由不同的CPU同时执行。并行虽迅速,但会产生额外的复杂性与潜在的碎片。

  • 同步(Concurrent)与“暂停”(Stop-the-world)

 “暂停”则回收执行时,应用程序的将完全暂停执行。同步则通过增大开销来缩短暂停时间以改善性能,同步可与应用程序同时进行,提高响应速度,但面对对象更新时要格外小心。

  • “压实” (Compacting)与“非密实” (Non-compacting)与复制(Copying)

“压实”则在回收工作后将所有存活的移动至一起,完全回收剩余内存。之后将指针指向第一个自由位置,以便快速分配对象,之后更新自由位置用于下一次分配。“非密实”在对象释放后不进行处理,以快速完成回收任务,因此会产生潜在碎片。复制可以将存活的对象“疏散”到不同的内存区域,原区可以被快速利用进行下一次分配,但其需要额外的时间和空间。

3.从J2SE 5.0 HotSpot JVM起的四种垃圾回收器

  3.1.HotSpot JMM概况

HotSpot JMM 存在三个区块:年轻代(Young Generation)、年老代(Old Generation)、持久代(Permanent Generation), 大部分对象在初始化后被分配到年轻代的Eden Space, 当Eden Space 将饱和时,通过Survivor Space 进行回收,多次回收后幸存的对象会被移动到年老代上的养老区(Tenured Space). 经历多次年轻代垃圾回收后的幸存对象被分配到年老代。空间占用大的对象可以直接分配进入年老代。持久代一般存储可被垃圾回收器直接识别为持久的对象,例如类和方法以及描述类。

3.2.垃圾回收的类型

年轻代将饱和时,执行年轻代回收(Young Generation Collection), 亦称小回收(Minor Collection). 年老代或持久代将饱和时,执行全面回收(Full Collection),亦称主回收(Major Collection) 对所有代对象的进行回收。通常,年轻代的对象先被回收,为保障高效,年轻代回收使用特定的算法。而年老代和持久代则使用相同的算法。

3.3.Serial Collector (SC 串行回收器)

SC由单个线程负责执行,回收时应用程序的执行将被暂停。

  • SC的年轻代回收机制:

回收执行时,在年轻代的Eden Space 中存活的对象被复制到Survivor Spaces 的To Space 中,但如果该对象大小超过To Space 的空间,它将被直接复制到年老代。Survivor Spaces 中From Space 存活的对象仍然被认为是年轻的,因此也会被复制到To Space 中,直到对象被标记为年老时才会被复制到年老代。当To Space 快满时,Eden Space 和From Space 中的幸存对象不会被复制进去,无论经历了多少年轻代的垃圾回收。当Eden Space 和From Space 中幸存对象全被复制后,遗留对象(图中标记为红色X)全部被标记为死亡,不再被检查与标记。年轻代回收完毕后,Eden Space 和From Space 将清空;如有没进入年老代的对象,那它只能在To Space 中,此时From Space 和To Space 交换角色。

  • SC的年老代回收机制:

SC在年老带中采用mark-sweep-compact算法进行垃圾回收。

(1) 标记(mark):判断哪些对象仍然存活并进行标记

(2) 扫描(sweeps):通过对若干代的扫描确定垃圾

(3) “滑动—压实”(sliding-compaction):对幸存对象进行压缩,以使他们在连续的空间上有序并至地排列。“压实”操作后,碎片被整合集中,使新进入的对象可以使用凹凸指针(bump-the-pointer)进行快速地址分配。

  • SC的应用

多用于客户机(client-style). 程序可以容忍短暂地暂停。在J2SE 5.0之后的版本中默认开启。

指令配置:-XX:+UseSerialGC

3.4.Parallel Collector (PC 并行回收器)

PC是高吞吐量回收器(Throughput Collector), 具有充分利用核心的优势。当前应用广泛。PC是SC的加强版本。

  • PC的年轻代回收机制:

PC与SC采用相同的方式对年轻代进行垃圾回收,仍是一个“‘暂停—复制’回收器”,但并行降低了时间开销,提高了应用的吞吐量。

  • PC的年老代回收机制:

与SC相同,采用mark-sweep-compact回收算法提升效率,但仍有罕见情况使年老代的回收造成程序较长时间的暂停。

  • PC的应用

多用于服务器(server-class). 在J2SE 5.0之后的版本中默认开启。

指令配置:-XX:+UseParallelGC

3.5.Parallel Compacting Collector (PCC 并行压缩回收器)

与PC相同,PCC在年老代垃圾回收采用了新算法,并最终取代PC。

  • PCC的年轻代回收机制:

PCC与PC采用相同的方式对年轻代进行垃圾回收。

  • PCC的年老代回收机制

PCC的年老带回收会造成应用暂停。

(1) 标记(mark):在逻辑层面上将年老代划分成大小固定的分区。通过多线程先标记根集合中可以直接访问的对象,再标记剩余对象。只要区中有幸存对象,该区的大小和位置信息将会被采集更新。

(2) 总结(summary):该方法是对区进行操作,而非操作对象。通常情况下,当进行年老代垃圾回收时,由于前某一代的“压实”操作,使得当前内存空间中,左边的存储密度仍然很大,甚至左边的对象几乎是连续排列的。从高密度区中回收零星的碎片空间可能不值得再次“压实”造成的开销。所以,总结会从最左端检查区的密度(依据标记后区的信息采集结果), 直到到达一个点,从该点最右端进行“压实”回收内部的碎片空间可以弥补开销。这个点被成为“密度前缀”(dense prefix), 它左边的对象均不会被位移而右边的空间均会被压缩回收。

总结方法实际是串行实现的,当然也可以并行,但并没有标记和“压实”的并行实现那样重要。

(3) “压实”(compaction):多个线程基于总结操作的结果,确定需要被填满的区,然后独立复制数据进行填充。最后,堆的内存分配是一端十分密集,另一端几乎为空。

  • PCC的应用

多线程的机器,但不适合大型共享机器。

应用前需指明。

指令配置:-XX:+UseParallelOldGC

3.6.Concurrent Mark-Sweep (CMS) Collector (CMSC 并发标记回收器)

在很多应用场景中,快速响应(fast response time) 比端到端的吞吐量(end-to-end throughput) 更重要。如果使用了大堆,年老代的回收可能造成长时间停顿。

HotSpot JVM 引入了CMSC 亦作“低延迟回收器”(low-latency collector) 来解决这一问题。

  • CMSC的年轻代回收机制:

    CMSC与PC采用相同的方式对年轻代进行垃圾回收。

  • CMSC的年老代回收机制:

大多数的CMSC垃圾回收是在应用程序执行时完成的。

(1) 初始标记(initial mark):应用暂停,标记根集合中可以直接访问的对象,获得幸存对象的初始集合。

(2) 并发标记(concurrent mark):标记初始集合中全部被间接引用的对象。

(3) 备注/再标记(remark):由于并发标记不会暂停应用,无法保证被更新的引用都得到标记。为此,备注过程再次暂停应用,对并发标记时被修改的对象进行标记,以保障垃圾回收的完整性。由于备注所需的暂停时长远大于初始标记的暂停时长,采用多线程来提高效率。

 

 

 

 

 

 

 

 

 

 

 

 

 

(4) 扫描(sweep):CMSC加大备注过程的开销来减少暂停时长,并且是唯一没有“压实”操作的回收器,即不会将幸存的对象有序并至排列。

虽然非“压实”节约时间,但由于空闲内存不连续,回收器无法使用凹凸指针技术分配新对象。为此,CMSC用多个链式队列(应该是对碎片依据空间大小分类存放)碎片,根据新对象的大小通过链式队列分配适当位置。因此,相比于其他回收器,CMSC在年老代的资源分配成本更高,也需要开辟更大的堆。

另外,尽管老年代的每次回收对全部对象进行清洗,但之后的“新生垃圾”,亦作浮动垃圾(floating garbage), 只能在下一次老年代回收时被清理。由于没有“压实”,碎片迟早会积累,为此CMSC对活跃对象进行跟踪(track), 通过估算空间需求来分割或合并碎片空间。

  • CMSC的应用:

CMSC适用于要求暂停时间短,并且可以承担与回收器共享处理器资源的应用。通常适用于多线程,老年代数据集较大的应用,如网络服务器。

应用前需指明。

指令配置:-XX:+UseConcMarkSweepGC
       -XX:+CMSIncrementalMode (incremental mode)