加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 编程开发 > Java > 正文

java中的mmap实现--转

发布时间:2020-12-14 06:19:02 所属栏目:Java 来源:网络整理
导读:什么是mmap ??? mmap对于c程序员很熟悉,对于java程序员有点陌生。简而言之,将文件直接映射到用户态的内存地址,这样对文件的操作不再是write/read,而是直接对内存地址的操作。? ??? 在c中提供了三个函数来实现? ??? [list]? ??? mmap 进行映射 ??? munmap
    • 什么是mmap
    • ??? mmap对于c程序员很熟悉,对于java程序员有点陌生。简而言之,将文件直接映射到用户态的内存地址,这样对文件的操作不再是write/read,而是直接对内存地址的操作。?
      ??? 在c中提供了三个函数来实现?
      ??? [list]?
    ???
  • mmap 进行映射
  • ???

  • munmap 取消映射
  • ???

  • msync 进程在映射空间的对共享内容的改变并不直接写回到磁盘文件中,往往在调用munmap()后才执行该操作。??
  • ???

??? 具体参照

  • java中的map

??? java中的FileChannel,提供了map和force方法,map创建文件和内存的映射,???

    MappedByteBuffer?buffer?=?fc.map(MapMode.READ_WRITE,?

??? 返回一个MappedByteBuffer,这是一个DirectBuffer,其中包含一个内存地址,然后可用就做一些读写操作。???? 还有另外一个方法是force,是将内存的更新的内容刷到磁盘中。???? 在这里抛出一个问题,force是必须调用的,如果不调用force会怎样。???? 我试着写了一段小程序来试验????

    MappedByteBuffer?buffer?=?fc.map(MapMode.READ_WRITE,?
  1. ???????
  2. ???????????buffer.put((
  3. ???????}??
  4. ?System.out.println(
  5. ???????System.in.read();??

??? 然后观察文件发现文件中是有1000个B的,那么就是说不调用force,内容也会落到磁盘中的。既然不用force内容也可以落到磁盘中,那force的作用什么呢?带着这个问题我查看了openJdk的force和map的实现和linux中mmap的实现。

  • JDK的force和map的实现

? 通过FileChannel->FileChannelImpl的native知道,对linux平台调用应该在D:gitopenjdkjdksrcsolarisnativesunnioch下的FileChannelImpl.c?

    NIEXPORT?jlong?JNICALL??
  1. Java_sun_nio_ch_FileChannelImpl_map0(JNIEnv?*env,?jobject?
  2. ?????????????????????????????????????jint?prot,?jlong?off,?jlong?len)??
  3. ?mapAddress?=?mmap64(??
  4. ????????
  5. ????????len,??????????????????
  6. ????????protections,??????????
  7. ????????flags,????????????????
  8. ????????fd,???????????????????
  9. ????????off);?????????????????

<div id="" class="dp-highlighter">
<div class="bar">
<div class="tools">Java代码??<a title="收藏这段代码">

<img class="star" src="http://xiaoz5919.iteye.com/images/icon_star.png" alt="收藏代码">

    JNIEXPORT?jint?JNICALL??
  1. Java_sun_nio_ch_FileChannelImpl_force0(JNIEnv?*env,??
  2. ???????????????????????????????????????jobject?fdo,?jboolean?md)??
  3. {??
  4. ????jint?fd?=?fdval(env,?fdo);??
  5. ????
  6. ??
  7. ????
  8. ????????result?=?fdatasync(fd);??
  9. ????}?
  10. ????????result?=?fsync(fd);??
  11. ????}??
  12. ????
  13. }??

原来force是调用的fdatasync(fsync),这不是linux中buffered IO,write(2)以后需要调用的方法吗,难道mmap也是走的BufferdIO那一套,首先写到page cache,然后由pdflush定时刷到磁盘中,那这么说mmap只是在进程空间分配一个内存地址,真实的内存还是使用的pagecache。所以force是调用fsync将dirty page刷到磁盘中,但mmap还有共享之类的实现起来应该很复杂。

  • 验证

? 为了验证上面的假设,我做了一个实验。在linux下起两个终端,A终端通过上面的程序向a.txt写入数据,B终端使用tailf a.txt观察数据的写入。奇怪的是A终端执行完,B终端立马就成看到数据,而不是等30s以后pdflush刷到磁盘以后才能看到,难道前面的假设错了?或者另一种可能tailf查看到也是在page cache中读取的。那只需查看下文件的page是不是dirty就知道了。?

    cat?/proc/$(pidof?java)/smaps|grep?a.txt?-A?

就可以查看一个文件的page是否是dirty。?重新实现使用如上脚本观察?

    2aaab30c4000-2aaab31b9000?rw-s?
  1. Size:???????????????
  2. Rss:????????????????
  3. Shared_Clean:?????????
  4. Shared_Dirty:?????????
  5. Private_Clean:????????
  6. Private_Dirty:??????
  7. Swap:?????????????????
  8. Pss:????????????????

果然是dirty的,然后继续等待一段时间再次执行发现已经是clean,被刷到磁盘中。?

    2aaab30c4000-2aaab31b9000?rw-s?
  1. Size:???????????????
  2. Rss:????????????????
  3. Shared_Clean:?????????
  4. Shared_Dirty:?????????
  5. Private_Clean:??????
  6. Private_Dirty:????????
  7. Swap:?????????????????
  8. Pss:????????????????
  • 结论

1. mmap,底层还是走的BufferedIO,好处大概是减少了内核态和用户态的内存拷贝,这点不太确定,对内核不熟。?2. force,参数为true调用fsync,false调用fdatasync,fdatasync只刷数据不刷meta数据?3. 即使不调用force,内核也会定期将dirty page刷到磁盘,默认是30s。?

原文来自:http://xiaoz5919.iteye.com/blog/2093323

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读