加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 百科 > 正文

导入搜狗实验室新闻语料库

发布时间:2020-12-16 01:57:31 所属栏目:百科 来源:网络整理
导读:在搜狗实验室下载的新闻语料库中存储的 一条新闻的数据格式 是 doc url / url docno / docno contenttitle / contenttitle content / content / doc 多条新闻数据 就是多个doc的重复 doc url / url docno / docno contenttitle / contenttitle content / con

在搜狗实验室下载的新闻语料库中存储的一条新闻的数据格式

<doc>
    <url></url>
    <docno></docno>
    <contenttitle></contenttitle>
    <content></content>
</doc>

多条新闻数据就是多个doc的重复

<doc>
    <url></url>
    <docno></docno>
    <contenttitle></contenttitle>
    <content></content>
</doc>
<doc>
    <url></url>
    <docno></docno>
    <contenttitle></contenttitle>
    <content></content>
</doc>

这种文本文件不是标准的xml文件,因为所有的doc节点都直接是最顶层,没有根节点。因此要添加根节点使该文本文件符合xml文件的规范。

但是用notepad++打开后,notepad++就无响应了,过了一会提示文件过大。
然后又尝试用vim打开,仍然非常卡,但是可以在文件开头写入字符,我在嘴上面加入,然后用G命令跳到底部。这时vim也无响应了。

最后我想到可以windows的copy命令将文本文件与语料文件合并来在文件的头部和尾部添加文本。

通过合并文本在文本的前后添加字符

  • 新建一个文本文件head.txt写入
<docs>
  • 新建一个文本文件end.txt写入
</docs>
  • 用copy命令合并文本
copy /b  head.txt + ..news_sohusite_xml_full.xml  + end.txt  canbeimport.xml

此时生成的文本就一docs文根节点的标准xml文档了。可以用navcat
导入mysql。
具体操作方法可以参考这个博客http://www.52php.cn/article/p-waeebzrp-ng.html 注意在选择编码的时候要根据文本的编码选择。

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读