3 有用
20 下载

基于Django+LayUI+HBase的文献数据挖掘系统的实现

文件列表(压缩包大小 8.58M)

免费

概述

引言:本系统的目标是设计并实现一个基于分布式数据库HBase的文献数据挖掘系统,以帮助科研人员分析出相关科技前沿领域的专家、机构等的学术影响力。并挖掘领域高频词和不同协作者之间的关系图谱,如此便可达到科研决策支持的目的。以下将从几个方面进行简要介绍。

一、开发意义 科研文献是科技与学术的载体,高效的分析科研文献对科技的发展有着重要的推动作用。准确地提取出期刊会议中科研文献元数据里所隐藏的信息,可提高科研文献分析的准确度与效率。

二、功能架构设计 本系统的功能主要分为三个模块,分别是数据统计分析结果展示平台、后台管理系统和数据存储平台,其总体功能架构如图所示。

![](https://static.ligongku.com/resource/intro/img/cf4857d8d35b4af18f4ffb8296d5ab74.png)

三、系统实现 3.1 开发环境及框架配置 考虑到系统需求,采用在CentOS系统上,搭建整个开发和运行环境,其中包括Hadoop分布式平台以及HBase分布式数据库,在Win10系统上搭建Django框架、关系型数据库MySQL等必要的开发环境。

环境/框架 名称/版本
操作系统 CentOS 7.5+Win10
数据库 MySQL 5.7+HBase 2.1.0
数据库管理软件 Navicat-10.1.7
主要编程语言 Python-3.6.6
Web服务器 Nginx服务器
后端框架Django 2.0.1
前端框架LayUI 2.4.5
前端框架Bootstrap 3.3.7
可视化图库ECharts 4.2.1
Hadoop 3.0.3
Zookeeper 3.4.13
Gephi复杂网络分析软件 0.9.2

3.2 主要技术实现过程

  • 搭建Hadoop平台。使用四台云主机(CentOS7.5)搭建集群,配置好HDFS、ZooKeeper和HBase。
  • 异步爬取数据。使用Python中的asyncio和aiohttp库,从而异步爬取AAAI人工智能会议的历年论文元数据(包括论文标题、摘要、作者、机构以及关键词等数据)存储到Excel表中,并对爬取的数据进行规则清洗和必要的人工清洗,得到较为干净的数据。
  • 数据分析。1.利用Excel函数进行数据排重、统计、排序;2.利用Python构建作者数据的共现矩阵,然后将其三元组数据导入至Gephi软件进行复杂网络可视化并导出SVG可伸缩矢量图片;3.利用LDA主题模型对论文摘要进行主题聚类,得到top5热门话题;4.最终将清洗后的完整数据以及分析结果数据存储至位于云端的HBase中。
  • Web系统开发。使用Django+LayUI+Bootstrap开发(对于前端样式冲突问题可通过提升优先级解决),主要功能有注册登录、忘记密码邮箱验证、个人中心信息修改、全局检索、论文下载、数据分析结果展示(使用Echarts和Gephi进行数据可视化)以及词云图(中文使用jieba分词,英文使用wordcloud分词)等。同时使用Django第三方插件xadmin进行后台管理系统的快速注册和绑定。
  • 系统部署。最后将系统部署到云端Nginx服务器中。

四、系统界面展示 4.1 系统主界面展示

4.2 用户注册登录页面 ①注册页面如下:

点击注册按钮后,系统邮箱会自动给注册用户邮箱发激活链接(如下图),当用户在个人邮箱中点击激活链接后方可登录,以此来确认注册为本人操作。

②登录页面如下:

③忘记密码页面如下,使用邮箱验证修改密码:

用户在收到邮件后点击修改页面链接后,跳转到如下页面进行密码修改。点击“提交”按钮后会自动跳转到登录页面进行登录。如图为修改密码页面图。

4.3 用户个人中心 用户成功登录进入系统主页面后,可进入个人中心查看个人信息,同时可以完善或修改自己的个人信息,其中包括头像、密码、昵称、性别和地址等信息。

4.4 全局检索功能 全局检索功能主要方便用户快速查找所需信息。其中,本系统提供了“标题”、“作者”和“机构”三个方面的模糊查询服务,并对英文关键词大小写不敏感。如图为按论文标题查找,关键词为Machine LEARNING

4.5 系统各项功能模块 4.5.1 论文所属国家分布(图表基于Echarts实现)

4.5.2 AAAI会议历年中稿率

4.5.3 AAAI词云图 ①动态词云图,使用WordArt第三方在线工具导入。

②静态词云图,使用Python中的wordcloud制作。

4.5.4 AAAI作者关系图谱 在对作者数据构建共现矩阵并得出其三元组存储形式后,将数据导入到Gephi,使用力引导布局绘制出知识图谱,并以SVG矢量可伸缩图片保存,将其导入到HTML中,借用开源JavaScript包svg_Zoom_Pan实现可无限伸缩且可平移的网页效果

4.5.5 AAAI会议论文主题聚类(使用LDA主题模型) 其中top5主题分别是:

  • 机器学习的理论和应用
  • 自然语言处理
  • 深度神经网络
  • 知识表现与垂直搜索
  • 博弈论与经济范式

4.5.6 AAAI会议论文概览及下载页面 点击标题链接后可进入到论文详情页面,可看到论文标题、摘要以及作者和所属机构,同时对于已登录用户可提供PDF论文下载服务。

4.5.7 AAAI会议论文作者统计 本系统对前五年的作者、前三年以及2018年的做了统计(其中细化为所有作者和第一作者两部分)

4.5.7 AAAI会议论文作者统计 本系统对前五年的作者、前三年以及2018年的做了统计(其中细化为所有作者和第一作者两部分)

4.6 系统管理后台

转载自https://github.com/SparksFly8/DataMingingPaper

理工酷提示:

如果遇到文件不能下载或其他产品问题,请添加管理员微信:ligongku001,并备注:产品反馈

评论(2)

0/250
强悍的跑步鞋 • 2
下载后的评价
点个赞
2022-02-09 回复
读研的弓箭 • 6
下载后的评价
2022-10-23 回复