Table of contents generated with markdown-toc
近年来,由于升学、就业、感情、价值取向等多方面原因,我国大学生出现心理异常的情况显著增加,大多数学生处于心理亚健康状态,有的甚至产生了心理障碍或精神疾病,更有甚者错误地选择了轻生,给个人、家人、学校和社会都造成了无法挽回的负面影响。
在互联网时代,社交媒体平台如微博等成为人们表达情感、交流信息的主要方式之一。大多数学生习惯在以微博为代表的社交平台发布动态,这些动态以文本为主,通常具有明显的情感倾向,在一定程度上可以反映学生的心理状态。通过对这些社交媒体平台上用户发表的文本内容进行分析,可以及时发现用户潜在的抑郁等心理疾病风险,从而早干预、早治疗。
本项目旨在探索如何利用中文微博文本进行心理健康状态分析,并提出相应的分析方法和技术建立一个基于深度学习的微博文本心理健康识别系统,该系统可以根据输入的微博用户id自动爬取该用户近期的所有微博文本内容,并基于这些文本分析该用户近期的情感倾向(正向or负向)以及抑郁倾向(无抑郁or抑郁)
- 微博爬虫模块
- 情绪识别模块
- 抑郁识别模块
- 结果展示模块
共分为3个部分:
- WeiboSentimentClassification:微博评论情感分类模型
- DepressionAnalysis:抑郁识别模型
- WeiboSpyder:微博爬虫
该部分在weibo_senti_100k
数据集上建立了一个基于LSTM神经网络的新浪微博评论情感二分类模型。
- 下载地址:百度网盘
- 数据概览:包含十二万条带情感标注的新浪微博文本内容。每条数据被标记成正向(1)或负向(0),正负向数据各六万条。
- 数据来源:新浪微博
- 原数据集:新浪微博,情感分析标记语料共12万条,网上搜集,具体作者、来源不详。
- 加工处理:
- 把原来的两份文档合成1分csv文件
- 编码统一为
UTF-8
- 去重
字段 | 说明 |
---|---|
label | 1表示正向评论,0表示负向评论 |
review | 微博内容 |
AVEC-2019大赛旨在比较用于自动音频、视觉和视听健康和情感感知的多媒体处理方法和机器学习方法,并将来自不同学科的多个社区聚集在一起,特别是视听多媒体社区和那些在心理和社会科学研究表达行为;另一个目标是通过为多模态信息处理提供一个共同的基准测试集来推进健康和情感识别系统。
数据集特点:为了比较在明确的条件下自动健康和情感分析方法的相对优点,采用的数据是具有大量的完全自然行为的未分割的、非原型的和非预先选择的数据。其中抑郁严重程度(PHQ-8问卷)是从与进行临床访谈的虚拟代理人互动的患者的视听记录中评估的。DAIC数据集包含同一批患者的新记录,这次虚拟代理完全由人工智能驱动,也就是说,没有任何人工干预。这些新记录被用作DDS的测试分区,并将有助于理解没有人执行的虚拟代理对抑郁症严重程度自动评估的影响。
简单来说,AVEC-2019大赛的主题可以概括为多模态的抑郁识别。约三百名患者与一个人工智能驱动的虚拟代理进行访谈对话,整个过程被录音、录像,从而得到包含音频、视频、文本三个模态的数据。其中文本模态是音频数据语音识别的结果。
该数据集的原始标签为PHQ-8问卷的得分。所有参与访谈的患者都被要求填写一份PHQ-8问卷。PHQ-8问卷共有8个题目。每个题目的每个选项分别对应0-3分。PHQ-8的总分值为0-24分,总分≥10分者认为有抑郁倾向。
本项目所使用的的数据集是AVEC-2019数据集中的文本部分。PHQ-8问卷得分被按上述规则转换为二分类标签。
注:该数据集为英文数据集
BERT fine-tune
可以爬取指定用户在指定时间段的所有微博文本信息,并将这些信息写入csv文件保存。
1、首先对每一个用户初始化一个Weibo对象:
user = Weibo(weibo_id,since_date)
user_id
即该用户的微博id,可以是整数也可以是字符串,必填;
since_date
是一个整数或者字符串形式的日期,表示爬取的时间范围,默认设置为15,可以不填。since_date值可以是日期,也可以是整数。
如果是整数,代表爬取最近n天的微博,如:
user = Weibo(weibo_id=..., since_date=10)
代表爬取最近10天的微博,这个说法不是特别准确,准确说是爬取发布时间从10天前到本程序开始执行时之间的微博。
如果是日期,代表爬取该日期之后的微博,格式应为“yyyy-mm-dd”,如
user = Weibo(weibo_id=..., since_date="2018-01-01")
代表爬取从2018年1月1日到现在的微博。
2、对已经初始化好的Weibo对象,通过start()方法开始爬取。
user.start()
爬取的数据会写入.../weibo/<username>/<user_id>.csv
文件