预防和解决校园暴力,AI能为孩子做些什么?

CIOAge 人工智能
抱团冷落、网络欺凌、威胁勒索、肢体暴力……这些事情每天都发生在我们身边,就连《哆啦A梦》里的主角大雄,都是一位典型的校园暴力受害者。不一样的是,大雄受到胖虎欺负时,哆啦A梦会为他出头。在现实中,我们可以把解决校园暴力的重担交给AI吗?
[[228688]]

你的校园生活快乐吗?相信很多人会回答“是的”。但是有17.18%的人不这么觉得。上海海事大学的一份调研报告中显示,高校中有17.18%的人认为自己遭受过校园暴力。

抱团冷落、网络欺凌、威胁勒索、肢体暴力……这些事情每天都发生在我们身边,就连《哆啦A梦》里的主角大雄,都是一位典型的校园暴力受害者。不一样的是,大雄受到胖虎欺负时,哆啦A梦会为他出头。在现实中,我们可以把解决校园暴力的重担交给AI吗?

用AI寻找校园“高危分子”,究竟有多准?

虽然听起来十分不靠谱,但目前的确有机构在进行相关的研究。最近辛辛那提儿童医院医疗中心进行了一些实验,结果表示AI可以检测出青少年的暴力倾向,而且检测结果和专业心理医生一样准确。

来自辛辛那提儿童医院医疗研究中心的精神病学家先是在美国74所中小学中找到了103位曾经有过施加校园霸凌行为的青少年,通过和他们进行心理咨询对话,再加上对于他们家庭背景的调查研究,将数据信息和录音进行标注,利用机器学习进行挖掘,建立了相关模型。

经过几次训练,***研究者们发现这一模型可以对青少年的心理进行精准的把握。分析对话录音中的语气、语调结合家庭背景,可以推断出青少年实施校园暴力的风险有多高。在测试中,AI模型非常清晰的把一批青少年分为了“高风险组”和“低风险组”。这一结果和科学家们的评估相差无几。

也就是说,这样的评估方式可以被广泛应用。为每个学校配备一位心理医生或精神病学家自然是不现实的,但有了AI的存在,甚至可以定期、批量的对青少年心理状况进行评估,从而减少校园暴力发生的可能。

从干预到治愈,AI还能为校园暴力做些什么?

可是对青少年进行评估之后,我们还能做些什么?总不能将那些高风险的青少年和普通人隔离开来,或是进行一些人为干预,那样这些青少年自身又称为了“AI暴力”的受害者。

校园暴力的成因非常复杂,一方面和校方、家庭、社会制度疏于管理有关,另一方面也关系到施暴者自身的心理因素。

而除了预测风险,AI能够解决的问题还有两类,一类是监控校园暴力的发生状况,另一类是在校园暴力发生后对施暴者和受害者进行心理危机干预。

调查显示,从2008年之后有65%的校园暴力都包含了网络欺凌。也就是说网络欺凌通常是校园暴力的开始,接下来会出现语言暴力、肢体暴力等等现实世界的伤害。准确追踪到网络欺凌的苗头,或许可以防止校园暴力向更严重的方向发展。

这时利用NLP技术和图像识别寻找百度贴吧、QQ空间、朋友圈、抖音/快手等等社交媒体中的暴力言论就可以成为一种高效的方法。不久前浙江温岭发生的校园暴力事件,施暴者就是在微博、贴吧、知乎等社交媒体中对受害者进行了长达十年的侮辱和造谣。

其实地域性的社交媒体、侮辱性的词汇等等都具有很强的指向性,可以被语言识别技术轻松的发现,而这些社交媒体大多又是实名制的,及时对这些信息进行屏蔽、删除甚至追责,或许可以减少校园暴力对青少年造成的伤害。

Facebook就邀请了美国家庭网络安全组织作为自己的安全顾问委员会成员,推出了安全及防欺凌中心,专门开拓入口接受用户举报解决相关问题,同时利用人工智能监测用户发布内容中的暴力倾向和自杀倾向,以保证及时参与干预。

而在心理危机干预方面,中国整体相对发达国家都趋于弱势。在沪卫计委的调查中,中国17岁以下的3.4亿儿童和青少年有3000万人受到各种心理行为问题的困扰。而且中国心理咨询服务整体的就职门槛较低,只需大专学历和500小时以上的培训时间,通过考试就能获得资质,甚至没有临床方面的要求。

利用AI服务心理咨询,是一种历史悠久的解决方案。在1966年,人工智能研究还处于萌芽时期时,科学家就开发出了一款名为ELIZA的神经语言处理项目,目的是为了模拟精神病治疗师的行为和话术。虽然这一项目没能取得成功,但是却成功的打开了AI+心理咨询的大门。

像IBM就和多所大学合作,利用神经网络对人类的语言进行分析,通过对语言、话题的一致性进行研究,寻找患精神病的几率。同时最近流行的虚拟心理沙盘也是将实体心理沙盘数字化,通过对沙盘摆放和表情识别、眼动追踪的机器学习,给出比现实沙盘更详实的结果。

对于青少年来说,利用AI来进行心理危机干预一方面能降低校方和家长付出的成本。另外处于青春期的青少年面对电脑、手机可能会更容易放下心理防备,展示出更真实的状态。包括前文中提到的辛辛那提儿童医院研究中心,也在尝试把AI对语言的分析能力从预测校园暴力释放到“治愈校园暴力”上。对于施暴者和受害者来说,都可以通过这种方式降低校园暴力对于他们未来长远的影响。

结语

我们很遗憾的发现,目前AI虽然能对于校园暴力有所作用,可是这些作用能力真的少之又少。

AI可以删掉社交媒体中每一条带有侮辱性质的留言,却不能阻止青少年之间的口耳相传。AI可以抚慰受害者的心灵,却不能为他们挡住拳脚。原来哆啦A梦真的只是童话,在现实世界里,技术也会有无能为力的时候。

想要解决校园暴力,最起码尽可能降低校园暴力对青少年的伤害。还是需要依赖法律法规的完善,以及家长、校方和全社会的共同关注。等到那一天,或许会有更多有志之士挖掘出AI解决校园暴力的更加可能,让哆啦A梦真的出现。

责任编辑:未丽燕 来源: 钛媒体
相关推荐

2012-05-31 13:09:29

Linux

2022-06-01 13:36:16

人工智能物联网

2022-04-01 14:13:38

机器学习电信运营商人工智能

2022-05-10 11:21:20

ASIC物联网智能传感器

2022-05-26 15:04:46

大数据建筑能源管理

2021-08-06 10:15:11

数据中心双碳目标碳中和

2023-02-16 13:31:14

技术发展

2017-01-15 11:17:20

2018-04-27 15:27:09

2018-07-24 11:58:32

2021-08-03 23:02:41

人工智能机器人职业

2020-07-03 16:51:28

AWSSageMaker人工智能

2022-06-04 12:35:52

AI语言校园暴力

2018-04-10 11:14:00

2018-07-18 12:19:32

AI智慧水务数据

2019-05-22 10:05:31

人工智能AI教育

2020-06-15 08:06:25

ES数据

2021-12-02 10:46:05

锐捷网络

2021-08-13 08:00:00

人工智能数据开发

2021-08-26 23:01:41

人工智能气候大数据

51CTO技术栈公众号