美国学区正使用AI预防校园暴力，检测威胁语言后通知管理员，但事前诊断率仅25%

大数据文摘出品

作者：Caleb

美国再发枪击案。美国

5月24日，学区胁语得克萨斯州尤瓦尔迪市罗布小学发生枪击事件，正使诊断至少19名儿童和2名教师遇害。用AI预园暴言后这是防校自2012年康涅狄格州纽敦镇桑迪胡克小学枪击案以来，美国境内致死人数最多的力检率仅校园枪击事件，也是测威美国2022年发生的至少第30起幼儿园及中小学校园枪击案。

根据法国媒体报道，通知枪击案事件肇事者可能是管理一名17岁的青少年。

当地时间29日，事前美国总统拜登和第一夫人吉尔·拜登当天前往得克萨斯州尤瓦尔迪市罗布小学大规模枪击案现场，美国他们参观了在该小学外设立的学区胁语一处纪念场所，并向遇难者献花。正使诊断

每次青少年大规模枪击事件发生之后，用AI预园暴言后我们都不禁疑惑：这些迹象到底是防校怎么被一一错过的？

AI正在阻止学校暴力事件

锁定个人与早期干预是至关重要的。

目前，学校也越来越依赖于监控软件来检查他们在网上发布的帖子和文章，因为他们几乎总是记录这些计划。

这些软件系统，来自Gaggle，Lightspeed Systems和Bark等公司，可以监控在学校发行的设备和网络上的通信。其中AI可以检测到一些语言，表明学生有伤害自己或他人的倾向。

文档和Office上写的电子邮件或者是一些暴力计划，以及网络搜索武器或自杀方法等行为，都被标记给管理员，然后管理员必须决定威胁是否可信以及如何采取行动。

“这是一个预警系统，提醒我们可能会发生的事情，所以我们可以帮助他们回到一个相对正常的水平”。Quintin Shepherd说。

虽然无法得知有多少校园枪击事件被预防，用户表示，这项技术能在学生正在使用学校服务进行交流的地方标记警告，同时学校必须做好在警报出现时采取行动的准备，评估警告，做出反应。

警报通常包含被标记的措辞、威胁的类型以及学生聊天打字的地方。当威胁被认为是可信的时候，比如学生写到自己有自杀的想法而不是为课堂项目时，学校辅导员就需要进行家访。

学校官员说，家长们经常表示惊讶。根据不同情况，学生可能会住院，转介给治疗师进行治疗，或由咨询师进行更密切的监控。

这名青少年男子被控本月早些时候在纽约州布法罗的一家超市杀害10人，此前也曾被转到医院。医务人员确定他没有危险，也没有精神疾病，才把他送回家。

维多利亚地区使用了Gaggle，每个学生一年的费用约为6美元。

然而，Shepherd说，学区不能仅仅依靠技术来防止学校暴力事件。四年前，当他成为督学时，他询问了社区成员的担忧，学生安全排名靠前。大人们都表达了需要更多的身体安全措施的要求，比如学校警察和通知系统。学生们说，他们需要更多的心理健康支持，并帮助他们发展应对技能。

各学区已经收到了数十亿美元的救济资金，用于解决心理健康问题和学习损失，他们也正努力使用所能使用的所有工具来检测和防止暴力。

Shepherd说，他所在的地区减少了300个运营、行政和教学工作，为学生提供更多的心理健康服务。维多利亚是一个有13500名学生的地区，来自一个低收入的西班牙裔社区。它为每一所学校增加了一名社会情感行为专家，帮助陷入困境的学生和家庭。

“我们意识到，每个来学校的学生都带着一些感觉，有时这些感觉是悲伤、愤怒或沮丧的。如果我们能尽早看到，我们就能帮助孩子们不让他们的感觉劫持他们的情绪，那正是坏事发生的时候。”

94%的计划会被提前分享

去年，美国特勤局分析了67起避免了针对学校的暴力阴谋，他们发现，在94%的案件中，攻击者都会通过电子信息或在线帖子口头分享计划。也有人在没有被分享的期刊、文件、视频或录音中概述了他们的计划。

乌瓦尔德大学的枪手曾在上向一名海外少女发短信，说他计划在枪击事件发生前杀死自己的祖母和学生。据说，他还在社交媒体上发布了有关枪支和自残的照片和视频。

根据联邦调查局的一份关于枪手导致攻击的行为的报告，活跃的枪手表现出四到五种与周围人有关的行为，比如心理健康的变化、困难的人际交往和对暴力的讨论。

枪手在枪击发生前一年也经历了多重问题，从学校的纪律处分到家里的虐待。抑郁、焦虑或偏执狂等心理健康问题在这些枪手中普遍存在。然而，在联邦调查局调查的案件中，只有大约25%的人在袭击前得到了正式诊断。

联邦调查局发现，对于18岁以下的枪手来说，同学们比家人更有可能观察到自己的行为。41%的案件向执法部门报告了这种行为，在大多数情况下，关于该行为的唯一讨论是在枪手和同伴之间。

据联邦调查局和其他官员说，自杀的念头在那些继续伤害他人的青少年中也很常见。

“那些有杀人倾向的人往往有自杀倾向，这是对地区的潜在威胁。”科罗拉多州法尔肯市49学区安全安全主任David Watson说，该学区利用Bark向管理人员提醒学生的威胁。

Watson表示，他所在的学区在2017-2018学年开始注意到青少年心理健康问题的上升，此后，科罗拉多斯普林斯东北部地区发生了大量学生自杀事件。

Bark为学校提供免费的人工智能服务，以扫描他们的通讯。该软件不是一个独立的应用程序，也不是一个跨学校网络使用的过滤器；相反，它是在学校的谷歌和微软Office365中实现的。每个学生的年费2美元，学区就可以在放学后让审查人员来审查可能出现的严重威胁。

但正如Shepherd所说，我们不能完全依赖技术，AI能在多大程度上解决这类问题，我们仍需要继续观察并摸索。

(责任编辑：综合)