Facebook 将人工智能技术用于自杀预防

作者 | 发布日期 2018 年 02 月 24 日 14:45 | 分类 Facebook , 人工智能 , 社交网络
20180223182626-624x387

【Technews科技新报】许多有自杀倾向的人都会社交平台上发布相关的言论,这给了外界进行自杀干预的机会,Facebook 正在利用人工智能系统对用户在社交平台上的自杀倾向言论进行分析,并向救援机构及时发出预警。



纽约 Chautauqua 郡的主管 Joseph Gerace 在其任职期间经历许多自杀事件,但在最近面对这些事件时,他有了一个新的帮手,就是 Facebook 的安全团队。2017 年 7 月,Facebook 爱尔兰安全团队告知 Chautauqua 郡的 911 中心关注某名可能存在自杀倾向的居民。已经在该地区任职 39 年的 Joseph Gerace 在接受采访时表示,对于用户在社交平台上的言论进行分析,并不会侵犯用户隐私,只是希望能够在发生危机时及时干预。据报导称,Facebook 在 2017 年 8 月首次对外公开 Chautauqua 郡的这起事件,该公司透过算法的分析,被告知一名女用户曾在 Facebook 页面上发布过伤害自己的言论。

长期以来,Facebook 会对用户在该平台上的自杀倾向言论进行分析,将涉及此类内容的言论提交到人工审查,并判断是否需要向自杀干预热线提供帮助,或者在一些极端状况下 Facebook 的专业团队进行干预。

对用户言论的分析是基于人工智能系统和算法,大约在一年前,Facebook 在该公司的社交平台上加入了一项技术,这项技术可以自动辨识和标记带有自杀倾向的内容,供 Facebook 的工作人员审查。2017 年 11 月Facebook 发布报告称该内容辨识和分析系统已经开始发挥作用,在一个月的时间内,与紧急救援机构进行了 100 多次合作,均是基于该公司的主动检查系统。启动这一机制后 Facebook 的自杀防御支持资料的使用人数比之前成长了两倍多。该公司还在使用更多语言来升级系统,并加入 Instagram 的平台中。

Facebook 软件工程师 Dan Muriello 透露负责该团队成立于 2015 年,主要是分析负面的言论,比如社交分手和死亡等,虽然在 Facebook 平台上涉及自杀的讯息非常少,可能只有百万分之一,但自杀已经成为公共健康的一个严重威胁,据美国疾病控制与预防中心的报告显示,自杀已经成为了美国前十大死因之一,在 15 岁到 34 岁的年龄段,自杀是第二大死因,仅次于意外伤害。对于月活跃用户超过 21 亿的 Facebook 平台来说,在预防和干预自杀方面可以发挥更大作用。

Facebook 在 2013 年成立了人工智能技术团队,并建立了人工智能实验室,并招募了知名的人工智能专家 Yann LeCun 做为主管,该实验室基于人工智能技术研发了多项功能并应用到 Facebook 的平台上,包括辨识用户的泳照、辨识翻译文字、辨识影片中的对话等。

AI 需做到准确理解用户并发出预警

包括 Amazon、苹果、Google、微软在内的科技公司都在投资和发展人工智能技术,并应用在各种不同的平台和服务上,但将人工智能应用到自杀预防还非常少见。Facebook 科学家 Umut Ozertem 表示,他在该领域研究多年,曾在 Yahoo 和微软的人工智能实验室工作,但从来没有从外部听到有人提到自杀预防方面的研究,他个人对此非常感兴趣。

Facebook 在自杀预防方面的研究已经超过了 10 年,推出了社交平台的线上帮助中心,在帮助中心用户可以找到需要的资源,Facebook 下一步就是利用平台的资料,对用户的讯息进行分析,并对特殊的讯息发出预警供专业人员审查。

微软和 Google 也在各种平台提供了类似的服务,比如在 Google 搜索中查询自杀相关资讯,就会显示预防自杀的救助热线号码,微软则在 Xbox Live 的搜索结果中加入了预防自杀中心的讯息。对于 Facebook 而言,这仅仅只是一个开始,目前已经有超过 7,500 名工作人员进行自杀和其他自我伤害的讯息审查,Facebook 全球策略管理负责人 Monika Bickert 表示,任何与人身安全有关的讯息,比如自杀、自我伤害等,都必须是优先考虑的,必须参与措施进行干预。 Facebook 的工作人员还会与专业的救助机构合作,据自杀干预救助机构 SAVE 的执行总监 Dan Reidenberg 表示,Facebook 每两年会举办一次技术峰会,邀请各大公司和机构的代表来讨论这一议题,科技公司的服务是全球性的,他们需要持续关注用户。

2017 年年初专业的自杀干预救助团队与 Facebook 公司的研发团队在硅谷进行会面,讨论如何利用人工智能技术预防自杀,这次会议讨论了一个多小时,目标是创建一个能够理解用户言论的自动系统,因为在文字的表达中有许多奇妙之处,比如用户发文称,“如果再让我看一遍这样的电影,我就自杀”,显然这名用户并不是在发布负面的自杀倾向,这正是人工智能技术需要应对的挑战,如何准确地理解用户并及时发出预警。

Dan Reidenberg 对于 Facebook 利用人工智能技术进行自杀干预的前景感到乐观,人工智能能帮助救助人员快速地找到处于危机中的人,就意味着可以挽救更多人的生命,但 Facebook 的应用推广也可能面临更新的挑战,因为当用户知道 Facebook 能够辨识出负面的讯息并做出反馈,他们就可能不会在 Facebook 上发布这些内容。

(首图来源:pixabay

如需获取更多资讯,请关注微信公众账号:Technews科技新报

linli

长期观察中国市场生态,了解中国本地多项产业的变化与市场知识,提供第一手的中国市场观察。 现居中国上海,同时也关注全球的资讯软件、电子商务、互联网与移动运算设备的持续发展。
未经许可,任何媒体、网站或个人不得复制、转载、或以其他方式使用本网站的内容,违者必究。
关键字: ,

直接使用新浪微博发表评论

 

发表评论