根據(jù)世衛(wèi)組織報道，全球每 40 秒鐘就有人嘗試自殺；在 15 到 29 歲的青少年人群中，自殺已經(jīng)成為第二大致死原因。 而社交媒體中產(chǎn)生的網(wǎng)絡(luò)暴力及網(wǎng)絡(luò)壓力也在消磨用戶的時間甚至是他們的聲明。 作為全球最大社交網(wǎng)站，Facebook 的「自殺預(yù)防」方案可能會為更多想不開的人提供急需的幫助。

近日，Facebook 在公司博客宣布，將在全球推廣其「主動識別」技術(shù)，用來辨別有自殺傾向的用戶，并在第一時間為后者提供幫助。截至目前，急救人員已經(jīng)根據(jù) Facebook 的監(jiān)測，接觸有自殺傾向的用戶超過百次。

用 AI 掃描自殺傾向

根據(jù)官方博客介紹，F(xiàn)acebook 采用主動檢測技術(shù)，掃描用戶在 Facebook 上的文字和圖片信息，用來分析用戶是否符合「自殺傾向」的模式。雖然 Facebook 并沒有透露軟件如何定義什么樣的信息會被判定為「自殺傾向」，但是其頁面中如果有「你還好嗎？」、「我能幫助你嗎？」之類的短語，將會讓用戶成為工作人員的「重點照顧對象」。

當(dāng) Facebook 的系統(tǒng)認(rèn)為用戶有自殺傾向時，會向負(fù)責(zé)審核內(nèi)容的工作人員發(fā)送報告，相對于上傳到網(wǎng)站的暴力或者裸體內(nèi)容，「自殺」類報告將獲得更高的優(yōu)先級，提醒工作人員進行優(yōu)先處理。工作人員會根據(jù)情況采取不同措施：直接聯(lián)系用戶、聯(lián)系用戶的相關(guān)親朋好友、盡快通知當(dāng)?shù)丶本热藛T。

目前，「自殺檢測」功能已經(jīng)在美國進行了幾個月的試驗，根據(jù) Facebook 的報告，急救人員已經(jīng)接觸了相關(guān)用戶超過 100 次。在博文中，F(xiàn)acebook 產(chǎn)品管理副總 Guy Rosen 稱「拯救自殺傾向人士最重要的就是速度」，自動檢測功能可以提高「自殺傾向人士」獲救的速度。

Facebook視頻直播端的幫助頁面（圖片來源：Facebook）

7500 人的審核團隊

去年 Facebook 開始試水視頻直播功能，在提高網(wǎng)站各項數(shù)據(jù)同時，也遇到了巨大挑戰(zhàn)——相繼有網(wǎng)友通過 Facebook 視頻直播自殺甚至謀殺行為。由于這些事件往往實時發(fā)生，較難進行控制，而相關(guān)事件對于 Facebook 品牌則產(chǎn)生巨大負(fù)面作用。為了控制類似事件，今年 3 月 Facebook 推出了針對「自殺直播」用戶的特殊工具。

當(dāng)看到有人正在做有「自殺傾向」直播時，用戶可以將情況報告給 Facebook，在報告頁面有不同選項，可以為用戶提供救助方式、急救熱線或者聯(lián)系其他好友等方法。「自殺傾向」用戶直播的頁面也會出現(xiàn)「聯(lián)系好友/家人」和「求助熱線」等選項。為什么 Facebook 不直接關(guān)閉自殺者的直播？答案是，關(guān)閉直播反而切斷了自殺者的求助之路，很多自殺者渴求更多的是親朋好友的關(guān)心，相比之下前者帶來的危險性更大。

Facebook 也為此加強了隊伍建設(shè)，在原本的 4500 名審核人員基礎(chǔ)上，多加了 3000 名新生力量，F(xiàn)acebook 稱其為「社區(qū)幫助」（Community Help）。為了能讓當(dāng)?shù)丶本热藛T第一時間救助相關(guān)人士，F(xiàn)acebook 嘗試讓這些全球「社區(qū)幫助」工作人員能用當(dāng)?shù)卣Z言聯(lián)系急救人員。

不大不小的問題

今年 7 月，F(xiàn)acebook 的月活突破 20 億大關(guān)，要實時對用戶上傳的海量數(shù)據(jù)進行審核，實在不是一件容易的事。用 AI 技術(shù)來預(yù)測人們的自殺傾向并提供幫助，是非常有意義的事，但同時也觸動了用戶在隱私方面的神經(jīng)——如果 Facebook 能掃描并推斷用戶是否有自殺傾向，那么這個「老大哥」還能推斷出什么其他信息？此前，F(xiàn)acebook 曾經(jīng)推出過相關(guān)審核功能，當(dāng)檢測到涉及兒童色情等對話內(nèi)容時，F(xiàn)acebook 會通知相關(guān)機構(gòu)進行處理。

當(dāng)被問到用戶能否選擇拒絕「自殺傾向」的掃描時，F(xiàn)acebook 給予了否定的答案——這可能是為什么 Facebook 不能將這項服務(wù)推向歐洲市場，因為后者在用戶隱私方面有十分嚴(yán)格的政策。

Facebook 并不是唯一一家向有自殺傾向人士提供幫助的互聯(lián)網(wǎng)公司，搜索巨頭谷歌就在用戶搜索自殺相關(guān)詞匯時，會在頁面顯示求助熱線。相對于 Facebook 的主動掃描，谷歌的被動式呈現(xiàn)顯得比較低調(diào)。畢竟，投向用戶的關(guān)切凝視，如果處理不當(dāng)，也可能變成可怖的監(jiān)視。

網(wǎng)站上出現(xiàn)的Google廣告

P.S. 由于用 Google 搜索了和自殺（Suicide）相關(guān)的信息，結(jié)果現(xiàn)在記者瀏覽網(wǎng)站的頁面馬上出現(xiàn)了線上心理治療課程的廣告：如果你正在掙扎之中，可以考慮報一個XXX牌線上心理治療課程，你值得擁有。

99VR視界君：這樣的廣告看似提供了求助的來源，但如果是一個會搜索自殺相關(guān)信息的用戶，決心求死的人看到這樣的小彈窗廣告對于他來說應(yīng)該只是多一步關(guān)閉的動作吧。Facebook運用AI拯救自殺用戶所做出的努力是很值得贊賞的，希望通過這樣的拯救措施能挽救更多一時想不開的人的生命。

來源：99VR視界