怡靜的好康推薦

想死沒那麼容易，Facebook 用 AI 預防用戶自殺

原標題：想死沒那麼容易，Facebook 用 AI 預防用戶自殺

社交網絡每天都在「吞噬」用戶的時間和生命，現在，社交霸主 Facebook 要用技術來拯救用戶的生命瞭。近日，Facebook 在公司博客宣佈，將在全球推廣其「主動識別」技術，用來辨別有自殺傾向的用戶，並在第一時間為後者提供幫助。截至目前，急救人員已經根據 Facebook 的監測，接觸有自殺傾向的用戶超過百次。

根據世衛組織報道，全球每 40 秒鐘就有人嘗試自殺；在 15 到 29 歲的青少年人群中，自殺已經成為第二大致死原因。作為全球最大社交網站，Facebook 的「自殺預防」方案可能會為更多想不開的人提供急需的幫助。

用 AI 掃描自殺傾向

根據官方博客介紹，Facebook 采用主動檢測技術，掃描用戶在 Facebook 上的文字和圖片信息，用來台北原木餐桌｜台北原木餐桌工廠分析用戶是否符合「自殺傾向」的模式。雖然 Facebook 並沒有透露軟件如何定義什麼樣的信息會被判定為「自殺傾向」，但是其頁面中如果有「你還好嗎？」、「我能幫助你嗎？」之類的短語，將會讓用戶成為工作人員的「重點照顧對象」。

當 Facebook 的系統認為用戶有自殺傾向時，會向負責審核內容的工作人員發送報告，相對於上傳到網站的暴力或者裸體內容，「自殺」類報告將獲得更高的優先級，提醒工作人員進行優先處理。工作人員會根據情況采取不同措施：直接聯系用戶、聯系用戶的相關親朋好友、盡快通知當地急救人員。

目前，「自殺檢測」功能已經在美國進行瞭幾個月的試驗，根據 Facebook 的報告，急救人員已經接觸瞭相關用戶超過 100 次。在博文中，Facebook 產品管理副總 Guy Rosen 稱「拯救自殺傾向人士最重要的就是速度」，自動檢測功能可以提高「自殺傾向人士」獲救的速度。

原木餐桌｜原木餐桌推薦

Facebook視頻直播端的幫助頁面（圖片來源：Facebook）

7500 人的審核團隊

去年 Facebook 開始試水視頻直播功能，在提高網站各項數據同時，也遇到瞭巨大挑戰——相繼有網友通過 Facebook 視頻直播自殺甚至謀殺行為。由於這些事件往往實時發生，較難進行控制，而相關事件對於 Facebook 品牌則產生巨大負面作用。為瞭控制類似事件，今年 3 月 Facebook 推出瞭針對「自殺直播」用戶的特殊工具。

當看到有人正在做有「自殺傾向」直播時，用戶可以將情況報告給 Facebook，在報告頁面有不同選項，可以為用戶提供救助方式、急救熱線或者聯系其他好友等方法。「自殺傾向」用戶直播的頁面也會出現「聯系好友/傢人」和「求助熱線」等選項。為什麼 Facebook 不直接關閉自殺者的直播？答案是，關閉直播反而切斷瞭自殺者的求助之路，很多自殺者渴求更多的是親朋好友的關心，相比之下前者帶來的危險性更大。

Facebook 也為此加強瞭隊伍建設，在原本的 4500 名審核人員基礎上，多加瞭 3000 名新生力量，Facebook 稱其為「社區幫助」（Community Help）。為瞭能讓當地急救人員第一時間救助相關人士，Facebook 嘗試讓這些全球「社區幫助」工作人員能用當地語言聯系急救人員。

不大不小的問題

今年 7 月，Facebook 的月活突破 20 億大關，要實時對用戶上傳的海量數據進行審核，實在不是一件容易的事。用 AI 技術來預測人們的自殺傾向並提供幫助，是非常有意義的事，但同時也觸動瞭用戶在隱私方面的神經——如果 Facebook 能掃描並推斷用戶是否有自殺傾向，那麼這個「老大哥柚木實木餐桌工廠｜柚木實木餐桌工廠推薦」還能推斷出什麼其他信息？此前，Facebook 曾經推出過相關審核功能，當檢測到涉及兒童色情等對話內容時，Facebook 會通知相關機構進行處理。

當被問到用戶能否選擇拒絕「自殺傾向」的掃描時，Facebook 給予瞭否定的答案——這可能是為什麼 Facebook 不能將這項服務推向歐洲市場，因為後者在用戶隱私方面有十分嚴格的政策。

Facebook 並不是唯一一傢向有自殺傾向人士提供幫助的互聯網公司，搜索巨頭谷歌就在用戶搜索自殺相關詞匯時，會在頁面顯示求助熱線。相對於 Facebook 的主動掃描，谷歌的被動式呈現顯得比較低調。畢竟，投向用戶的關切凝視，如果處理不當，也可能變成可怖的監視。

頭圖來源：womensclosetexchange

責任編輯：雙筒獵槍返回搜狐，查看更多

責任編輯：

聲明：本文由入駐搜狐號的作者撰寫，除搜狐官方賬號外，觀點僅代表作者本人，不代表搜狐立場。

閱讀 ()

• 原木餐桌｜原木餐桌推薦 實木家具工廠｜實木家具工廠宜蘭該哪裡找呢？達人推薦
• 原木餐桌｜原木餐桌推薦 尋找原木桌板工廠｜原木桌板工廠推薦廠商～@E@
• 原木餐桌客製化｜原木餐桌客製化推薦 尋找原木桌板工廠｜原木桌板工廠推薦廠商～@E@