負面影片一則接一則...TikTok「恐怖演算法」逼少年走絕路!為何無法可解?

16 歲的切斯.納斯卡(Chase Nasca)在2022年2月站在離家不遠的一段鐵軌上,隨著列車疾駛而過,他告別了才正要啟程的後半人生。然而納斯卡的父母完全不知道他輕生的理由,直到取得他的TikTok帳號,才似乎找到可能的解答。

還不知道納斯卡已經前往另個世界的TikTok帳號,仍不斷推送充滿負面情緒、絕望、美化自殺的內容。負面、不當的內容是所有社群平台共同面臨的難題,但TikTok對演算法的保密態度,以及中國開發團隊與海外安全團隊的隔閡,導致在全球擄獲逾10億用戶的演算法,成為讓部分青少年墮入深淵的推手。

tiktok.jpg 圖/Unsplash
tiktok.jpg 圖/Unsplash

2021年,《華爾街日報》曾在針對100個TikTok機器人帳戶的調查中發現,與憂鬱影片互動的帳戶,獲得推播的內容93%都是負面的。雖然當時TikTok強調,機器人不能代表人類行為。

TiikTok前安全團隊成員表示,他們幾乎沒辦法影響推送功能背後的演算法,公司也拒絕讓他們知道運作原理,甚至不同意中國工程主管和安全團隊與他們召開會議,加上部分工作文件的語言隔閡,都讓提升平台安全性困難重重,許多成員因而離職。對此,TikTok解釋有認真看待員工提出的擔憂,讓工程師與安全團隊合作,只不過2021年前離職的員工無法知悉後續變化。

TikTok心理健康政策負責人Ryn Linthicum則指出,公司禁止發布美化自殺、自殘的內容,並透過AI、4萬名審核人員在觸及用戶前過濾掉97%這類的內容。但他坦承審查過程非常困難,除了演算法的局限,內容是否「有害」有時並非黑白分明。

延伸閱讀:「用TikTok是為了詐欺!」10億用戶平台成「詐騙管道」賣減肥藥,TikTok為何放任不管?

責任編輯:錢玉紘

更多報導
「用TikTok是為了詐欺!」10億用戶平台成「詐騙管道」賣減肥藥,TikTok為何放任不管?
TikTok只是短影音平台,為何美國、印度到阿富汗都想趕盡殺絕?問題到底在哪?