據(jù)報(bào)道，近日，有部分家長反映，自己通過小天才電話手表App跟孩子聊天時(shí)，“我是你媽”等表述被系統(tǒng)提示“可能含有不適宜內(nèi)容”，令人哭笑不得。

對(duì)于有經(jīng)驗(yàn)的網(wǎng)友來說，遭遇這些毫不奇怪，肯定是因?yàn)榧议L在使用過程中，其發(fā)布的內(nèi)容觸碰了電話手機(jī)系統(tǒng)后臺(tái)設(shè)置的敏感詞，導(dǎo)致被屏蔽。然而，即便在保護(hù)兒童這個(gè)超級(jí)正確的目標(biāo)下，出現(xiàn)這種明顯荒誕的結(jié)果，仍顯得不正常。

廠商對(duì)兒童手表的內(nèi)容進(jìn)行干預(yù)可以理解，但干預(yù)總要有個(gè)限定邊界。廠商并非監(jiān)管部門，這種明顯影響到用戶日常使用的干預(yù)行為，已經(jīng)侵犯了消費(fèi)者的合法權(quán)益。

對(duì)此，廠商官方客服表示，“是想創(chuàng)造一個(gè)綠色的溝通環(huán)境，一些敏感詞匯或者不文明用語都是發(fā)送不出去的。”但從實(shí)際情況看，或許“綠色”在表面上實(shí)現(xiàn)了，但“溝通環(huán)境”卻遭到嚴(yán)重破壞，未免本末倒置。

就像一些網(wǎng)友評(píng)論所說，把內(nèi)容審核都交給無腦屏蔽系統(tǒng)，廠商一可以節(jié)約成本，二可以推卸責(zé)任，但犧牲的卻是用戶體驗(yàn)。

而小天才電話手表粗暴設(shè)置敏感詞并非孤例，它實(shí)際上代表了一種普遍現(xiàn)象。近年來，諸多社交平臺(tái)加大了利用人工智能進(jìn)行內(nèi)容審核的力度，而這些人工智能又不夠聰明，結(jié)果導(dǎo)致笑料頻出。

內(nèi)容審核事關(guān)內(nèi)容安全和用戶體驗(yàn)兩個(gè)重要方面，以目前的AI技術(shù)水平，想靠技術(shù)手段簡單解決的結(jié)果很可能就是兩個(gè)方面都做不好。

所謂道高一尺，魔高一丈，AI大范圍屏蔽關(guān)鍵詞的結(jié)果之一就是使當(dāng)下互聯(lián)網(wǎng)上充斥了大量的“黑話”，講的和聽的都知道在表達(dá)什么。而其內(nèi)容大部分也并非不合法，只是為了應(yīng)付AI審核系統(tǒng)。

從目前情況看，市場主體對(duì)互聯(lián)網(wǎng)內(nèi)容進(jìn)行干預(yù)必不可少，但在干預(yù)的同時(shí)應(yīng)兼顧互聯(lián)網(wǎng)用戶體驗(yàn)，同時(shí)亦應(yīng)時(shí)刻牢記干預(yù)的目的所在。如果忘卻初心而將之變成一種應(yīng)付程序和形式主義，類似發(fā)生在兒童手表上的笑話肯定還將層出不窮。（信海光）