星星已經(jīng)成百上千次地答復(fù)過“能否不讓孩子玩游戲”的問題,電話那頭的家長卻總是第一次聽說伐脖。“我們建議您通過您的微信號關(guān)注我們……比如說您每天只允許他玩30分鐘或者玩15分鐘拍皮,您都可以自行設(shè)置隧膏。或者您不想讓孩子進行游戲包颁,也可以通過一鍵禁玩功能瞻想,直接把這個游戲給封停掉,這都可以通過我們成長守護平臺的功能進行實現(xiàn)徘六∧诒撸”
新的發(fā)現(xiàn)讓家長們有些驚訝,他們中的一部分本來是開門見山地問“你們這個游戲能不能停掉”的待锈,沒有想到真的可以——不是讓整個游戲關(guān)掉漠其,而是能夠讓孩子玩不了,算起來也差不多竿音。在知道這一點后和屎,有些家長稍作猶豫,又問了星星一個問題春瞬。
“你們能不能不讓孩子知道是我讓你們?nèi)ソ壎ㄟ@個平臺的柴信,不讓孩子知道是我找你們?nèi)ハ拗频模俊?/p>
星星解釋說宽气,如果孩子綁定平臺随常,關(guān)注到守護平臺的公眾號以后,他還是會有一些方式可能會了解到是家長干的萄涯。比如绪氛,在平臺上,綁定家長的QQ或微信昵稱與頭像都會顯示出來涝影,所以還是要與孩子先積極溝通枣察。
“有沒有其他辦法,管理以后不要告訴他們燃逻?”家長繼續(xù)問序目。
再幾經(jīng)解釋,家長似懂非懂伯襟,最后補充叮囑說:“孩子來問你們的話猿涨,不要告訴他是我申請的∧饭郑”
星星每天都與父母和孩子打交道嘿辟,這是他的工作舆瘪,在成長守護平臺擔任守護小助手的3年里,他每天都要接聽80通以上的電話红伦,如果忙的話英古,100通以上也時常有。他接的這么多電話昙读,幾乎6成是孩子打來的召调,4成則來自孩子的父母。星星與同事們兩班倒蛮浑,從早上9點到晚上22點唠叛,不是在通話中就是在等待通話中。
在3年累積的幾萬通電話里沮稚,他感覺至少有五分之一的家長問星星:能不能別讓孩子知道是我不讓他玩游戲的艺沼?
可從來沒有一個孩子來問過星星:“是不是我爸(媽)不讓我玩游戲的?”
成長守護平臺的守護小助手們正在工作
不被認可的守護者們
就像是正在扶摔倒的老太太蕴掏,老太太卻跳起來就把他訛了一樣障般,葉金同時感覺到了錯愕、委屈盛杰,心中不太好受:自己明明是在做好事挽荡,怎么就被罵了呢?
但其實那些孩子也不是在罵他——他們都不知道葉金是誰即供。
葉金是一名程序員定拟,在騰訊負責未成年人保護系統(tǒng)的開發(fā),用他自己的話來說逗嫡,做的是“小學(xué)生們咬牙切齒的防沉迷系統(tǒng)”青自。從一個游戲,到騰訊運營的所有移動游戲驱证,再到其他公司的一些小游戲延窜,他們團隊逐步完善系統(tǒng),將統(tǒng)一的未成年人保護系統(tǒng)接入到具體的游戲中雷滚。時至今日需曾,這個系統(tǒng)已經(jīng)經(jīng)歷了3個大版本吗坚,整體包含事前(成長守護平臺祈远,可以由家長管理孩子能否玩游戲、玩多久游戲)商源、事中(健康系統(tǒng)车份,在游戲中,按照國家法律與家長的設(shè)定限制孩子的游玩時長與充值狀況)牡彻、事后(少年燈塔主動服務(wù)工程扫沼,提供咨詢出爹、消費主動提醒、退款等客戶服務(wù))三大體系缎除。
對家長來說严就,最常用到的是成長守護平臺
和絕大多數(shù)程序員一樣,葉金很忙器罐,“一般功能開發(fā)”的時候梢为,他到晚上九十點“就可以回去了”,到了重要版本上線前轰坊,下班時間可能會拖延到凌晨三四點铸董。盡管“發(fā)量已經(jīng)不太多”,葉金仍然相信肴沫,論起頭發(fā)來粟害,相比同行的游戲開發(fā)人員,自己“還好”颤芬。更重要的是悲幅,葉金認為,自己的工作是“在做一個有意義的事”驻襟,做的時候“挺開心的”夺艰。
或許正是出于這個緣故,他在被罵的時候更不痛快沉衣。葉金第一次對此深有感觸是在2018年郁副,當時,《王者榮耀》上線了自然人共享計時的新系統(tǒng)豌习,即存谎,如果一個孩子用同一個身份證注冊了多個帳號,針對未成年人的游戲時長限制將把這些帳號的游戲時間累計起來計算肥隆。上這個功能時既荚,“小學(xué)生們就感受到了,他們的敏感度是很高的栋艳,一下子就感受到自己的游戲時間變少了”恰聘。功能上線后,一個同事給葉金發(fā)來了一張微博截圖吸占,圖里許多人怒斥這次更新晴叨,許多話不太好聽。
同樣的事情發(fā)生在每一次的重大更新中矾屯,騰訊的未成年人保護系統(tǒng)經(jīng)歷了3個大版本兼蕊,分階段地逐步完成了建立體系、強化所有用戶實名認證和接入防沉迷新規(guī)件蚕、擴大人臉識別來甄別疑似未成年人等工作孙技。一次次地重演后产禾,葉金也想開了——有人罵說明自己的工作有成效——于是他有時也會把不好聽的評論截圖下來,發(fā)給其他人看牵啦。
未成年人保護系統(tǒng)的許多工作人員也有類似的經(jīng)歷亚情。小影是成長守護平臺公眾號的運營,在她的印象中哈雏,2018年初势似,無論發(fā)什么文章,四面涌來的都是抨擊和宣泄情緒的聲音僧著,她有些不理解履因,自己“明明是在做好事”,可“無論是家長和孩子都在罵”盹愚。
這樣的情況一直持續(xù)到2019年栅迄,評論的風向開始好轉(zhuǎn),“沒有原因亂噴的變少了”皆怕,現(xiàn)在是“玩梗的比較多”毅舆,也有了“說明問題的”和“詢問功能的”。但是情況有反復(fù)愈腾,在擴大人臉識別范圍之后憋活,成長守護平臺的留言與反饋中又收到過不少“登門拜訪警告”與“一起爬山警告”的調(diào)侃。
小影向我們展示了一些她收到留言虱黄,她說悦即,有一次在推送了一篇孩子玩游戲的文章后,后臺收到了1000多條評論留言橱乱,其中差不多500條都在講述各自的家庭故事
找到真正的孩子
這些情緒對負責開發(fā)的葉金影響不算大辜梳,工作中最困難的部分還是技術(shù)上的問題,即如何“找到真實的小孩用戶”泳叠,這個問題由來已久作瞄。“現(xiàn)在的小孩很聰明危纫,我們的系統(tǒng)上線了宗挥,告訴這個小孩需要填寫他的實名信息。但小孩知道這樣填寫會被限制(游戲時長和充值)之后种蝶,他就不這樣干了契耿。他會找他爸爸、媽媽蛤吓,或者找一個成年人的身份證去繞過我們的系統(tǒng)宵喂】飞猓”
問題或許比葉金所說的更為嚴重会傲。如今锅棕,人們對信息安全的重視不足,或者有意識也難以防范淌山,有許多隱私信息在網(wǎng)上流傳甚至是販賣裸燎。騰訊互娛用戶平臺部總經(jīng)理鄭磊,也是騰訊未成年人保護體系的負責人泼疑,他告訴觸樂德绿,的確有一部分泄露的實名信息進入了游戲領(lǐng)域,其中一個應(yīng)用就是繞開未成年人的游戲限制退渗∫莆龋“之前,或多或少會有一些所謂動手能力比較強的孩子会油,他能在網(wǎng)上搜到或者買到另外一些陌生成年人的身份信息个粱。這個情況客觀上存在,我們一直在打擊翻翩《夹恚”
相比單純的冒用,欺詐現(xiàn)象對未成年人的危害要更大一些嫂冻。鄭磊介紹說:“(許多詐騙團伙)在外面宣稱胶征,可以幫孩子解開騰訊的未成年人限制,要先打錢桨仿,先給他付費睛低,他就幫你解。一旦你打完錢之后服傍,他就沒有下文了暇昂,因為其實他也解不了“槲耍”
身份信息買賣的灰色產(chǎn)業(yè)鏈急波,再加上想要鉆空子的詐騙團隊,這些都是未成年人保護系統(tǒng)的挑戰(zhàn)者瘪校。鄭磊表示:“我們跟公司的整個安全團隊長期在做一些這樣的打擊澄暮,也打掉了很多這樣的灰產(chǎn)團隊≮逖铮”
在關(guān)于未成年人保護系統(tǒng)3.0的相關(guān)討論下泣懊,絕大多數(shù)人都不支持對未成年人采用人臉識別,許多孩子表示麻惶,現(xiàn)在做一名“未成年人”也很不容易
對于個案的打擊不足以解決根本問題馍刮,這件事情的根本是,只要孩子能夠搞到一套成年人的身份證窃蹋,他就能偽裝成成年人卡啰。葉金的工作就是為了解決這個問題静稻,他所在團隊的工作成果最終轉(zhuǎn)化為騰訊游戲在今年6月17日推出的未成年人保護系統(tǒng)3.0。這一版本在原來對實名未成年“限玩匈辱、限充振湾、宵禁”的基礎(chǔ)上,專門針對“孩子冒用家長身份信息繞過監(jiān)管”的問題亡脸,擴大人臉識別技術(shù)應(yīng)用范圍押搪,對疑似未成年人的用戶進行甄別。目前登錄環(huán)節(jié)人臉已覆蓋了騰訊游戲旗下的幾乎全部手游浅碾,充值環(huán)節(jié)人臉也覆蓋了諸如《王者榮耀》《和平精英》等頭部幾十款游戲大州,接下來將陸續(xù)覆蓋到騰訊運營的全部手游產(chǎn)品。
至于疑似未成年人帳號垂谢,是通過專門的數(shù)據(jù)分析來鎖定范圍的摧茴,比如用AI機器學(xué)習等技術(shù)手段,針對用戶游戲內(nèi)行為特征進行判定埂陆,包括用戶所屬年齡段苛白、游戲時間及其他游戲內(nèi)行為都一起納入,作為身份判定的參考標準焚虱」喝梗“甚至我們會通過屏幕壓感等指標來幫助判定”,鄭磊說鹃栽。
新的系統(tǒng)很快就顯示了它的效用躏率。根據(jù)昨天(7月30日)騰訊副總裁王波在中國國際數(shù)字娛樂產(chǎn)業(yè)大會上的演講,近一個星期以來民鼓,平均每天有541萬個帳號在登錄環(huán)節(jié)薇芝、1.3萬個帳號在支付環(huán)節(jié)觸發(fā)了人臉識別驗證。在這其中丰嘉,因為拒絕或未通過驗證夯到,登錄環(huán)節(jié)有89.05%的用戶被納入防沉迷監(jiān)管,支付環(huán)節(jié)有82.62%的用戶被攔截了充值行為饮亏。
未成年人問題耍贾,成年人問題
對星星來說,3.0的系統(tǒng)升級意味著新的咨詢路幸。
星星的語速不快荐开,開口之前總會有細微的停頓,每次回答完一個問題后简肴,不待我發(fā)問晃听,往往會立刻用另一種表達方式,將同樣的意思再解釋一遍。這可能是他的職業(yè)習慣能扒,與一心想玩游戲的小孩子們佣渴,以及與迫切想讓孩子別玩游戲的家長們打交道,就必須得很有耐心赫粥,為了防止對方?jīng)]聽懂,同樣的道理可能需要講兩三遍予借。
星星始終面對著不同的訴求越平。會打電話找他的孩子有兩種,一種是想要把身份信息改成成年人的灵迫,他們會用稚嫩的聲音說“我二十多歲啦”秦叛;另一種是被家長通過成長守護平臺限制了游玩時間的,他們打電話來冒充自己的父親或母親瀑粥,時常答不上來“自己”出生那年的生肖挣跋。家長們的情況則更加多種多樣,不想讓孩子玩游戲的狞换,不想讓孩子知道自己不想讓孩子玩游戲的避咆,剛剛在家里和孩子有過肢體沖突的,或者只是一無所知修噪,前來了解情況的查库。
在升級未成年人保護3.0后,許多電話打過來黄琼,問“能不能不要彈出人臉識別”樊销,提問的大多是孩子——即便有成年人,也因為驗證通過而無需多打一通電話脏款。在這個時候围苫,工作似乎又是在重復(fù)過去的內(nèi)容,還是那些自稱是大人的孩子撤师,拐著彎想要多玩一會兒游戲剂府。
也有的孩子早有準備,他們假裝是自己的父母剃盾,答對了關(guān)于出生年月周循、年齡、生肖等所有問題万俗。但他們卻答不上星星的最后一個問題:您是要解綁對吧湾笛?成長守護平臺里面本來就可以解綁呀,為什么不直接解綁闰歪,而要打電話來要求我解綁呢嚎研?
星星總是會給出建議,這是他的工作。對孩子临扮,他會像所有煩人的大人一樣地說论矾,不要過于沉迷游戲,還是要以學(xué)業(yè)為重杆勇,多培養(yǎng)一些興趣愛好贪壳。可小朋友聽說不能多玩游戲蚜退,還是很不開心闰靴。對家長,他會說钻注,你們可以多陪陪孩子呀蚂且,然后提出一些緩和親子關(guān)系的小建議,比如要注意傾聽幅恋,不要讓孩子對你有太多疏離感……但家長比較感興趣的常常是成長守護平臺可以直接限制孩子玩游戲杏死、能玩多久游戲,這也是最咨詢中最常見的核心問題捆交。
有的時候淑翼,星星說什么已經(jīng)變得不太重要,更重要的是傾聽品追。有些家長打電話過來窒舟,講述起孩子怎樣和他們起了沖突,甚至打了自己诵盼。這樣的電話惠豺,一般是母親打過來,一邊哭一邊說风宁,有時哭聲中還夾雜著“派出所”與“民警”之類的信息洁墙。在這樣的案例中,你甚至無法找到“游戲”到底在哪里戒财,星星仍會一如既往地給出建議热监。有時候,他也不確信自己的建議有沒有用饮寞,對于一些極為嚴重的情形孝扛,他對父母的建議之一便是,讓他們?nèi)で蟾鼘I(yè)人士(如心理咨詢和危機干預(yù)專業(yè)人士)的建議幽崩。
情況總是有好有壞苦始。用鄭磊的話來說,未成年人保護需要的是“疏堵結(jié)合”慌申。他坦誠地說陌选,其實游戲公司所能做的未成年人保護系統(tǒng),“堵”還是主體。讓家長了解孩子的游戲情況咨油、決定孩子能不能玩游戲您炉、能玩多久游戲,這就是堵役电∽簦“疏”說起來容易,實際上情況非常復(fù)雜法瑟,而且我們只有在堵的基礎(chǔ)上冀膝,才可能去更多地尋求“疏”。
游戲公司還能做什么瓢谢?
游戲行業(yè)是個講究趣味的行業(yè)畸写。我們做過不少這個領(lǐng)域內(nèi)的采訪驮瞧,絕大多數(shù)從業(yè)者強調(diào)的都是“有趣”“酷”:我們這個游戲很棒氓扛、我們的機制很棒……游戲本身,這本來就是從業(yè)者們關(guān)注的事情论笔。
也因此采郎,你很少有機會——像采訪一群未成年人保護的相關(guān)從業(yè)者這樣——聽到幾乎每一個受訪者都幾乎毫無例外地相信自己是在做好事。這個“好”不只是一個價值判斷狂魔,更是一個倫理判斷蒜埋。
然而,有時候你很難想象一家游戲公司還能再做什么最楷。
在海外整份,絕大多數(shù)網(wǎng)站的未成年人保護措施僅僅是一份形同虛設(shè)的“我已年滿18歲”的承諾。我國在這方面的發(fā)展則要迅速得多籽孙,從最初的“健康游戲忠告”烈评,到后來的實名認證,再到游戲公司紛紛上線的未成年人保護系統(tǒng)犯建、更為嚴格的游戲內(nèi)驗證讲冠、大公司們一齊開通的未成年人專線,最后适瓦,為了防止假冒身份竿开,連“疑似未成年用戶”的人臉識別也隨之而生,并飛快地顯現(xiàn)出它的成效玻熙。
我們還能夠再做什么呢否彩?要求所有玩家在進行游戲時必須始終開啟攝像頭,一刻不停地證明你是你嗎嗦随?事實上胳搞,目前的人臉識別技術(shù)就已經(jīng)有許多關(guān)于侵犯隱私的爭論,而將這項技術(shù)大量應(yīng)用在電子游戲中,更是絕無僅有的孤例肌毅。很難想象筷转,在這樣的基礎(chǔ)之上,事情還能夠更進一步——保護未成年人是做得周全了悬而,可留給成年人的空間呢呜舒?假定我們承認游戲公司最重要的任務(wù)還是做游戲,那我們就必須得承認笨奠,它能做的事情原本就十分有限袭蝗。
人臉識別技術(shù)在不斷完善,但它也伴隨著一定的爭議
我問每一名受訪者般婆,你完成了自己的工作職責到腥,這樣未成年人的問題就能解決嗎?提供限制手段蔚袍,就能夠達到讓青少年健康游戲的目標嗎乡范?而每一個人都承認,自己能做的事情是有限的啤咽,只是能夠讓事情“更好一些”而已晋辆。
面對著一系列“什么是有意義”的追問,葉金對于這種“有限”的闡釋是這樣的:“我能做的宇整,是用技術(shù)手段去實現(xiàn)我們能做的瓶佳,但是像一些教育、社會的東西鳞青,可能我沒有辦法用代碼把它很好地展示出來霸饲。”
“永遠都不會是商業(yè)項目”
鄭磊表示臂拓,對騰訊來說厚脉,未成年人保護相關(guān)的業(yè)務(wù)非常特殊。它不像一般的項目那樣從立項開始就考慮回報埃儿,而是只要有合理的需求器仗、合適的計劃,就能夠直接獲得充足的資源去推動實現(xiàn)童番。2019年精钮,騰訊在未成年人保護方面的花費已經(jīng)過億,目前也仍然在持續(xù)投入中剃斧。由于未成年人保護系統(tǒng)3.0需要進行大量的人臉識別(除了本身人力轨香、技術(shù)的成本,這也意味著直接向第三方數(shù)據(jù)源平臺支付驗證相關(guān)費用)幼东,這一投入還會有明顯的增長臂容。
一個較為普遍的說法是科雳,如果我們能夠?qū)τ螒蚣右郧‘數(shù)南拗疲屓魏稳硕紱]有理由說“是游戲害了未成年人”脓杉,那么整個行業(yè)都將獲得更好的輿論環(huán)境糟秘。從這個意義上來講,保護未成年人球散,實際上也是在“保護”成年人尿赚。
不過,對于騰訊在未成年人保護方面的投入與領(lǐng)先蕉堰,我們一直有更深的疑慮——這是否會成為另一種形式的獨占優(yōu)勢凌净?要知道,在如今的游戲行業(yè)屋讶,大廠的優(yōu)勢實在是過于明顯冰寻;小廠甚至是獨立游戲制作方,在競爭中往往處于絕對的劣勢皿渗。在未來斩芭,如果未成年人保護的相關(guān)要求進一步升級,這無疑是提升了行業(yè)的準入門檻羹奉,增加了開發(fā)成本秒旋。在這時约计,騰訊的未成年人保護相關(guān)技術(shù)將成為整個行業(yè)的剛需(尤其是對中小型開發(fā)者而言)诀拭,這時,它還會是一個“不考慮回報”的項目嗎煤蚌?
針對這一問題耕挨,鄭磊給出了明確的回應(yīng):未成年人保護項目在騰訊內(nèi)部不是一個商業(yè)項目,也沒有任何將它商業(yè)化的打算尉桩。
我問他:“總之筒占,騰訊所有關(guān)于未成年人保護的相關(guān)內(nèi)容都不是商業(yè)項目,并且在可以預(yù)見的未來蜘犁,它都不是翰苫,是這樣嗎?”
“對这橙∽嘁ぃ”鄭磊很快回答道,稍微停頓了一下屈扎,他補充說埃唯,“我覺得應(yīng)該說‘永遠都不會是商業(yè)項目’吧∮コ浚”
作為佐證墨叛,2020年5月18日止毕,游戲引擎Unity宣布聯(lián)手騰訊游戲共同推出防沉迷系統(tǒng)開發(fā)工具,該工具將由騰訊成長守護平臺提供技術(shù)后臺支持漠趁。這一面向所有開發(fā)者的工具體現(xiàn)了騰訊將未成年人保護系統(tǒng)推向第三方企業(yè)的決心扁凛。鄭磊表示,后面可能還會有類似的動作闯传。
如果騰訊能夠履行這一承諾令漂,對中小開發(fā)者來說無疑是一大利好。以目前的形勢來說丸边,無論是從游戲過審還是國內(nèi)平臺上架等多方面因素考慮叠必,未成年人保護模塊都是不可缺少的,一個標準妹窖、成熟纬朝、免費的接口能助益良多。鄭磊強調(diào)說:“我們團隊的使命是希望能夠解決問題骄呼,能夠影響這個行業(yè)共苛,快速把它轉(zhuǎn)變到一個比較綠色健康的狀態(tài),因為我們覺得游戲行業(yè)在中國還要發(fā)展50年蜓萄、100年隅茎,很久很久。早點讓它進到健康的狀態(tài)才是好事情嫉沽,而不是眼前怎么樣辟犀。”
從目前的情況來看绸硕,騰訊的未成年人保護系統(tǒng)已經(jīng)展示出了更深的堂竟、非商業(yè)性的潛質(zhì)。一方面玻佩,它將可能對更多企業(yè)開放出嘹,進而可能成為供行業(yè)標準參考的一部分。另一方面咬崔,它的影響可能不局限于游戲之中税稼。目前,騰訊的視頻與部分非游戲業(yè)務(wù)已經(jīng)接入到成長守護平臺的健康系統(tǒng)中垮斯;同時郎仆,這一系統(tǒng)也提供了許多與游戲無關(guān)的教育、親子關(guān)系指導(dǎo)等內(nèi)容甚脉。這一切都暗示了它可能的進一步發(fā)展丸升,或許未來未成年人的網(wǎng)絡(luò)生活都會與此相關(guān)。
轉(zhuǎn)載于:http://nbcjzx.com/