更大的风险其实是来自于对获取用户相关信息的平台的监管-qq新闻迷你
点击关闭

支付平台-更大的风险其实是来自于对获取用户相关信息的平台的监管-qq新闻迷你

  • 时间:

彭昱畅与片方解约

用戶在上傳個人照片后,便可「一鍵」進入明星出演的相關影視片段中,生成新視頻,還能製作表情包。更讓人無法阻擋的是,用戶還能將生成的新視頻分享到微信朋友圈裡。

那麼,說了這麼多,大家一定好奇,這款爆紅的APP背後東家到底是誰?而據企查查數據顯示,「ZAO」所屬公司由海南貓咖網絡科技有限公司100%控股,法定代表人為陌陌聯合創始人雷小亮,海南貓咖網絡科技有限公司則由雷小亮和陌陌COO 王力各持股50%。所以把「ZAO」APP 說成是社交平台陌陌旗下的最新產品,是非常合適的。

根據「ZAO」用戶協議內容中的必要授權協議:用戶上傳發佈內容后,意味着同意授予「ZAO」及其關聯公司以及「ZAO」用戶在「全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於可以對用戶內容進行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等)以及對修改前後的用戶內容進行信息網絡傳播以及《著作權法》 規定的由著作權人享有的全部著作財產權利及鄰接權利。」

用戶在上傳自拍照片后,就可以把影視劇主角的臉替換成用戶自己的臉。僅需一張照片,便可出演天下好戲!這誘惑力的確夠大。「ZAO」APP瞬間「名聲大噪」。

其實,「ZAO」所利用的AI換臉技術其實並不是什麼新鮮事物。前年,美國一位名叫「deepfakes」的網友就曾將自己製作的AI換臉視頻發佈在了當地社交論壇上,甚至該網友還把色情片女主角的臉換成了100多位好萊塢明星的臉。

而「ZAO」APP提供的「換臉」體驗無疑就是一種對面部識別技術的濫用。北京日報評論文章就指出,在面部識別已經普及的今天,你我的面部數據如同一把鑰匙,與自己種種賬戶的安危高度相關。「ZAO」一鍵把用戶的面部數據上傳到雲端,但凡公司里有內鬼,或是公司保管不善造成數據泄露,別有用心之人很容易拿着我們的「臉」招搖撞騙。

眾所周知,像臉部信息這樣的生物識別信息難為一般人所更改,所以被廣泛用於身份認證、交易和支付環節,但是一旦泄露,一旦「丟臉」,勢必給用戶帶來難以消除的不良影響。

同時,工人日報評論文章還指出,在立法及時跟進、監管雷厲風行之外,企業也應珍惜聲譽,遠離霸王條款,個人用戶則需時刻繃緊個人信息保護的神經。無論如何,個人信息安全不能成為誰想捏就捏的「軟柿子」。

正如中國青年報評論文章指出的那樣,在智能手機普及的今天,隱私是一件幾乎不存在的事情。你連接的WiFi暴露了你的行蹤,你在搜索引擎點擊的鏈接和廣告暴露了你的愛好,你在淘寶搜索的商品暴露了你的消費水平。《紐約時報》的一篇報道稱,僅在美國,就有至少75家公司從事與定位有關的業務,追蹤的手機多達2億部。

除此之外,使用「ZAO」APP還存在另一個很大的潛在風險。正如媒體報道所稱,用戶得自行確認自己所用的明星肖像是明星同意授予的,一旦明星狀告「ZAO」侵犯其肖像權,「ZAO」就乾脆甩鍋,讓用戶承擔侵權後果。所以說,這種可能性也不是不存在的。

同時,湖南芙蓉律師事務所合伙人律師鍾文科在接受證券日報採訪時還表示,「該軟件可能會搜集位置信息、銀行卡號、支付寶賬號、相冊等,這些都是個人用戶極為敏感的信息,一旦平台出現故障導致用戶信息泄露,將會對用戶造成很大的安全隱患。」

但事件並未就此平息。9月1日,上線三天爆紅的「ZAO」微信分享鏈接還是在爭議聲中被停止訪問了,其頁面顯示「網頁存在安全風險,被多人投訴,為維護綠色上網環境,已停止訪問」。

同時,「ZAO」APP的「名聲大噪」,也引發了有關部門的注意。同日,工業和信息化部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談,要求其嚴格按照國家法律法規以及相關主管部門要求,組織開展自查整改,依法依規收集使用用戶個人信息,規範協議條款,強化網絡數據和用戶個人信息安全保護。

你的「臉」不屬於你然而隨着「ZAO」APP的「病毒式」傳播,各種擔心和質疑也不斷曝出。由於「ZAO」的主要換臉功能都需要上傳人像照片,該軟件背後的隱私權、肖像權、版權等相關安全問題隨即引起各方高度關注。

如何給隱私「上鎖」對於公眾普遍關注的「刷臉支付」是否會有安全威脅的問題,此前,支付寶安全中心已經通過其官方微博發佈公告稱,目前各類換臉軟件不管換的有多逼真,都無法突破刷臉支付。「刷臉支付」採用的是3D人臉識別技術,在進行人臉識別前,也會通過軟硬件結合的方式進行檢測,來判斷採集到的人臉是否是照片、視頻或者軟件模擬生成的,能有效地避免各種人臉偽造帶來的身份冒用情況。此外,在進行人臉識別後,部分用戶還需要輸入與賬號綁定的手機號進行校驗,進一步提高了安全性。

那些失控的「換臉門」不可否認,隨着互聯網的普及,人們在充分享受智能手機給生活帶來巨大便利的同時,也面臨著各種問題的困擾。

所以說,AI換臉技術如果缺乏有效的監管,的確容易失控。正如南方都市報社論文章指出的那樣,對於「ZAO」這款應用,當然不是要一棍子打死,但在如此多的質疑面前,從政府監管到輿論監督,再到學術研究,理應及時跟上,做必要的審視與討論。在「臉部信息」被濫用、瀕臨失控之前,AI換臉技術得好好通過倫理關的審查。

此次,「ZAO」運營團隊也格外強調,使用「ZAO」不會產生支付風險。刷臉支付安全門檻極高,僅通過一張照片實現的「換臉」技術完全無法突破刷臉支付的安全系統。權威支付平台也均從專業技術角度,強調「換臉」完全不可能威脅支付安全。您刪除信息或註銷賬號,「ZAO」均會依據相關法律法規的規定刪除相應信息。目前有用戶看到註銷后的緩存信息,會在後續更新版本時修復。

北京商報評論文章也指出,應對個人隱私泄露,不僅依靠消費者加強自身保護,更需建立完善個人信息收集的基本規範、相應的行政監管體制、司法救濟途徑。否則,不給AI劃線,不為隱私「上鎖」,有一天洪水猛獸突如其來,才發現你我束手無策。

就連很多商界大咖和政界大腕也未能幸免於難。今年6月份,臉書創始人扎克伯格在網上發表了一段關於「掌控大數據就掌控未來」的視頻走紅網絡,而最後證明視頻中的「扎克伯格」實際上是網友利用AI技術進行換臉后的效果。但是這個假的扎克伯格無論從相貌聲音,還是穿着打扮,都跟真的扎克伯格幾乎一樣,難怪會有這麼多人上當,信以為真。

但是這些承諾和保證並未消除公眾的疑慮。「目前大多數獲取用戶臉部和個人資料的平台都是金融平台,受到一行兩會的嚴格監管,但是當越來越多的平台在沒有受到監管的情況下獲取用戶相關的信息,這背後存在的監管缺失才是最大的風險。」平安科技智能認知產品部總經理宋晨指出,更大的風險其實是來自於對獲取用戶相關信息的平台的監管。

此前,在第四屆全球金融科技峰會上,人民銀行科技司司長李偉就曾提醒稱,人臉是非常敏感的個人信息,一旦泄露或被盜取,會帶來非常大的影響。所以有技術不能任性,也不能濫用。

對此,健康報評論文章指出,對於這次換臉軟件走紅現象,一方面要就事論事,看到人臉信息遭泄露帶來的風險,並督促加以改進。更應該看到,在生物信息保護方面,不僅民眾的防範意識普遍不強,而且相關規定也比較缺乏,亟待就此好好補一補課,否則更多「好玩」的軟件還可能出現,讓更多民眾付出泄露敏感信息的代價。

工人日報也指出,技術發展和應用的腳步太快,當源源不斷的科技創新成果向我們湧來,相應的制度和監管卻沒能及時建立和完善,這是我們不得不面對的一大困境。

隨後,為了消除大家的疑慮,9月3日,「ZAO」運營團隊發佈聲明稱,「ZAO」不會存儲個人面部生物識別特徵信息。在您的使用過程中,為保護肖像權不被冒用,「ZAO」設置了真人驗證環節,整個過程僅為驗證您上傳的照片是您本人,為確保您的信息安全,「ZAO」不會存儲個人面部生物識別特徵信息。「ZAO」所呈現的「換臉」效果,是我們根據您提交的頭像照片,按照您選定的素材場景,通過後期技術疊加所實現的虛構圖像,並沒有採集任何個人生物識別特徵。虛構圖像能達到肉眼上近似,但並不是您的真實信息。

圖一時之快的後果面對外界越來越激烈的質疑之聲,「ZAO」方面此前已在8月31日對用戶協議進行了部分修改,增加「特別提示」:用戶使用「ZA-O」生成的內容,「ZAO」將僅用於修改並生成新短視頻,除非獲得用戶再次同意,不會以任何其他形式使用上述內容。用戶如果刪除了上傳內容,「ZAO」也會依據相關法律從服務器中刪除。此外,用戶如果使用「ZAO」換臉,需確保肖像權利人授權「ZAO」對人像進行處理。

換句話說,當用戶確認授權之後,用戶的面部信息就永久且免費地給了「ZAO」和它的關聯公司處置,而用戶無權過問,因為用戶之前自己已經簽了「賣身契」,事後再來找,又有誰能認賬呢?

果不其然,該軟件在第二天的8月31日便登上了微博熱搜前十,不到24小時后,它便登上蘋果應用商店免費APP下載排名榜首位。

弄丟的「臉」咋找回而當提及個人信息的時候,大多人第一時間想到的便是諸如身份證、姓名、家庭住址、電話號碼、銀行卡號、社保卡號等等這些具體的身份信息。而往往對像指紋、人臉、基因等更為重要的個人生物信息不那麼在意。從很多人喜歡在社交平台上共享自己的照片上就可見一斑。

「ZAO」的病毒式傳播8月30日,一款運用AI技術實現「換臉」的「ZAO(逢臉做戲)」APP正式上線,用戶可以通過這款APP實現在視頻中「換臉」,把自己變成喜歡的影視劇中的主角,過足一把戲癮,實現自己的「明星夢」。

現在監管部門介入、涉事企業改進,而消費者自身更要提高自我保護意識。只有多方合力,才能為個人隱私安全「上鎖」。記者 潘愈

還有一個典型的例子就是美國眾議院議長南希·佩洛西。前不久有網友通過換臉技術,將視頻中的南希變得言辭混亂,顛三倒四,一看就處於醉酒狀態。最後逼得美國國會立刻召開了有史以來第一場有關AI換臉技術的聽證會。

中國政法大學朱巍在接受南方日報採訪時表示,「ZAO」的合同條款已經造成違法違規,違反了《消費者權益保護法》《合同法》中的格式條款和《網絡安全法》。移動客戶端的人臉識別是用戶的核心隱私,平台不可擅自使用消費者的肖像。

你想過有一天,自己可以和胡歌談戀愛,可以和鄧倫逛故宮,可以和你的男神女神暢遊花海嗎?近日,一款名為「ZAO」的AI換臉APP就幫不少人圓了這樣的「明星夢」,過了一把戲癮。

正如「ZAO」自己所標榜的那樣,「僅需一張照片,出演天下好戲」,可以與自己的偶像「同台飆戲」,這對很多人來說,的確具有難以拒絕的巨大誘惑力。

毫無疑問,這些事情真的是細思極恐。

伴隨着各種質疑之聲,「ZAO」上線僅三天便被微信屏蔽。雖然該APP團隊對相關霸王條款進行了修改,並承諾不會泄露用戶信息,但是網友並不買賬。工信部還就網絡數據安全問題約談了該APP背後的金主——知名社交平台陌陌。

而使用「ZAO」的過程也非常簡單,用戶只需要下載、註冊、上傳一張清晰正面照。「ZAO」還會要求用戶在攝像頭前進行眨眼、扭頭、張嘴、低頭等指示動作。

所以,加強監管刻不容緩。新京報評論文章指出,政策與監管都有滯后性,企業有囿於競爭而急於開闢新戰場的壓力,也有基於在大數據時代快速收集數據的衝動,若單方面期望其能持保守立場和克制衝動恐過於樂觀。但無論是監管層、媒體還是法律人,都有義務告知用戶,其為了短暫娛樂所交出的生物識別信息可能帶來的巨大災難。

但是根據《合同法》中有關規定,提供格式條款一方免除其責任、加重對方責任、排除對方主要權利的,該條款無效。很明顯,「ZAO」協議中的某些條款的確很霸道。

其效果也是可想而知的。剛一上線,這款軟件便立刻引發「病毒式」的傳播。就連ZAO官方助手自己也在8月30日夜間發佈微博無奈地表示,「這個月花700萬租的服務器,今晚已經消耗1/3了。明天如果繼續火爆,我們只能做嚴格一些的限制。」

廣州市社科院研究院彭澎在接受南方日報採訪時表示,絕大部分技術本身都是無辜的,要看使用者自身是出於怎樣的目的,造成了怎樣的結果。AI換臉技術有一定可取性,可以用於抓捕犯罪分子或出於善意、沒有損害的娛樂,但一旦過界,則應該按照相應的法律進行限制。

但是,這種AI換臉技術也帶來不少爭議:大家擔心個人信息會被泄露,刷臉支付也不再安全。

今日关键词:迪丽热巴金凤凰奖