50122 “雙面”AIGC:變臉、界線與博弈

国产丝袜美女,曰韩无码二三区中文字幕 ,成年女人免费v片,亚洲欧美一区二区三区

服務(wù)熱線:400-858-9000 咨詢/投訴熱線:18658148790
國內(nèi)專業(yè)的一站式創(chuàng)業(yè)服務(wù)平臺
“雙面”AIGC:變臉、界線與博弈
數(shù)科社 ·

林木

04/01
AIGC的自我成長正給當(dāng)今社會(huì)帶來雙面沖擊,有人在通過它“復(fù)活”親人、改變世界,有人在利用它吸金引流、顛倒黑白。
本文來自于微信公眾號“數(shù)科社”(ID:sktxs0),作者:林木,投融界經(jīng)授權(quán)發(fā)布。

國產(chǎn)科幻電影《流浪地球2》中最感人的部分之一,莫過于天才數(shù)字工程師圖恒宇為了讓因車禍去世的女兒丫丫成為永生數(shù)字生命,所做出的種種決斷。

該電影借用數(shù)字生命主題成功塑造了一個(gè)背負(fù)著地球命運(yùn)和父愛私心的人物角色,探討人性深度的同時(shí),也與強(qiáng)人工智能MOSS毫無人性的一面形成鮮明對比,進(jìn)一步引發(fā)了人工智能如何與人類文明共生共存的思考。

隨著近年來數(shù)字科技、人工智能的飛速發(fā)展,這已然成為人們現(xiàn)實(shí)生活中正在面臨的新課題。

自ChatGPT引爆AIGC市場以來,短短一年多時(shí)間,AI技術(shù)讓創(chuàng)造數(shù)字生命這件事變得更加簡單、真實(shí)。生成式AI只需要一張照片、一段語音或一個(gè)視頻,就能創(chuàng)造出一個(gè)能開口說話、做出表情的數(shù)字人。

然而,無論人工智能如何進(jìn)化,卻始終保留著作為機(jī)器的工具屬性,它所被賦予的“人性”,取決于投喂“食物”的好壞,以及背后使用它的人。這也意味著,AIGC的自我成長正給當(dāng)今社會(huì)帶來雙面沖擊,有人在通過它“復(fù)活”親人、改變世界,有人在利用它吸金引流、顛倒黑白。

#01

變臉

“我要給丫丫完整的一生?!薄读骼说厍?》中圖恒宇道出了人們對于數(shù)字生命的終極想象。但在現(xiàn)實(shí)生活,能夠與逝去的親人再次對話已足夠慰藉不少人的思念之苦。

今年初,著名音樂人包小柏用AI“復(fù)活”女兒以表達(dá)思念。他的女兒三年前因病不幸離世,為了走出痛失愛女的陰影,包小柏開始鉆研AI技術(shù)并攻讀相關(guān)專業(yè)博士,希望重現(xiàn)女兒的音容笑貌。

最近,包小柏終于如愿用AI復(fù)刻出“數(shù)位女兒”,可即時(shí)響應(yīng)問話,還讓女兒給妻子唱了生日歌。他在訪談中表示:“我的女兒又回來了?!?/span>

消息發(fā)酵后,“AI‘復(fù)活’親人”這一話題再次引發(fā)網(wǎng)友熱議。隨著生成式AI的橫空出世,近年來用AI“復(fù)活”親人已不止在電影中上演。早在去年清明,B站00后UP主吳伍六就曾用AI工具還原已故奶奶,并和她聊起家常。

AI技術(shù)的不斷迭代進(jìn)化下,AI“復(fù)活”親人的門檻越來越低。在電商平臺上,最便宜的服務(wù),只需要一張照片就能讓其動(dòng)起來并做出表情,根據(jù)復(fù)刻效果,價(jià)格在十元到幾百元不等。

AI成了不少人寄托與傳達(dá)思念的工具,但一故事的走向卻并沒有到此為止。就在網(wǎng)友尚沉浸在AI傳遞出的溫情之際,不少逝世明星被人“復(fù)活”,頻繁出現(xiàn)在短視頻平臺。

這種現(xiàn)象遭到了逝者家屬的嚴(yán)厲譴責(zé)與堅(jiān)決抵制,喬任梁父親對此表示感到非常不適,“他們未征求我們同意,這是在揭傷疤?!?/span>

而在AI“復(fù)活”逝者的倫理爭議水面下,不止有人在通過“復(fù)活”別人的親屬賺取流量,還有人利用AI“換臉”技術(shù),惡搞造謠以滿足一己私欲,更有黑產(chǎn)團(tuán)伙偽裝成他人的親朋好友榨取錢財(cái)。

今年315晚會(huì),AI 擬聲/變臉詐騙被點(diǎn)名曝光。過去一年的相關(guān)詐騙案例中,AI所展現(xiàn)的擬聲、變臉技術(shù)已讓普通大眾真假難分。據(jù)央視報(bào)道,在某些網(wǎng)絡(luò)交易平臺上,花 2 元錢就能買到上千張人臉照片。

更早之前,AI合成技術(shù)在色情地帶早已臭名昭著,合成換臉色情內(nèi)容泛濫成災(zāi),不少名人影星都曾遭過毒手。但如今,隨著AI技術(shù)已進(jìn)化至“換臉”、“換頭”,甚至能無中生有的階段,被偷臉、造黃謠等現(xiàn)象逐漸盯上了更多普通人。

AIGC繁榮發(fā)展的另一面,陰暗也在隨之蔓延叢生。

#02

界線

盡管人性才是造成一切禍水涌動(dòng)的根源,但不能否認(rèn)的是,不斷進(jìn)化的AI生產(chǎn)力,確實(shí)讓一些界線劃分變得更加模糊不清,比如內(nèi)容版權(quán)問題。

今年2月,全球首例生成式AI服務(wù)侵犯著作權(quán)判決在廣州互聯(lián)網(wǎng)法院生效,引發(fā)業(yè)內(nèi)外廣泛關(guān)注。案件經(jīng)過簡單來說是一位用戶在AIGC平臺上,用AI畫出了奧特曼形象被訴侵權(quán)。

原告為擁有奧特曼系列獨(dú)占授權(quán)的動(dòng)漫IP代理商上海新創(chuàng)華文化,被告并非用戶,而是為會(huì)員用戶提供AI繪畫功能服務(wù)的一家AIGC網(wǎng)絡(luò)公司。

最終,這家公司被判定在提供算力服務(wù)過程中,侵犯了原告對案涉奧特曼作品所享有的復(fù)制權(quán)和改編權(quán),并應(yīng)承擔(dān)相關(guān)民事責(zé)任。

這一判決的意義已遠(yuǎn)超普通的知識產(chǎn)權(quán)糾紛,亦可視為AIGC被劃下法律界線的一次落筆。

事實(shí)上,自AIGC爆火出圈以來,關(guān)于它的洗稿、洗畫等侵權(quán)疑慮與糾紛就沒有停止過:去年1月,多名藝術(shù)家狀告“Stable Difussion”從網(wǎng)絡(luò)上采集近60億張圖像來訓(xùn)練其AI侵犯了“數(shù)百萬藝術(shù)家”的權(quán)利;去年12月,《紐約時(shí)報(bào)》訴Open AI事件持續(xù)發(fā)酵,多家媒體加入反抗隊(duì)伍……

AIGC以強(qiáng)大的學(xué)習(xí)能力、理解能力和創(chuàng)造力顛覆行業(yè)過往的認(rèn)知,但這些能力來自于背后海量數(shù)據(jù)的投喂與訓(xùn)練。

在繪畫創(chuàng)作領(lǐng)域,僅輸入關(guān)鍵詞便能生成大量新鮮畫作的AIGC,無疑幫助缺乏足夠繪畫技能的廣大人群大幅降低了創(chuàng)作門檻。前提卻先要被投喂大量圖片、畫作,其中很大一部分抓取于互聯(lián)網(wǎng)上各類藝術(shù)家、畫家的作品,以這些作品為養(yǎng)料生成新作品。

而在文本生成層面,AIGC已不單單涉及到侵權(quán)問題。不久前,有海外醫(yī)學(xué)研究團(tuán)隊(duì)進(jìn)行了一項(xiàng)用生成式AI制造虛假信息的測試,短短一個(gè)小時(shí)內(nèi),他們就制作出超過100篇誤導(dǎo)性的博客、20張欺騙性圖片,以及一段深度偽造視頻,聲稱有關(guān)健康的虛假信息。讓人哭笑不得的是,這段視頻還能輕松轉(zhuǎn)化成40多種語言。

AIGC當(dāng)前最大的缺陷在于無法判斷“食物”的好壞以及進(jìn)食的界線,這也讓一些深受其害的人找到了反擊空間。

美國芝加哥大學(xué)教授 Ben Zhao 領(lǐng)導(dǎo)開發(fā)團(tuán)隊(duì),開發(fā)出了一款名為Nightshade的工具,通過用AI給AI“投毒”的方式,幫助藝術(shù)家防止作品風(fēng)格被AI抄襲。

Nightshade利用生成式AI大肆進(jìn)食的安全漏洞,訓(xùn)練出有毒的“食物”樣本,一旦被AI模型抓取進(jìn)食,毒素就會(huì)滲透整個(gè)模型集,導(dǎo)致用戶想用AI畫一只狗,最后卻生成一只貓,或者其他動(dòng)物。

如今,這種方法被業(yè)內(nèi)貼切形容為“毒丸”,原本發(fā)起的反擊也演變成攻擊,被不少人惡意使用。

#03

博弈

人工智能概念自20世紀(jì)中葉誕生以來,就一直被視為一把雙刃劍。《終結(jié)者》《黑客帝國》等許多早期經(jīng)典科幻作品的創(chuàng)作,都投射出人們對于未來人工智能的恐懼情緒。毋庸置疑的是,過去七十余年里,人工智能化身為一個(gè)巨大生產(chǎn)力,在推動(dòng)著人類文明不斷前進(jìn)。

2015年首次出版的《未來簡史:從智人到智神》一書中,以色列歷史學(xué)家瓦爾·赫拉利以其獨(dú)特的視角,深入討論了人工智能的崛起將如何改變?nèi)藗兊纳詈凸ぷ鞣绞?,又給社會(huì)帶來何種挑戰(zhàn)。

這并非只是一部制造恐慌情緒的預(yù)言。相反,作者在書中同樣展現(xiàn)了科技發(fā)展所帶來的巨大機(jī)遇,還提出一系列富有挑戰(zhàn)性的觀點(diǎn),引導(dǎo)我們思考如何適應(yīng)和引導(dǎo)科技的發(fā)展。

事實(shí)上,人類與人工智能的共生共存,本身就是一種博弈。這是一個(gè)關(guān)于人機(jī)交互和協(xié)作的問題,涉及到人工智能的可信度、可控性、可解釋性、倫理性等諸多方面。核心宗旨是讓人工智能更多的造福社會(huì),服務(wù)于人。

但作為受人掌控的智能體,人工智能顯然又陷入一種雙面性的矛盾中,這也導(dǎo)致每一次人工智能的進(jìn)化,都會(huì)對社會(huì)文明帶來一種新的博弈和挑戰(zhàn)。

當(dāng)前,以ChatGPT代表的AIGC的誕生,無疑讓人們對人工智能風(fēng)險(xiǎn)的防備心日益加深。

去年年底,中國信息通信研究院發(fā)布了2023年人工智能風(fēng)險(xiǎn)管理體系。該體系將人工智能帶來的風(fēng)險(xiǎn)分為兩類,即自身技術(shù)系統(tǒng)造成的風(fēng)險(xiǎn)和應(yīng)用產(chǎn)生的風(fēng)險(xiǎn),并參考我國現(xiàn)行網(wǎng)絡(luò)安全等級保護(hù)要求將人工智能風(fēng)險(xiǎn)劃分為5個(gè)等級。

其中,最低層風(fēng)險(xiǎn)是指不會(huì)對個(gè)人、企業(yè)、組織造成權(quán)益?zhèn)Φ漠a(chǎn)品,如專用于下棋領(lǐng)域的AlphaGo;最高層風(fēng)險(xiǎn)則是指對人類社會(huì)有一定顛覆性影響,如不受人控制的強(qiáng)人工智能。

法律界線的劃分無疑能人類在這場博弈中更加占據(jù)主動(dòng)權(quán)。過去幾年,全球都在積極探索人工智能層面的監(jiān)管和治理路徑:

2019年4月,歐盟委員會(huì)發(fā)布《可信賴人工智能道德準(zhǔn)則》,列出了可信賴人工智能系統(tǒng)應(yīng)滿足的七項(xiàng)重要要求;同在這年通過的經(jīng)合組織(OECD)《確定OECD的人工智能發(fā)展原則》報(bào)告,提出了人工智能的五項(xiàng)原則;2023年8月,我國公布的《生成式人工智能服務(wù)管理暫行辦法》正式施行,首次針對于當(dāng)下爆火的AIGC產(chǎn)業(yè)進(jìn)行規(guī)制。

就在不久前,歐洲議會(huì)全體會(huì)議通過《人工智能法案》,標(biāo)志著歐盟掃清了立法監(jiān)管人工智能的最后障礙。這是全球首部人工智能法案,也預(yù)示著2024年將迎來人工智能全球治理的“大年”。

如果說“沒有人類的文明毫無意義”,那么沒有科技的世界也將無法前進(jìn),我們與人工智能的博弈永遠(yuǎn)不會(huì)結(jié)束。

雙面 AIGC 博弈
評論
還可輸入300個(gè)字
專欄介紹
數(shù)科社
22篇文章
專注數(shù)字與科技的產(chǎn)業(yè)互聯(lián)網(wǎng)平臺 基礎(chǔ)信息
+關(guān)注
400-858-9000
免費(fèi)服務(wù)熱線
kefu@trjcn.com
郵箱
09:00--20:00
服務(wù)時(shí)間
18658148790
投訴電話
投融界App下載
官方微信公眾號
官方微信小程序
Copyright ? 2024 浙江投融界科技有限公司(ahhehe.cn) 版權(quán)所有 | ICP經(jīng)營許可證:浙B2-20190547 | 浙ICP備10204252號-1 | 浙公網(wǎng)安備33010602000759號
地址:浙江省杭州市西湖區(qū)留下街道西溪路740號7號樓301室
浙江投融界科技有限公司trjcn.com版權(quán)所有 | 用戶協(xié)議 | 隱私條款 | 用戶權(quán)限
應(yīng)用版本:V2.7.8 | 更新日期:2022-01-21
 安全聯(lián)盟
在線客服
手機(jī)APP
微信訂閱