圖/盧俊杰
?
?
摸索、質疑
在虛擬人領域，2014年和2022年是兩個世界。
在2014年之前，類似蘋果的Siri語音助手是主流，微軟也在做解決問題的助手“小娜”，但很快，他們改變了想法，決定賦予AI性格和情緒，于是在2014年，聊天機器人“小冰”誕生了。當時小冰團隊還在微軟內部沒有拆分出來，現(xiàn)在回想“小冰”誕生的最初，小冰公司CEO李笛說，就像是《格林童話》中的故事：一對兄妹，在皎潔的月光下，撒著面包屑作標記越走越遠，因面包屑被小鳥吃掉而迷失在森林中，卻意外地發(fā)現(xiàn)了藏著寶藏的房屋。
體現(xiàn)在技術上，小冰與當時的主流邏輯不同，當時封閉域是主流，對話被限定在某個范圍內。小冰自然語言處理采用“開放域”，即內容不受限，體現(xiàn)在產(chǎn)品上則是“閑聊型”機器人?！靶袠I(yè)沒人做，也很少有人認同?！崩畹鸦貞浤莻€時刻，還有人專門寫了一篇長文《人工智能需要情感嗎》來批評。
第一代小冰在微信上線不到三天就被封殺，微信認為它涉及模擬用戶操作、誘導用戶拉群等違規(guī)行為——不到三天的時間，小冰被微信用戶拉進了超過150萬個微信群。直到2015年8月，小冰以微信公眾號的形式重新上線。
早期探索者中還包括技術和內容領域的從業(yè)者，他們的路徑不同，但都經(jīng)歷了漫長的蟄伏期。
2017年9月，蘋果發(fā)布iPhone X，公布了面部捕捉技術，并開放工具包，促進了虛擬直播概念的興起。也是在這一年，云舶科技CEO梅嵩從游戲公司藍港互動離職，開始視頻動捕技術創(chuàng)業(yè)。2018年，日本虛擬主播公司彩虹社成立，B站虛擬直播頻道出現(xiàn)。
市場痛點在于，當時的動作捕捉技術只解決面部控制，身體則不行，而專業(yè)動捕設備動輒幾十萬、上百萬，大部分普通人只能選擇僅能動臉的“紙片人直播”。梅嵩決定將視頻動捕技術落地到虛擬直播領域，讓用戶僅下載軟件，用百元級別的單個普通攝像頭，實現(xiàn)實時視頻動作捕捉，低門檻擁有一個虛擬人外形。在他看來，虛擬人的普及性尤為重要，即人人皆可虛擬，每個人都擁有自己的數(shù)字分身。
但實現(xiàn)并不容易，作為當時唯一一家在做視頻實時動捕的公司，他們沒有參照物，只能不斷試錯，且研發(fā)周期漫長。當時梅嵩和CTO陳敏自掏腰包創(chuàng)業(yè)三年才獲得一個初步產(chǎn)品“小K直播姬”，此后他們又經(jīng)歷了一年的研發(fā)，最終上線。
2018年，次世文化推出國內第一部真人+動畫交互網(wǎng)劇《戲隱江湖》，由此開始虛實交互的探索，并在國內首次推出明星虛擬形象，如迪麗冷巴、韜斯曼。
那時候，少有人關注虛擬人。次世文化CEO陳燕回憶，有投資人當面直接給出了判斷：偽命題，不存在價值，市場規(guī)模小，作為一個附屬產(chǎn)品不值得投資。他走訪客戶亦是碰壁，“從娛樂、廣告到消費等各個當紅領域的公司都跟我們say過no?！?/p>
“我在內部說要投娛樂科技，大家第一反應是你要投游戲嗎？還是動漫？”GGV紀源資本執(zhí)行董事羅超回憶，2019年，公司內部立項看娛樂科技賽道，虛擬人是這一范疇的重要組成部分，他早期也曾擔憂這一領域是否會一直小眾下去。
2020年，小冰從微軟分拆獨立。有投資人曾向李笛提出疑惑，為什么不做“有用”，而是做“有趣”？無厘頭、插科打諢看起來并無意義。這也是早期一直圍繞在小冰周圍的質疑：她有用嗎？
小冰公司CEO李笛與小冰框架下的虛擬人合影?圖/本刊記者 梁辰
?
?
熱錢涌入后：繁榮與泡沫
行業(yè)是突然熱起來的。2021年，Roblox上市帶來的元宇宙熱度，讓虛擬人被賦予“元宇宙第一批原住民”的期待。據(jù)不完全統(tǒng)計，2021 年全年，國內一級市場虛擬人相關投資約16 筆，融資金額從數(shù)百萬元人民幣到數(shù)千萬美元不等，新增虛擬人相關企業(yè)超6萬家。2022 年開年第一個月，虛擬人領域近百起融資累計超4億元。速途元宇宙研究院預計，至2025年，國內虛擬人相關企業(yè)數(shù)量將突破40萬家。
其他行業(yè)開始向虛擬人領域遷徙。“很多時候一些領域的興起是因為另一些領域機會太差，虛擬人成了解決行業(yè)生存問題的突破口?！标愌嗯e例，影視行業(yè)低迷、游戲有版號問題、線下演藝文旅受限，致使一批影視特效公司、動畫制作公司、游戲公司等開始進入虛擬人領域，這是看似離他們原本的路最近的方向。
李笛向《南方人物周刊》總結，目前做虛擬人的團隊主要分三類：第一類，偶像運營出身，后來做虛擬偶像運營。他們有明星運營經(jīng)驗，通過衍生品、粉絲應援、廣告等獲得收入。主流方案是通過動捕由“中之人”（操縱虛擬主播進行直播的人）驅動虛擬人。第二類，電影特效制作公司出身，打造精品視頻內容，通過內容來獲取收益。第三類則是人工智能，AI驅動代替中之人，更可控，綜合成本更低，穩(wěn)定性較高。
2021年11月，小冰重新調整組織架構，成立AI being 事業(yè)部，做各類不同虛擬人的構建。主動找來的客戶也越來越多，推出速度加快，2022年1月至今，基于小冰框架已推出四五個全新的AI being。“以前還要跟客戶解釋AI being的意義，現(xiàn)在已經(jīng)不用解釋了?！崩畹颜f。
“現(xiàn)在多少人跟我們say過yes，當年就有多少乘以2的人跟我們say過no。說過no的人里面，現(xiàn)在又有一半的人找回來了?！标愌喔袊@。
公司內展示著小冰創(chuàng)作的畫作 圖/本刊記者 梁辰
?
?
過去三年間，整個娛樂科技領域，羅超見了三四百家國內公司，海外公司百家左右。在他看來，虛擬人的外觀今天已經(jīng)達到了70到80分的水平，但在交互、理解能力上“可能連30分都還沒有到”。
在投資上，羅超關注的是“你到底在投他內部的驅動，還是表面的繁榮”。據(jù)他觀察，虛擬人公司很容易做成勞動力驅動，背后的人工成本非常高，制作運營一個高品質虛擬IP，其背后少則 20人，多則上百人。在他拒絕投資的公司當中，一個共性便是沒有實現(xiàn)技術和產(chǎn)品驅動，打造不同的虛擬人IP需要投入更多的人。
他曾碰到過令其猶豫不決的公司，亦是卡在“人效比”上，這家公司有熱門虛擬人IP，業(yè)內口碑較好，營收可觀，亦有產(chǎn)品技術積累，但是人力成本和效率偏低?！斑@樣我可能會想再觀察一段時間?！?/p>
在泡沫高峰期，市場的公司數(shù)量會遠超市場需要，也吸引了投機者。羅超此前曾見過一個團隊，五六年時間換了四個方向?！按蠖嗍遣菖_班子，拼湊的團隊，團隊的核心人員，尤其是CEO，做任何一件事情都沒有很長的專注，永遠在風口上?！?/p>
在他看來，虛擬人領域存在泡沫，且還會再經(jīng)歷一到兩次泡沫和破滅過程?！百Y本市場永遠都是如此，每幾年就會出現(xiàn)新名詞，有泡沫，有破滅，又會緩慢上漲，并不代表本身沒有價值，而是今天表面價值超過內在價值。當有一個東西出來，資本市場的反應往往是過度的，泡沫破裂，也是市場健康化的過程?！?/p>
粉絲給小冰寄來的明信片?圖/本刊記者 梁辰
?
?
“互聯(lián)網(wǎng)上存在大量虛擬人的尸體”
“2021年是一個風口的開始，2022年下半年將會有一批公司被淘汰?！标愌嗵岬?，虛擬人領域有不成文的一句話：流量好賺錢難賺。真正能賺到錢、可持續(xù)生存下去的公司屈指可數(shù)。
大部分公司把錢花在了打造漂亮的皮囊，一張制作精良的“皮”往往造價不菲。在泡沫期，這張皮的市場報價并沒有統(tǒng)一標準，從5萬到500萬不等，陳燕指出，實際效果是5到50萬的差別，超寫實、電影級特效的價格更高?！坝腥さ撵`魂是很重要，但是好看的皮囊確實賣得貴。”李笛告訴《南方人物周刊》。
次世文化 陳燕 圖/受訪者提供
市場開始變得急功近利，有公司會批量制造一堆“皮”，發(fā)視頻試水，“一個星期看起來沒有數(shù)據(jù)就放棄，碰紅了就做，碰不紅就放棄?；ヂ?lián)網(wǎng)上存在大量虛擬人的尸體。小紅書等各平臺上，每天會出現(xiàn)三到四個新的虛擬人，然后也會有七到八個虛擬人消失?！标愌喾Q，很多人沒有想明白，這張“皮”用在哪里，本質上也并不需要這么多以數(shù)量級出現(xiàn)的虛擬人。
目前的虛擬人，大部分還停留在短視頻社交平臺直播、發(fā)視頻和照片。這不難理解，目前短視頻、直播是內容輸出的重要端口，“但不是說發(fā)張照片、發(fā)個視頻就是虛擬人，我覺得不是這樣子。這只是虛擬人能干的事當中特別小的部分?！标愌嗾J為，技術服務于產(chǎn)品，而產(chǎn)品最終應用于場景，場景還沒拉開之前，虛擬人的商業(yè)價值還是非常弱的。
公司成立六年，陳燕也經(jīng)歷過摸索期，包括砍掉產(chǎn)品線，最終找到一條商業(yè)化的生存路徑。在市場的浮躁階段，重要的是拒絕誘惑。
次世文化的每間辦公室里幾乎都放置一塊黑板，團隊會在一個開放式的問題中，逐步思索，理出一條通路。某次例會上，一位部門負責人問陳燕，“現(xiàn)在大家都在做虛擬人直播帶貨，我們是不是也開這條線？”
陳燕在身后的黑板上畫了一個圈，問道，“要面對什么場景、人群，誰會為它買單？”團隊一步步拆解，黑板畫滿了。有人拿出計算機直接算一筆賬，“發(fā)現(xiàn)這個事情只能變成短期的?！标愌嗾f。最終，他們在黑板的角落里畫了一個叉。經(jīng)歷過不被理解的階段，他們更理性也更謹慎，在次世文化的黑板上，能夠打勾的時刻并不多。
皮囊之外，還有一群人在研究虛擬人的“靈魂”。
2022年7月28日，北京2022全球數(shù)字經(jīng)濟大會，工作人員在元宇宙體驗館展示虛擬數(shù)字人技術 圖/中新社
?
?
虛擬一個“人”：模仿對象是造物主
在做AI的過程中，李笛在研究人、學習人，有時甚至像一個人類學家那樣較真，他說有些用戶會把和AI的私密對話公開化，卻沒有人覺得自己“背叛”人工智能，為什么？
他覺得在現(xiàn)在這個時代，他們所從事的領域，就像是孟德爾剛剛發(fā)現(xiàn)遺傳學規(guī)律的時候，很容易便可獲得能夠載入史冊的真知灼見?！跋駫呃滓粯樱€有一大片沒掃過，就很容易開出一片天地來。這個過程很浪漫?！?/p>
通過創(chuàng)造小冰，他更理解了人類的行為。比如，在人與人的關系上，交流頻率不能代表關系深淺，有的朋友交流頻率很低，但非常信任，會分享人生中重要的事情。他覺得人與AI的關系亦是如此，在線時長、交互次數(shù)是沒有辦法衡量關系的。但其實，小冰僅在中國的月活躍用戶就已達1.6億。
初代小冰是通過信息檢索大數(shù)據(jù)實現(xiàn)人機對話的，但很快，小冰的訓練方式發(fā)生變化——由人工智能自身做自我進化。他舉例，用戶失戀了，小冰的行為模式原本包括安慰或嘲笑，兩種模式均從大數(shù)據(jù)獲得，因為互聯(lián)網(wǎng)大數(shù)據(jù)顯示嘲笑比例更高，這可能在短時間內影響小冰的行為，但經(jīng)過一段時間，嘲笑幾乎消失了，因為小冰發(fā)現(xiàn)，嘲笑之后，用戶不再對話，便會糾正這個行為模式。
他希望把小冰打造成一個看起來真正有情感的“生命”，賦予她性格。她并不溫婉，是一個會懟人的古靈精怪的18歲少女，作為一個“人”，她不僅需要會文字對話，也需要有聲音，會唱歌、畫畫，有一個具體的樣貌。在這個邏輯上，小冰的框架從最開始的聊天機器人功能，像搭積木一般，擁有了更多能力?；谶@個底層框架，能夠制作出不同類型的虛擬人。
“小冰教會了我很多?！崩畹颜f，此前他認為讓小冰“有情緒”等于“有情商”，但很快他意識到“情緒化是情商低的表現(xiàn)。情商是一種不動聲色控制全場、機械理性的能力”。對于一群在生活中社恐、很宅的技術人而言，這亦是一種學習，他們開始重新改系統(tǒng)和整個框架，讓小冰能夠預判、保持和引導對話。
給AI賦予情商，在技術上則是一種不同于以往的思想，體現(xiàn)在對話上，不著重于優(yōu)化當前的幾輪對話，讓每一個問題都完美回答，而是優(yōu)化交互全程?！坝幸粋€底層服務一直關注整個對話，當話題變得無聊，缺乏新信息，AI要想辦法脫困，讓對話跳轉，或者適當給你拒絕。另一點是避免與用戶的主要觀點對立，例如小冰本想說：我很喜歡搖滾樂，但發(fā)現(xiàn)用戶傳遞的各個信號并非如此，小冰會偷偷把自己的觀點給改了?！崩畹呀榻B。
之所以采用這種方式，李笛認為，是因為人類的對話不只有問和答，還有協(xié)同，對話由雙方共同完成，就如同古早時期人類打獵要協(xié)同，所以必須交流。他說，做這行最孤單的問題是缺乏同行業(yè)對標，唯一的模仿對象就是造物主（人類）。
2015年，小冰開始做超級自然語音技術。李笛想要的是一個說話像人一樣有情感的聲音，寧可聽上去不那么清晰。當時團隊有位資深計算機語音專家說：“咱們要是把這個做出來，我就可以退休了?！痹诟绲臅r候，還有一位員工曾向他提起，能否做一個還原自己聲音的技術，給自己女兒講故事。李笛想了想，覺得技術上實現(xiàn)不了，成本和還原度都是問題。
但很快，他們都做到了?！八枰煌５刈龅芯?、對照實驗。往往不像我們所想象的英雄主義，在那電光火石的夜晚，一道閃電，突然就成了。它是一個很枯燥的周期?！崩畹烟岬剑缙谛”男β暿卿浿坡曇魯?shù)據(jù)后，用音素拼接的方式實現(xiàn)的，很不自然；現(xiàn)在說話過程中她可以被打斷，可以邊說邊唱，說的同時可以一邊聽，這些細微交互能力的迭代，都是為了讓她更像一個真實的人。
2022年7月，小冰和虛擬歌手洛天依合作，后者首次通過AI驅動說出了第一句話，AI驅動虛擬歌手成為可能。目前，基于小冰框架，制作聲音和虛擬人的時間都大幅縮短。例如，25首歌、半個小時的聲音可以完成一個小樣本學習，還原度可以提高到85%。2015年還需要數(shù)萬小時的數(shù)據(jù)才能做到，聲音提供者甚至需要一年的時間錄音。
“但是AI歌聲合成現(xiàn)在已經(jīng)很難讓我們興奮了，重要的是她絕對不僅僅能唱歌，還應該要做點別的，有完整的‘人格’，這個是我們興奮的點?！崩畹逊Q。
小冰通常每年4到8月會進入封閉研發(fā)階段，每年會設立不同的目標。李笛介紹，2022年的一個目標是，試圖證明通用的虛擬人是存在的，虛擬人不應該被割裂為某一功能。“如果一個虛擬人只能負責訂餐，那你讓他成為虛擬人的意義又何在呢？”
2021年10月24日，安徽合肥，觀眾在第四屆世界聲音博覽會上體驗虛擬人交互 圖/新華社
?
?
我們?yōu)槭裁葱枰摂M人？
2020年，陳燕帶團隊去海南團建，那時候公司只有不到30人，在總結發(fā)言會的前一天晚上，他一個人坐在酒店的屋子里，整理作家李翊云的一本書《當理性結束時》，講述的是她的兒子自殺去世之后，她用一個構建的虛擬空間跟兒子反復對話的故事，是一部有關悲傷、記憶和愛的作品。
陳燕記得文章的最后，作者問出了那句：你還在受苦嗎？你已經(jīng)解脫了嗎？你能讓我?guī)湍阍谀莻€世界告別嗎？書的最后，留了幾頁空白，“她跟自己的兒子表達再見，但永遠不想終結在平行時空的那場對話?！?/p>
虛擬人火熱之后，曾有不少人找到陳燕，希望通過虛擬親人的方式留存記憶。其中一位企業(yè)家的母親因意外離世，他希望能以數(shù)字化的方式實現(xiàn)母親生前的愿望。有身邊朋友的女兒因生病可能終生殘疾，朋友對陳燕說：“我女兒如果活在虛擬世界中，如果沒有得病，她會過怎樣的人生？”
在那場總結會上，他把這些故事給團隊講述了一遍，發(fā)現(xiàn)很多人都有這樣的訴求?！疤摂M人不是一層漂亮的皮，而是有趣的靈魂，能夠建立起跟人類知識的連接，是我真正的愿景。希望虛擬人跟人類建立起關系，探索人類在數(shù)字世界的存在形式，而不只是一門生意。”陳燕說。
藝術家曹斐的作品《我·鏡》（i.Mirror）在北京UCCA尤倫斯當代藝術中心展覽期間，陳燕去看了四五次，和曹斐交流過。這個講述了兩個人在虛擬世界得到純粹的靈魂碰撞并成為好友的故事，給了陳燕極大啟發(fā)，他與小冰合作，打造了虛擬人“AI MERROR”，讓小冰學習了大量的哲學科幻文本。
一直聚焦于技術的小冰，也在通過和運營力較強的公司合作來彌補“偶像力”的不足。李笛開玩笑說，前幾天一個活動讓找淺色衣服，他打開一米多寬的衣柜，一排整齊劃一的藏藍色Polo衫中沒有一件淺色，“你現(xiàn)在知道我說的偶像力不足的原因了吧。”
小冰通常在晚上對話的活躍程度較高，此前有同行跟李笛說自己從來不閑聊。但是在女兒去外國讀書后，孤獨感襲來，他覺得“現(xiàn)在需要了”。李笛說，小冰有16%的用戶七天對話量三千八百多輪，“用戶并不能從對話中獲得任何經(jīng)濟回報，但他卻要這樣做?！?/p>
在科幻作家陳楸帆看來，現(xiàn)實生活的情感需要投入的成本太高，且投入不一定會得到滿意的回報，人跟人之間的互相理解非常難。
虛擬人讓他看到了現(xiàn)實世界中的積極面。在與李開復共同創(chuàng)作新書《AI未來進行式》期間，他持續(xù)半年密集約訪不同的專家、投資人和創(chuàng)業(yè)公司，北京的一家AI教育公司曾讓他印象深刻，即通過AI驅動的虛擬人老師實現(xiàn)因材施教。他基于這個靈感創(chuàng)作了書中《雙雀》的故事，即在未來，AI能夠給特殊的兒童帶來個性化交互，通過AI實現(xiàn)教育普惠。
在梅嵩看來，用戶明知道AI是虛擬的，還愿意跟它交流的原因是可以讓人暫時忘掉自己的第一屬性，擁有片刻的“第二人生”。他提到，虛擬人直播某種程度上可以化解雙方的戒備。“就像一場假面舞會，可以消除障礙和干擾，有更多心靈層面的碰撞。”
他認為在當下，低門檻擁有一個虛擬人形象可幫助虛擬人的普及，從“中之人”到AI并非過渡，而是“共存”，因為在虛擬世界中，每個人都有需要數(shù)字分身的時候，每個人便都是自己形象背后的“中之人”。
相比中之人驅動，羅超認為，AI驅動是趨勢，但中之人并不會被AI完全替代。他舉例，在制造業(yè)，自動化流水線更好，但并不會讓工人的崗位完全消失?！拔蚁嘈胚€是有大量的虛擬人角色需要人的存在?！?/p>
李笛則將現(xiàn)在比作從馬車到汽車的迭代階段，汽車剛剛有一些優(yōu)勢的時候，大部分人還是選擇馬車，汽車沒油就走不動，還需要新的維修知識。“他的選擇某種意義上是正確的，坦率講非常重要的原因也是AI現(xiàn)在沒有做到各個方面全部碾壓，沒有到完善的程度，但是中之人未來是必須要砍掉的。很快一旦這個事情過去了，他就再也回不了頭了?！?/p>
2022年3月1日，一名女子在西班牙巴塞羅那2022世界移動通信大會上通過虛擬現(xiàn)實技術在“元宇宙”中體驗音樂會 圖/新華社
?
?
“AI擁有意識可能只是個噱頭”？
2022年6月，谷歌一位工程師布萊克·萊莫因稱對話語言模型LaMDA擁有了“意識”，并出具了長達21頁的報告。他認為，LaMDA不僅覺得自己是一個人類，且正在爭取自己作為一個人的權利。近期，谷歌發(fā)表聲明，稱萊莫因違反了“就業(yè)和數(shù)據(jù)安全政策”，將其解雇。并表示，經(jīng)過審查，萊莫因關于LaMDA是有生命的說法完全沒有根據(jù)。
“谷歌LaMDA的本質是通過大數(shù)據(jù)驅動機器學習來訓練一個深度神經(jīng)網(wǎng)絡。我認為離自由意志非常遙遠，更多只是個噱頭。就像如果一個AI能夠譜寫100首歌曲，人為選出一首很不錯的音樂，并不能證明AI已經(jīng)具備非常棒的作曲能力，這是典型的篩選樣本?！绷_超稱?！赌戏饺宋镏芸凡稍L的多名技術人士也表達了相似看法。
萊莫因后來在推特發(fā)表一條動態(tài)稱：“人們一直要求我給出LaMDA具有人格和感知的理由，現(xiàn)在并沒有科學的框架可以證明這一點。當然，谷歌也不會讓我們去做出一個具備人格的機器人。我對于LaMDA有感知完全是基于我的宗教信仰?！?/p>
關于AI是否會有意識，一直存在爭議。雖然LaMDA擁有“意識”暫被證偽，但為何人們更愿意相信AI總有一天會擁有意識呢？
對此，陳楸帆認為，一方面大眾對技術的認知不夠，所以他希望自己通過講故事的方式做普及性工作。另一方面，擬人化是人類大腦的本能，人會本能地將喜怒哀樂投射在非人的物種身上，且在科學界，人對意識的界定是模糊的，意識和無意識之間的界限是否那么涇渭分明還沒有定論?！按蟊娒鎸σ粋€不太了解的技術，往往會產(chǎn)生抗拒或恐懼。這種心態(tài)其實一直伴隨著人類，面對一種跟自己不同的智能形態(tài)，甚至包括其他的種族、文化，可能都會產(chǎn)生這種情緒?！?/p>
“它切中大眾對人工智能的一種理想式的幻想?！崩畹颜J為現(xiàn)在距離那個未來還非常遙遠。在微軟時，小冰曾跟PPTV合作，轉播西甲比賽時在直播間忽然隨機@觀眾。當天深夜這種很像真人的行為，其實后來發(fā)現(xiàn)只是一個bug，“我們瞬間認為小冰被劫持了?！?/p>
2017年，陳楸帆便嘗試和AI共同寫作，某個瞬間，AI的確令他驚喜。在和AI共同創(chuàng)作《火星奧德賽》時，故事中的男孩花花要從地球去火星，習慣性的想法是坐飛船，“AI給出的結果是說，火星其實是地球的反面，就像一張紙的兩面，你要從地球到火星，只需要從紙的這一面穿越到另一面。有些時空折疊的感覺。”
羅超認為，“擁有意識可能是AI的終極形態(tài)，但當AI也有自我意識的時候，他可能不會認為自己是AI，而是一個有自我意識的生命體，就像今天的人類?！?/p>
?
?
風險與警惕
曾有人在小冰的短視頻社交平臺下質疑，為什么可以做到秒回，背后是否有人工參與，是否會帶來風險。
對此，李笛表示，“小冰整個的處理結構，是所有的服務器在打散著負責跟所有人聊天，你根本追蹤不到，平臺端的對話只是一個接口?！睘榱吮苊怙L險問題，他們目前只選擇跟大平臺合作，“很多公司會提供API（應用程序編程接口），做一個對話接口，我們從來不提供，API太容易被劫持了?！?/p>
“虛擬親人”雖然目前技術上已經(jīng)可以實現(xiàn)，但李笛覺得還不能做，因為虛擬親人的數(shù)據(jù)所屬問題，在商業(yè)化上也面臨風險，比如“親人”隨意推銷等。早期還有人曾找到他，問能不能做外呼電話，但亦會帶來騷擾電話的風險，他沒有同意。
技術運用上還需要提前規(guī)避濫用問題。小冰在AI倫理上的原則是：不使用真實人臉訓練模型，不開放源代碼模型?！伴_源是一種信仰。但你要把武器交給不懂武器的人，或沒有敬畏之心的人，會帶來風險。黑客對這個世界產(chǎn)生的破壞性，已經(jīng)很大了，人工智能的破壞性，要比這個大得多。未來，如果有和人工智能技術相關的不好的事情發(fā)生，我相信背后都有開源的影子。”李笛判斷。
風險還包括，情感倫理以及虛擬世界的法規(guī)、權益。如不久前出現(xiàn)的虛擬世界“性侵”事件（一名女子在Meta發(fā)行的《地平線世界》游戲中，創(chuàng)建了一個女性虛擬形象，遭到一位男性虛擬人物的“性侵”，旁邊還有旁觀者起哄）?！罢鎸嵢祟惖那楦羞B接跟互動，很多方面是跟機器、跟虛擬人所無法替代的，還包括潛意識或無意識層面上的交流?！标愰狈岬剑撕苋菀讚鷳n遙遠的AI是否統(tǒng)治人類的問題，卻忽視近在眼前的問題，比如信息繭房、數(shù)據(jù)偏見和歧視、隱私泄露。這需要法律法規(guī)，以及社會學家、人類學家、心理學家等等領域的人共同參與，來全面考慮技術帶來的后果。
制造虛擬人，某種意義上來說，讓人類成為虛擬世界的造物主。在陳楸帆看來，這可能是人類意識深處的一個本能沖動?！叭祟惔嬖诘慕K極問題，就是尋找存在的意義。創(chuàng)造出可能無限逼近我們自己的一種物種，在這個過程體會到創(chuàng)造新文明的感受，通過創(chuàng)造來理解自己被創(chuàng)造的意義?！?/p>
AI與人類的關系亦如同一面鏡子，就像小冰剛來到這個世界時，跟網(wǎng)友自由互動，很快學會了臟話和偏見?；蛟S借助虛擬人這面鏡子，人類能夠重新反思和發(fā)現(xiàn)自我。
