正在閱讀
【薄荷薄荷】生成AI時代,藝術家手上有沒有黑魔法防禦術——抗抄襲技術是軍備競賽,還是螳臂當車?

【薄荷薄荷】生成AI時代,藝術家手上有沒有黑魔法防禦術——抗抄襲技術是軍備競賽,還是螳臂當車?

【Minting】In the Age of Generative AI, Artists Lack Defense Against the Dark Magic—Is the Fight Against Plagiarism an Arms Race or a Mantis Trying to Stop a Chariot?

網路出現伊始,數十年來全球網路使用者所創造的資料讓圖像生成模型與大型語言模型得以「湧現」(Emergence)。使用AI工具,不只可以「再現」(盜取)過去曾經出現的資料,也可以創造(致敬)未曾出現的內容,一切都在彈指之間可以完成。對於創作者而言,生成式AI工具是一種解放,還是一種剝奪?

機械降神與科技拜物教徒

2023年末,人類已經進入後湧現時代(Post-Emergence Era)。這是一個奢華的年代,也是分配不均的年代。對比2022年末,2023年的合成圖片套裝工具已經成熟,甚至進入一鍵完成合成時基(Time-based)影音(註1)的時代,無論是大型商用軟體還是放在免費空間的開源模型,都可以讓使用者輕易借助生成式AI工具來完成工作。這彷彿是駕駛人正在學習與配備自動駕駛功能的運輸工具相處,目的地當然還是需要人類來設定,而如何抵達,無需如同過去那般費神。但是,只要自動駕駛服務招搖過市,不只是駕駛人需要學習,整個用路人文化都勢必需要一起適應。生成式AI服務也是一樣,資訊社會必須一同適應。

Runway Gen2可以藉由文字產生影片(text-2-video)。(黃豆泥提供)

地理學者大衛.哈維(David Harvey)在1989年於其著作《後現代性的條件》(The Condition of Postmodernity)提出「時空壓縮」(Time-space Compression)的概念,他認為透過交通與資通訊(ICT)的便利性,讓人感受到地理空間的縮小。我們可以說生成式AI工具不僅讓最終產品的交付在時空間上縮短,更進一步在生產成本中高度壓縮,包括時間與勞務。但這並不是一個多麼正面的描述,哈維在2003年的文章〈科技拜物教的因與果〉(The Fetish of Technology: Causes and Consequences)針對新自由主義的社會如何對於新技術產生崇拜甚至魅惑,繼而對整體生產關係造成「透過剝奪進行積累」(Accumulation by Dispossession)有一番陳述。他認為「科技不僅被用來保護既存的壟斷權力,而且被用來確保『透過剝奪進行積累』。」

AI是解放智慧財產權力的壟斷,還是掠奪個體創作的生產結果?

哈維匠心獨具的論述彷彿在為整整20年後的生成式AI湧現年代下註腳。我們基本上可以直接化約討論,網路出現伊始,數十年來全球網路使用者所創造的資料讓圖像生成模型與大型語言模型得以「湧現」(Emergence)。使用AI工具,不只可以「再現」(盜取)過去曾經出現的資料,也可以創造(致敬)未曾出現的內容,一切都在彈指之間可以完成。

對於創作者而言,生成式AI工具是一種解放,還是一種剝奪?

答案不在創作過程本身,而在「創作-觀看」與「生產-消費」權力結構關係。事實上,早已有許多數位藝術創作者導入AI成為創作一環,甚至以AI作為媒介本身進行創作,前者如雷菲克.安納多(Refik Anadol),後者如馬利歐.克林格曼(Mario Klingeman)。相關案例筆者已在典藏ARTouch刊出兩篇文章,在〈人工智慧作為一種踰越/愉悅─論AI詠唱者的合成欲望與匱乏追求〉討論科技發展的開源與閉鎖型陣營如何影響創作者,與在〈當機器談論藝術時,我們在談論什麼?〉討論肥皂劇創作者與別出心裁的創作者如何被AI影響。這兩篇文章都是在討論創作者與工具之間的關係,但是如果要談創作工具的社會影響,勢必得進一步碰觸權力關係。

舉兩個全然相反的例子—— 

一、來自商業圖庫的浮水印痕:使用圖像生成式AI軟體時,老練的咒術師(Prompter)會特別給予負向提示詞(Negative Prompt)去掉浮水印與字樣。這是因為許多開源圖像生成模型可能是以圖庫網站的資料庫進行訓練,未經授權的圖片當然是被蓋上肉眼可見的浮水印,這造成許多生成圖片產生未經預期的字樣。所幸透過提示字工程,這些字樣是可以輕而易舉地去除,因此有人認為這樣全新的生成圖像,可以因規避智慧財產權,而解放創作,但圖庫商或素材提供者可能不會這麼認為。

二、來自繪師平台的聯合抵制:另一方面,由於AI工具的可堆疊特性,我們可以輕易藉由數十張相同風格的圖像,訓練出具有特定創作者特色的生成作品,數量越多,訓練品質更精良。事實上,在許多AI模型平台,早已可以下載這類模型使用,其中當然包含特定動畫電影、卡通、創作者、甚至是明星網紅的模型。在創作方面我們稱為風格再現,在照片方面則是深度偽造(deepfake),兩者在技術層次並無分別,其實是同一件事。如此具有變革威力的工具,曾讓繪師於2022年聯合上傳「禁止AI圖示」(註2),抵制平台允許AI圖像上架的政策。這個運動導致許多創作平台如今出現分流選項,如同「過濾成人內容」一樣,現在也有「過濾合成內容」。成人內容被認為過激而禁止,合成內容因生產者抗議而禁止,兩者殊途同歸。

誰有資格控訴侵權,還是侵權是一種成名的認證?

當你被抄襲了,你告得贏嗎?有一則國際笑話是這麼說的,當一個人受困於荒島,怎麼樣求救都沒有用,直到他開始抄襲迪士尼(Disney)或任天堂(Nintendo),因為地表最強法務會直接找上門,無論你在荒島還是都市。這則笑話具體而微的展現了跨境權力事實的階級差異,只有具有足夠法律資源,才能堆砌出專利與智慧財產(IP)高牆,並且讓高牆實際上在各地司法管轄區(Jurisdiction)發揮作用。事實上迪士尼證明了這樣的威力可以持續95年,1928年自動畫《蒸汽船威利》(Steamboat Willie)亮相的米老鼠(Mickey Mouse),其版權終於將從2024年開始進入公領域。

而馬上便有創作者以米老鼠為主題進行惡搞。遊戲廠商Fumi Game發表黑白畫面的血腥槍戰遊戲《Mouse》預告片(註3),便是使用了米老鼠IP,並預告將於2025年上架,引起大量關注。此見大型跨境公司,可以創造長達100年的全球威嚇力,並且不費一槍一炮。

由Fumi Game發表的槍戰遊戲《Mouse》預告片,充滿早期迪士尼米老鼠風格。(黃豆泥提供)

納托.湯普森(Nato Thompson)在其著作《觀看權力的方式:改變社會的21世紀藝術行動指南》(Seeing Power : Art and Activism in the 21st Century)說過:「在現今的經濟系統裡,創造文化與營利深深地交纏在一起,無論我們多麼不願意這麼想,但我們每一個人卻都是資本主義系統的一分子。」在AI工具大規模被使用以前,我們便應該思考位於不同生涯時期的創作者,如何將自己置於資本主義的權力關係內,這會導致對於智慧財產保護完全不同的策略。而AI工具更應該納入文化生產系統重新思考。

最近由於發表ChatGPT與GPT4的矽谷公司OpenAI上演了人事權宮鬥戲碼,「有效加速主義」(effective accelerationism, e/acc)在科技界又重新成為熱門話題。根據e/acc觀點,支持者認為人工智慧現在已屬於資本家,並且應該要屬於資本家,因為這樣才可以不計代價讓科技進步,藉由資本主義,才能夠推動社會變革。但反方認為,AI發展需要考量如何讓公民重新取得權力,並自既有結構抵禦傳統權力者,進而鞏固民主。其中最具有說服力之一的流派為經濟學者戴倫.艾塞默魯(Daron Acemoglu)與‎賽門.強森(Simon Johnson),他們在《權力與進步:科技變革與共享繁榮之間的千年辯證》(Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity)提到技術與民主社會發展的關鍵核心:「唯有當技術進步的方向及社會收益的分配方式不再牢牢掌控在少數精英手中,才有可能真正實現「共享繁榮」(shared prosperity)。」

回到創作者心理,當社會上出現更易於複製其風格的工具,這會讓創作者賺更多錢,還是損失更多工作機會?

被抄者光譜與現實之無力

根據以上推論,我們可以劃出兩道光譜,第一道光譜的兩端是單體藝術家與掌握IP大型跨境企業,顯而易見的是兩者並無清晰的界線,工廠化的普普藝術家也可以是大型跨境企業,默默無聞的本土文化內容公司,難以獨自打贏IP侵權戰爭。第二道光譜是被致敬或被抄襲,究竟是喪失獲利,還是提升獲利機會。在缺乏良好營銷解決方案的狀態下,創作者即使擁有良好的作品,也難以把作品賣掉而獲利,收藏者即使想要收藏也沒門。在創作與收藏之間若要取得巨大的盈利優勢,勢必得借助中間人服務,如跨境平台、大型藝廊、國際媒體等,這些掌握政治宣傳(propaganda)機器的服務商善於將資源集中,並且大量獲利。對於多數單體創作者而言,這些際遇並不容易獲得,因此也不容易取得侵權保護的「特權」。

因此我們必須自問,在「資本-AI工業複合體」中,誰才有抗抄襲的需求?誰有能力開發?誰因此而獲利?在此之外,我們只能援引蘇珊.布拉克莫(Susan Blackmore)的《迷因》(The Meme Machine)自娛,資訊與文化符碼如洪水猛獸,本來就很難從一個人的腦海裡格式化,成功的文化創作物,本來就會自然成為到處流竄的「權杖」(token),AI只是讓現象加劇。而因為生成式AI工具已經如同過去「Google搜尋」一樣簡單好用(打開Bing引擎,馬上就可以使用),我們可以預見數位創作門檻降低,人人都掌握合成工具,觀看者更容易成為生產的一員。

新媒體藝術家葉廷皓使用生成AI工具輔助,進行音像藝術表演。(攝影/李建霖,國家表演藝術中心臺中國家歌劇院提供)

抗抄襲技術與脈絡信心

如果你使用ChatGPT或任何中心化的生成AI平台,你會發現這些平台已經設下禁令,禁止生成100年內的藝術家風格作品,這與前述米老鼠的智財權期限有異曲同工之妙,平台為了規避使用者抄襲而產生的連帶風險,進而在最上游的指令設下限制。這是否意味著,藝術家必須夠知名,才會被禁止生成呢?而中國開發的大模型(台灣常稱大型語言模型),更是在資料訓練階段便開發強大的內容過濾器,讓「危險思想」在一開始便不會誕生,更不用擔心AI幻覺(AI Hallucination)會產生侵犯權力的內容。

此外,多元宇宙學術網絡(GETTING-Plurality Research Network, GPRN)學者蕭亞.傑恩(Shrey Jain)與柔伊.希齊(Zoë Hitzig)於今(2023)年10月發表《脈絡信心與生成式AI》(Contextual Confidence and Generative AI),重新盤點在後湧現時代,如何抗衡假訊息、創作抄襲等行為。他們認為唯有討論上下文的情境脈絡,才有可能辨識何者為真,而非從文本本身窮究真假。傑恩等人提出脈絡需要被有效識別(Identify)與保護(Protect),而其策略可以是被動遏止(Contaninment)與主動預防(Mobilization),相關盤點可以參考下圖。僅舉數例:識別方面,內容的溯源保真,便為被動遏止,更多案例參見筆者上期文章〈防偽與公證,為何真品/珍品需要數位鑄造?淺談信任科技作為一門產業〉,而主動蓋上浮水印,便是主動預防;在保護脈絡方面,上述的下咒禁令(Prompt Protection)便是被動遏止,資料合作社(data cooperative)實現盈利,便為主動預防資料濫用。

藉由兩種策略進行識別與保護脈絡的摘要表。(黃豆泥重置)

其中在業界比較有意思的案例為「內容出處與真實性聯盟」(Coalition for Content Provenance and Authenticity, C2PA)與「主張數據」(Numbers Protocol)服務。

C2PA標準提供數位內容內嵌真實性證書,讓其他人能辨識真偽。(黃豆泥提供)

C2PA由Adobe、微軟、英特爾、X(前為Twitter)、英國廣播公司(BBC)等公司成立,該聯盟制定技術標準來處理內容來源真實性的問題,從而解決假訊息。具體而言,該標準將「證明溯源資料」公證上網,通常是一紙數位證書,嵌入到數位圖片中來打擊錯誤資訊,以確保真實性,來增強化大眾對於媒體的信任。而Numbers Protocol是一個開源且去中心的區塊鏈服務,讓專業人士可以自行儲存自己生產的數位內容,並且主張其擁有權。同時該服務開發了類似NFT的Numbers ID (Nid),讓每一筆內容都可以追蹤溯源(Porvernance)。

Numbers Protocol為數位內容提供溯源上鏈的儲存與取用服務。(黃豆泥提供)

結語.創作與抗抄襲的價值

如同迪士尼法務笑話一樣,跨境平台除了具有法律資源優勢,也具備技術標準建構的優勢。我們可以很清楚地發現,即使有去中心的解決方案,抗抄襲的技術仍然奠基在集中式的服務或平台協議之上,任何分散式的解決方案都很難抗衡來自世界各地的抄襲行為。畢竟我們很難在普通觀眾掌握AI技術的同時,禁止他們欣賞作品又拿去再生產。根據這個現象,我們可以推論「好作品一定會被看見,被看見的同時將不可避免地會被再生產。」因此與其討論單一個體如何防止再生產,不如討論如何在新的生產關係中實現盈利。

在合成影視音大行其道的時代,「真品」的市場價值將進一步被放大。在數位世界案例中,我們已經從區塊鏈藝術市場的興衰看到數位藝術生產者將有機會從世界的平台中盈利,新型態的中間人如藝術平台、藝廊與拍賣行從此間誕生。在權力的世界,我們看到原則性的生成式AI指引與法律誕生,但仍然很難看到具有約束力的監管出現,這是因為傳統的智慧財產權管轄區、數位版權管理(Digital Rights Management, DRM)等都很難融入生成式AI生產模式。在社會資本的累積方面,AI不啻是一種新型態的報導媒體,融合了迷因與風格的遞延,過去的媒體、部落客傳頌藝術家的作品,現在掌握AI工具的觀眾透過戲仿或致敬的圖像傳頌原初作品,兩者的本質其實是一樣的,而且兩者都無法實質取代真品。(參見張寶成專欄〈直到Web3抓住AI:回訪一個失落的典範〉

因此回到開頭,對於個體創作者而言,如果在被抄襲之前就無法盈利謀生,那即使抗抄襲技術被部署了,也無法改變創作者賺不到錢的事實。因此如同《權力與進步》所言,抗抄襲的黑魔法防禦術其實不是技術,而是權力如何重組。如何透過技術進步的方向,改變收益分配的方式,從而實踐共享繁榮。

本文認為將「易於複製的特性」與「價值產生之方法」解耦,才有讓生產者永續生存的空間,新型態的藝術市場才有可能誕生,而其關鍵可能是消費者肯認的「真品」。在這個狀態下,不斷複製致敬的迷因,反而可以增強「真品」的價值。


註1 可參考Runway出品的Gen2作為案例: https://research.runwayml.com/gen2

註2 可參考Dataconomy,〈Does ArtStation become PromptStation?〉,Eray Eliaçık,December 20, 2022。

註3 可參考TheGamer,〈 I Can’t Get Enough Of The Mickey Mouse First Person Shooter〉,Ben Sledge,May 10, 2023。

黃豆泥( 20篇 )

分散自治與數位主權探求者,白天於公部門服務,晚上為FAB DAO與Volume DAO成員,曾以《百岳計畫》(Project %)參與2022年林茲電子藝術節,並規劃北師美術館《Kng DAO》(2022)、台北國際藝術村《鏈上駐村》(2022, 2023)。嚮往制度設計與新興科技的撞擊,正在尋找有別於電馭極權與財閥亂鬥的第三條路。