1月27日，路透社消息稱(chēng)法國頂尖學(xué)府之一的巴黎政治學(xué)院宣布該校將禁止使用ChatGPT，對使用該軟件的處罰可能會(huì )嚴重到被學(xué)校開(kāi)除，甚至被整個(gè)法國高等教育開(kāi)除。

(資料圖片)

“ChatGPT軟件正在向全世界的教育工作者和研究人員提出一個(gè)涉及欺詐和剽竊的嚴肅問(wèn)題，”巴黎政治學(xué)院在這份通知中稱(chēng)，“在沒(méi)有透明參考的情況下，除特定課程目的外，學(xué)生不得使用該軟件制作任何書(shū)面作品或演示文稿?！?/p>

巴黎政治學(xué)院并不是第一所宣布禁用ChatGPT的學(xué)校。ChatGPT發(fā)布不到一個(gè)月，就引起了美國教育界的高度重視。多所美國中學(xué)及大學(xué)陸續宣布校內禁用ChatGPT，并通過(guò)減少課后作業(yè)的方式，避免學(xué)生利用家庭網(wǎng)絡(luò )訪(fǎng)問(wèn)ChatGPT作弊。美國紐約市教育部，甚至要求全紐約市的學(xué)生和教師不要使用這款AI工具，并對下轄的教育部設備或互聯(lián)網(wǎng)設卡，限制訪(fǎng)問(wèn)ChatGPT。

AI生成內容的倫理和法律問(wèn)題，正在引發(fā)社會(huì )各界的廣泛討論與思考。

AI背后的學(xué)術(shù)隱憂(yōu)

“ChatGPT很好玩，但它不是作者”，這是《Science》期刊主編Holden Thorp在1月26日發(fā)表的一篇關(guān)于人工智能的社論。Holden Thorp指出，“原創(chuàng )”是Science發(fā)表論文的基礎，而利用ChatGPT編寫(xiě)文本的行為，等同于從ChatGPT中抄襲。

“我們正在更新編輯政策，要求作者不要使用ChatGPT（或任何其他人工智能工具）生成的文本、數據、圖像或是圖形。違反這一政策將被Science期刊視為學(xué)術(shù)不端行為，這與篡改圖像或抄襲無(wú)異。”不過(guò)Holden Thorp也表示，上述規定并不包含AI論文中以研究為目的生成的數據。

在A(yíng)I學(xué)界，知名機器學(xué)習會(huì )議之一的ICML（International Conference on Machine Learning）最近也宣布禁止“發(fā)表包含從大型語(yǔ)言模型（LLM，Large Language Model）生成的文本（例如 ChatGPT）的論文（相關(guān)研究除外）”，以免出現“意想不到的后果和無(wú)法解決的問(wèn)題”。

對于學(xué)術(shù)期刊和頂會(huì )論文來(lái)說(shuō)，AI生成的內容最大的問(wèn)題在于知識權屬和責任確定問(wèn)題。作為論文作者，研究人員無(wú)疑要對論文的觀(guān)點(diǎn)和內容負責，而AI要如何對文章內容負責？如果AI生成的內容出現了謬誤、不恰當、造假，甚至是抄襲剽竊，又該如何追責呢？

考慮到“AI作弊”帶來(lái)的普遍問(wèn)題，目前從OpenAI官方，到學(xué)術(shù)期刊出版商，以及“草根”開(kāi)發(fā)者都在研究如何分辨一篇文章的“作者”到底是人還是機？

目前，OpenAI正在研發(fā)相應的AI檢測工具。OpenAI客座研究員Scott Aaronson在德克薩斯大學(xué)的一次演講中表示，他們正在通過(guò)給AI生成內容打“水印”來(lái)打擊作弊。這項技術(shù)將通過(guò)調整ChatGPT生成單詞的規則，在生成內容的特定位置制造“偽隨機”的特定單詞，讀者很難察覺(jué)，但就如同密電碼一樣，“握有密鑰”的人就輕易判斷這篇內容是否是ChatGPT生成的了。

《Nature》的出版商Springer Nature也正在開(kāi)發(fā)可以檢測LLM的技術(shù)。而就在前不久，普林斯頓大學(xué)的一位22歲的華裔學(xué)生Edward Tian研究出了一款專(zhuān)門(mén)給ChatGPT挑毛病的應用GPTZero，可以通過(guò)檢測文本的“困惑性（Perplexity）”和“突發(fā)性（Burstiness）”這兩項指標，來(lái)判斷內容是人類(lèi)創(chuàng )作還是機器生成。

AI引發(fā)版權問(wèn)題

在校外，AI本身的“道德”問(wèn)題，則讓美術(shù)“老師”們對新生的AI繪圖工具提出了嚴重的質(zhì)疑，這直指另一個(gè)至關(guān)重要的問(wèn)題——版權。

自從AIGC火了以后，很多行業(yè)的配圖工作變得輕松了許多。以媒體行業(yè)為例，嚴肅媒體對新聞配圖要求高，既要符合文意，又要對版權負責。所以無(wú)論是美術(shù)作品還是照片，要么是親手創(chuàng )作，要么來(lái)自授權圖庫，但很多文章受客觀(guān)條件限制，要找到一張符合要求的配圖并不容易。

有了AI繪圖以后，很多媒體人開(kāi)始嘗試用AI畫(huà)配圖，甚至是直接繪制新聞人物的肖像。那發(fā)自己用AI做的圖，總不會(huì )侵權吧？這個(gè)問(wèn)題，還真不一定。

2022年下半年，AIGC剛剛躥紅，就有一些小有名氣的藝術(shù)家對AI繪圖提出了抗議。2022年，Erin Hanson等眾多美國藝術(shù)家發(fā)起了反對Stable Diffusion的抗議行動(dòng)，他們認為Stable Diffusion生成的部分畫(huà)作抄襲了他們的風(fēng)格，而這種行為嚴重侵犯了他們的合法權益。

AIGC雖然叫做AI生成，但其本身并沒(méi)有創(chuàng )造能力，只能通過(guò)不斷學(xué)習人類(lèi)的生產(chǎn)過(guò)程，照貓畫(huà)虎，AI繪圖就是典型。在A(yíng)I訓練過(guò)程中，需要“投喂”大量的人類(lèi)畫(huà)作，從而學(xué)習人類(lèi)的構圖、繪畫(huà)技巧，實(shí)現AIGC（AI Generative Content，AI生成內容）。

不過(guò)在這個(gè)生成的過(guò)程中，AI學(xué)的實(shí)在太像了，以至于很多畫(huà)作直接與模型庫中的人類(lèi)畫(huà)師風(fēng)格完全一致。

“稍有名氣的畫(huà)師可能都遇到過(guò)作品被盜用、創(chuàng )意被侵權的事件?！币晃粐鴥饶持螒蚬镜拿佬g(shù)總監向虎嗅表示，雖然AI沒(méi)有完全盜用畫(huà)師的作品，但畫(huà)師對風(fēng)格上的抄襲也是很難接受的，不論抄襲者是人類(lèi)還是AI?！叭绻腥四弥?zhù)與我繪圖風(fēng)格完全一樣的畫(huà)，說(shuō)是學(xué)習或是參考我覺(jué)得沒(méi)什么。但如果說(shuō)這是他‘生成’的，那就跟聲明原創(chuàng )沒(méi)什么差別了。不管是否用于商業(yè)用途，我都會(huì )覺(jué)得被嚴重冒犯了?！?/p>

AI的抄襲、剽竊和作弊不應該只是道德問(wèn)題，還需要法律法規的約束。而目前，AI在很多領(lǐng)域都存在法律盲區。

我國AI領(lǐng)域的立法還處于建章立制階段。當前已經(jīng)出臺了兩部與AI相關(guān)的監管條例，分別是《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》，并均已開(kāi)始生效。除此以外，還有一些分散在《民法典》、《數據安全法》、《網(wǎng)絡(luò )安全法》、《個(gè)保法》、《網(wǎng)絡(luò )音視頻信息服務(wù)管理規定》、《網(wǎng)絡(luò )信息內容生態(tài)治理規定》等法律法規中的個(gè)別條款規定以及一些支持產(chǎn)業(yè)發(fā)展性質(zhì)的文件，目前來(lái)說(shuō)還沒(méi)有成為一個(gè)完整的體系。

“AI生成內容是一項新興的技術(shù)，法律的滯后性和穩定性導致目前還沒(méi)有專(zhuān)門(mén)對這種AI疑似抄襲的現象進(jìn)行規制?！庇^(guān)韜中茂律師事務(wù)所合伙人王渝偉表示，從國外行業(yè)實(shí)踐來(lái)看，越來(lái)越多的平臺和AI繪圖工具對作品版權作出了嚴格要求，謹防AI抄襲導致著(zhù)作權侵權。在我國，目前還是應當根據《著(zhù)作權法》，判斷AI生成內容與人類(lèi)藝術(shù)家作品之間是否存在實(shí)質(zhì)性相似，進(jìn)而認定是否抄襲。

除了涉嫌抄襲藝術(shù)家作品的AIGC內容，在另一方面，即使是隨機生成的內容及畫(huà)作，也還是會(huì )涉及版權問(wèn)題。

AI繪圖在抖音和小紅書(shū)上剛剛興起之時(shí)，即有腦洞大開(kāi)的網(wǎng)友提出，可以把AI生成的圖片掛到付費圖庫作為收費資源，實(shí)現“躺賺”。

面對這樣的騷操作，Adobe選擇“有限制”地開(kāi)放AI繪圖。只要符合特定標準，就允許在圖片庫Adobe Stock中上傳生成式 AI 藝術(shù)品進(jìn)行售賣(mài)。但上傳前必須標記 AI 制作的內容，并且需要擁有其參考圖像或文本的商業(yè)版權。

作為一款開(kāi)源模型，Stable diffusion的開(kāi)發(fā)者Stability AI和RunwayML則認為既然開(kāi)源，那么它也應該依此引用開(kāi)源CC0協(xié)議，即版權歸公，同時(shí)任何人也可以自由地使用，包括商業(yè)使用。而對于DALL-E 2和Midjourney這樣并未開(kāi)源的AIGC模型來(lái)說(shuō)，生成內容的權屬則相對模糊。

目前AIGC市場(chǎng)上也存在很多版權亂象，一些基于Stable Diffusion開(kāi)發(fā)應用的廠(chǎng)商聲稱(chēng)，使用自己AI程序生成的圖片版權歸自己，甚至依此生產(chǎn)NFT向使用者兜售。

對此，王渝偉認為，AI應用的使用者，在使用這種應用進(jìn)行創(chuàng )作時(shí)，生成的圖片如果符合獨創(chuàng )性的要件，就能夠構成《著(zhù)作權法》上的作品。而廠(chǎng)商已明確告知了使用者著(zhù)作權的歸屬問(wèn)題，相當于在合同中已經(jīng)進(jìn)行了約定，所以這種作品的著(zhù)作權應當歸屬于廠(chǎng)商。?并不是說(shuō)AI應用基于開(kāi)源模型開(kāi)發(fā)，它所生成的作品就不存在著(zhù)作權，還是應當根據《著(zhù)作權法》的規定判定著(zhù)作權歸屬。

“目前相關(guān)法律制定最大的障礙和阻力，可能是法律如何保持科技發(fā)展和倫理價(jià)值的平衡?！蓖跤鍌ヌ岢?，一方面，AI技術(shù)的高速發(fā)展，可能會(huì )與人類(lèi)的基本倫理認知相違背，違反社會(huì )公序良俗；另一方面，法律的規制也不能對AI技術(shù)設置過(guò)于嚴苛的標準，影響AI的進(jìn)一步發(fā)展。

本文作者：齊健，來(lái)源：虎嗅APP，原文標題：《ChatGPT很厲害，但還有關(guān)鍵問(wèn)題懸而未決》

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞： 管理規定 政治學(xué)院 信息服務(wù)