(資料圖片)

周二，人工智能研究初創(chuàng )公司OpenAI推出了一款工具，可以弄清文本是由人類(lèi)撰寫(xiě)的還是由計算機生成的。

兩個(gè)月前，OpenAI推出的聊天機器人ChatGPT吸引了公眾的注意，ChatGPT可以根據人的提示生成看起來(lái)似乎是由人撰寫(xiě)的文本。在引發(fā)了一波關(guān)注之后，微軟(MSFT.US)上周宣布，對OpenAI進(jìn)行數十億美元的投資，并表示將把這家初創(chuàng )公司的人工智能模型整合到其面向消費者和企業(yè)的產(chǎn)品中。

學(xué)校很快就限制使用ChatGPT，擔心這一軟件會(huì )影響學(xué)生學(xué)習。OpenAI的CEO Sam Altman表示，過(guò)去，在計算器等技術(shù)出現后，教育也發(fā)生了變化，但他也表示，公司可能有辦法幫助教師識別人工智能撰寫(xiě)的文本。

該公司員工Jan Hendrik Kirchner、Lama Ahmad、Scott Aaronson和Jan Leike在一篇博文中寫(xiě)道，“OpenAI的新工具可能會(huì )出錯，這是一項正在進(jìn)行中的工作，公司希望家長(cháng)和老師對分類(lèi)器提出反饋”。

這些OpenAI員工寫(xiě)道，“在我們對英語(yǔ)文本的‘挑戰集’評估中，我們的分類(lèi)器正確地將26%的人工智能撰寫(xiě)的文本(真陽(yáng)性)識別為‘可能是人工智能撰寫(xiě)的’，而將人類(lèi)撰寫(xiě)的文本錯誤地標記為人工智能撰寫(xiě)的文本的比例為9%(假陽(yáng)性)”。

這并非是人們首次嘗試確定文本是否是由機器生成的。本月早些時(shí)候，普林斯頓大學(xué)學(xué)生Edward Tian發(fā)布了一個(gè)名為GPTZero的工具，并在發(fā)布工具的網(wǎng)站上指出，這是為教育工作者而制作的。OpenAI自己也在2019年發(fā)布過(guò)一個(gè)檢測器，但它沒(méi)有ChatGPT的核心內容那么復雜。員工們寫(xiě)道，新版本更適合處理來(lái)自最新人工智能系統生成的文本。

新工具不擅長(cháng)分析少于1000個(gè)字符的文本，而且OpenAI不建議將其用于英語(yǔ)以外的其他語(yǔ)言。另外，員工們寫(xiě)道，可以對人工智能生成的文本稍作更新，使分類(lèi)器無(wú)法正確判斷它是否主要是由人類(lèi)撰寫(xiě)的。

即使早在2019年，OpenAI就明確表示，識別合成文本并非易事。公司打算繼續克服這方面的挑戰。員工們寫(xiě)道，“我們將繼續進(jìn)行檢測人工智能生成的文本方面的工作，我們希望在未來(lái)分享改進(jìn)的方法”。

關(guān)鍵詞： OpenAI 智通財經(jīng)網(wǎng)