【新唐人北京時間2023年07月29日訊】隨著生成式人工智能（AI）競賽的升溫，ChatGPT、GPT-4、Google Bard和其它新的AI服務可以創建令人信服且有用的書面內容。但如何區分文本是機器寫的，還是人寫的成為科技行業必須回答的最重要的問題之一。
AI可以使編寫內容變得更快、更容易，但也會產生錯誤和謊言。因此，開發一種方法來識別人工智能文本和人類文本尤為重要。
ChatGPT和GPT-4的創建者OpenAI不久前就意識到了這一點。1月份，它推出了一個「分類器」，以區分人類編寫的文本和來自不同製造商的人工智能編寫的文本。
OpenAI公司警示說，無法可靠地檢測到所有人工智能編寫的文本，然而，好的分類器對於解決一些情況非常重要，其中包括虛假聲稱人工智能生成的文本是由人類編寫的、運行自動錯誤信息活動，以及使用人工智能工具做作業。
但不到7個月後，該項目被取消。OpenAI 在最近的博客中寫道：「自2023年7月20日起，AI分類器由於準確率較低而不再可用。我們正在努力整合反饋，目前正在研究更有效的文本出處技術。」
一旦人類無法區分人工智能和人類文本，在線信息世界就會變得問題多多。已經有垃圾網站使用新的人工智能模型生產自動化內容並散布謊言。
如果科技公司無意中使用人工智能生成的數據來訓練新模型，一些研究人員擔心這些模型會變得更糟。他們將以自己的自動化內容為食，並導致所謂的人工智能「模型崩潰」。
研究人員一直在研究以GPT式AI模型（如GPT-4）生成的文本作為下一個模型的大部分訓練數據集時會發生什麼。他們在最近的一篇研究論文中總結道：「我們發現在訓練中使用模型生成的內容會導致生成的模型出現不可逆轉的缺陷。」
在微軟的支持下，OpenAI被認為是人工智能領域最好的。但目前OpenAI無法識別人工智能生成的內容。其它公司正在積極行動，如一家名為GPTZero的初創公司。
去年寒假，在美國普林斯頓大學讀大四的多倫多華裔男生田溯寧（Edward Tian）開發了面向ChatGPT生成內容的檢測工具GPTZero。他於1月份在網上推出了該產品，並立即大受歡迎。尤其是教育工作者發現，該工具對於檢測學生在論文和其它寫作作業中是否作弊非常有用。
雖然自GPTZero推出以來出現了更多的人工智能探測器，但它們充滿了錯誤。田溯寧和GPTZero團隊承認GPTZero也可能發生錯誤，但專注於「人類」檢測可能是解決這個問題的一種方法。
該初創公司最近推出了其最新工具「Origin」，這工具可以集成到Microsoft Word並跟蹤學生的寫作過程，以驗證它確實是由該人創作的。
田溯寧和他的團隊希望未來GPTZero的檢測範圍可以擴展到作弊檢測之外，成為更廣泛的人工智能檢測實用程序。
（記者李昭希綜合報導/責任編輯：林清）
