新聞

OpenAI 提示老師:檢測ChatGPT生成文本的工具未必有效

很多教師都使用工具來檢測學生是否使用ChatGPT做功課,這類工具是否可信?OpenAI 最近表示不必煩惱:這些工具並不可靠。

該公司在一份新的常見問題解答(FAQ)中向教育工作者提供建議,介紹了在學校使用ChatGPT時可能遇到的問題,包括嘗試檢測AI生成文本的困境。雖然出現了一些工具來應對AI 聊天機器人幫助學生在家庭作業和考試作弊的問題,但根據OpenAI的說法,這類工具存在著許多問題。

該公司在常見問題解答中寫道:“雖然一些人(包括OpenAI)已經發布了聲稱可以檢測AI生成內容的工具,但這些工具都無法可靠地區分AI生成和人類生成的內容。”

OpenAI補充說:“一項重要發現是,這些工具有時會誤將人工撰寫的內容標記為AI生成。”該公司的調查發現,AI檢測工具可能會錯誤地將劇作家威廉·莎士比亞和《獨立宣言》等人工撰寫的文本標記為AI生成。“也有跡象表明,它可能對那些學習或正在學習英語作為第二語言以及寫作特別公式化或簡潔的學生產生不成比例的影響。”

這些結果可能會導致教師錯誤地指責學生使用ChatGPT作弊,OpenAI還指出,一些教師可能會試圖將他們懷疑是AI生成的文本輸入到ChatGPT中,並詢問它是否撰寫了該內容,但這種方法也存在缺陷,因為聊天機器人程序的記憶有限,無法回憶其他用戶的對話歷史。OpenAI甚至指出,ChatGPT有時會編造回答。

OpenAI暫時並未提供檢測ChatGPT作弊的確切解決方案。該公司主張採取一種注重透明度的方法,讓學生向教師和同學展示他們如何使用聊天機器人來回答問題。

OpenAI表示:“學生可以展示他們與AI互動的能力以及對AI系統缺陷的理解。教育工作者可以評估提出的問題質量、獲取的信息的相關性以及學生對該信息的挑戰、反查和潛在偏見的考慮。”

當然,阻止使用ChatGPT作弊其中一種方法是在學校禁止使用它,並迫使學生在沒有互聯網訪問的情況下完成作業。然而,隨著AI工具的使用將在社會中變得普遍,這強調了教導學生如何負責地使用技術的必要性。

OpenAI主張教育工作者將ChatGPT視為一種教學工具。在一篇相關的博客文章中,該公司分享了幾位教師如何與學生一起使用ChatGPT,包括將AI程序變成辯論搭檔。該博客文章還指出,可以利用ChatGPT幫助教育工作者快速為學生創建測驗、考試和課程計劃。甚至還提供了教師可以使用的幾個示例提示,以幫助他們的工作。

TechApple.com 編輯部

堅持製作專業科技內容,全員擁有多種不同技術知識的特異科技媒體團隊。 電郵:editor@techapple.com