OpenAI 畢竟無法判斷某些東西是否是由 AI 編寫的

OpenAI 畢竟無法判斷某些東西是否是由 AI 編寫的

由於準確率較低,OpenAI 關閉了一款本應區分人類書寫和人工智能的工具。 OpenAI 在一篇 (更新的) 博客中表示,它決定從 7月 20日起終止其 AI 分類器。 該公司表示:”我們正在努力吸收反饋,目前正在研究更有效的文本來源技術”。

OpenAI 表示,在關閉捕捉 AI 生成寫作的工具時,它計劃 “開發和部署機制,使用戶能夠了解音頻或視覺內容是否是 AI 生成的”。 不過目前還沒有關於這些機制可能是什麼的消息。

OpenAI 完全承認分類器從來都不擅長捕捉人工智能生成的文本,並警告說它可能會出現誤報,即標記為人工智能生成的人類編寫的文本。 OpenAI 在添加關閉該工具的更新之前表示,通過更多數據,分類器可以變得更好。

在 OpenAI 的 ChatGPT 橫空出世並成為有史以來增長最快的應用程序之一後,人們爭相掌握這項技術。 多個部門對人工智能生成的文本和藝術發出了警報,特別是教育工作者,他們擔心學生不再學習,而只是讓 ChatGPT 寫作業。 出於對準確性、安全性和作弊的擔憂,紐約的學校甚至禁止在校園內使用 ChatGPT。

通過人工智能傳播的錯誤信息也一直是一個令人擔憂的問題,研究表明人工智能生成的文本(例如推文)可能比人類編寫的文本更有說服力。 各國政府尚未弄清楚如何控制人工智能,到目前為止,它們正在留給各個團體和組織製定自己的規則並製定自己的保護措施,以應對計算機生成文本的衝擊。 目前看來,沒有人,甚至是最初幫助掀起生成式人工智能熱潮的公司,都知道如何應對這一切。 儘管有些人會被抓住,但輕鬆地區分人工智能和人類工作只會變得更加困難。

最近,在美國聯邦貿易委員會正在調查 OpenAI 以了解其如何審查信息和數據之際,OpenAI 也失去了其信任和安全領導者的地位。 OpenAI 拒絕在其博客文章之外發表評論。

原文轉自

記得 LIKE 我地 facebook 、Share、follow IG 同支持最潮及最新資訊既 《飛聞CHILL流誌》 🙏🏻🙏🏻🙏🏻

%d 位部落客按了讚: