IT資訊
當前位置:草根網 > IT資訊 >  大數據

OpenAI發布完整版自動文本生成系統,專家擔憂被濫用

2019-11-16 22:10:24 網易科技 小小 編輯:草根 瀏覽數:45草根網

11月8日消息,據外媒報道,人工智能研發組織OpenAI日前發布了其完整版的自動文本生成AI系統,專家警告稱該系統可能被用于惡意目的。OpenAI最初在今年2月宣布了名為GPT-2的系統,但由于擔心它會被用來傳播假新聞、...

11月8日消息,據外媒報道,人工智能研發組織OpenAI日前發布了其完整版的自動文本生成AI系統,專家警告稱該系統可能被用于惡意目的。

OpenAI最初在今年2月宣布了名為GPT-2的系統,但由于擔心它會被用來傳播假新聞、垃圾郵件和虛假信息,因此保留了該程序的完整版本。但該機構發布了不太復雜的GPT-2簡化版本,借此研究人們對其接受情況。OpenAI現在表示,該組織沒有看到GPT-2“被濫用的確鑿證據”,為此決定發布其完整版本。

GPT-2是新一代文本生成系統的一部分,這些系統給專家留下了深刻印象,它們能夠從最少的提示中生成連貫的文本。該系統接受了從網上抓取的800萬份文本文檔的培訓,并對用戶提供的文本片斷作出響應。例如,給它個假標題,它就能寫出新聞報道;給它一首詩的第一行,它就能續寫整首詩。

要弄清楚GPT-2的輸出有多好有點兒困難,但該模型經常產生既令人害怕又令人信服的文字,這些文字常常會給人一種充滿智慧的感覺。不過,隨著使用這個系統的時間足夠長,它的局限性也變得很明顯,尤其是其面臨長期一致性的挑戰。例如,在故事中始終如一地使用同樣的人名或堅持某個角色獨有的個性。

除了推出GPT-2的更多原始功能外,該模型的發布也是關于AI研究人員減輕其工作造成傷害的責任的持續辯論的一部分。專家指出,容易獲得的尖端AI工具可能也更容易濫用。例如,我們已經看到使用深度偽造(deepfakes)來生成復仇色情內容的趨勢。由于這種擔憂,OpenAI限制了其模型的發布。

然而,并不是每個人都對OpenAI的做法表示歡迎。許多專家批評這一決定,稱此舉限制了其他人可以為減輕該模型危害而進行的研究,而且它也引發了關于“AI危險”的不必要炒作。研究人員Delip Rao曾說:“‘太危險’這個詞在沒有經過深思熟慮或實驗的情況下就被隨意拋出了。我不認為OpenAI花了足夠的時間來證明GPT-2真是危險的。”

在本周發布的完整版中,OpenAI指出,GPT-2可能被誤用,該組織還援引第三方研究稱,該系統可能有助于對極端意識形態立場進行“廣泛宣傳”。它也承認,擔心該系統會被用來產生大量連貫的垃圾郵件,使社交媒體等在線信息系統不堪重負,但這些擔心尚未成為現實。

OpenAI還指出,其研究人員已經創建了自動系統,可以約95%的準確率識別GPT-2的輸出內容,但這個數字還不夠高,不足以進行“獨立檢測”,這意味著任何用于自動識別假文本的系統都需要與人類審核人員配合。這類合作并不罕見,因為這些任務經常依賴于人類來識別假圖像和視頻。

OpenAI表示,它將繼續觀察GPT-2如何被社區和公眾使用,并將進一步制定其負責任AI研究的政策。

分享到:

版權與免責聲明:

凡未注明"稿件來源"的內容均為轉載稿,本網轉載出于傳遞更多信息的目的;如轉載稿涉及版權問題,請作者聯系我們,同時對于用戶評論等信息,本網并不意味著贊同其觀點或證實其內容的真實性;


本文地址:http://www.qqoanp.live/news/2019/11/16/62347742.html

轉載本站原創文章請注明來源:草根網

行業聚焦

vivo V17海外正式發布:它是更名的S1 Pro

IT之家11月23日消息 ,在今年8月和9月海外宣布V17 Neo和V17 Pro兩款手機之后,今天vivo在俄羅斯正式宣布推出V17。實際上,這不完全是一部新...[詳細]

行業第二梯隊黑馬,京東支付布局生活消費場景

據艾瑞咨詢上半年發布第三方移動支付數據顯示,支付寶和微信現已占據我國移動支付市場近94%市場份額,第二梯隊支付企業正在尋找差異化發展道路,在雙寡格局下試圖突圍。...[詳細]

傳恒大健康向瑞典車企NEVS增資30億美元

近日,有消息稱,恒大健康發布公告稱,Mini Minor與National Modern訂立投資協議,以總認購價5399億瑞典克朗(約4.39億港元)認購NEV...[詳細]

特斯拉皮卡外觀為何如此“詭異”?

這幾天微博總能刷到一個其貌不揚的“大鐵疙瘩”,沒錯,這就是特斯拉最新的發布的電動皮卡——Cybertruck。果不其然,該皮卡亮相后就因奇異的外觀引起了人們的討...[詳細]

Realme宣布其首款5G手機名為“真我X50” 支持SA/NSA雙模5G

據國外媒體報道,手機廠商Realme宣布其首款5G手機名為“真我X50”,這款手機將支持SA/NSA雙模5G。Realme的首席營銷官(CMO)徐起解釋了這款手...[詳細]

科技趨勢

更多

紫光展銳舉行媒體溝通會 對5G和Wi

 

近日,紫光展銳媒體溝通會泛連接專場在深圳舉行,紫光展銳執行副總裁王瀧對紫光展銳在泛連接領域目前的戰略規劃,以及5G和Wi...[詳細]

手機云游戲:5G為阿里、騰訊開辟的新戰場

 

鳳凰網科技訊北京時間11月4日消息,11月1日,中國三大運營商的5G套餐已經上線。在全球最大電子游戲市場中國,5G的快速...[詳細]

王者榮耀新英豪官宣魯班七號之父魯班大師行將上線

 

11月3日,昨日,《王者榮耀》官方正式宣告:來自稷下的六臂黑科技峽谷電焊工魯班大師行將上線了。依據官方的介紹,魯班大師是...[詳細]

《英雄聯盟》2019年度頒獎盛典獎項提名正式公布:FPX戰隊獲多項提名

 

IT之家11月19日消息 《英雄聯盟》賽事官微今日正式公布了《英雄聯盟》2019年度頒獎盛典獎項提名名單,其中斬獲S9全...[詳細]

Win10 Version 2004將移除自動登錄選項

 

那些升級至Windows 10 Build 19033的用戶可能已經注意到,微軟已經移除了自動登錄選項。在某些情況下,自...[詳細]

一周排行每月關注
性感沙滩走势图 3d开奖结果走势图 网络百人牛牛能赢吗 辽宁11选5胆拖计算器 官方彩票手机投注网站 棋牌龙虎怎么刷流水稳定 重庆时时彩计划群 福建31选7开奖结果今晚 上海快3开奖结果爱彩乐 中国福彩35选7 安徽时时彩快3遗漏号 合买彩票的广告 vr吃鸡游戏叫什么 代缴公积金公司赚钱吗 魔域亡灵巫师赚钱 pc蛋蛋神测网 青海11选5预测第58期