ChatGPT最近被微軟內(nèi)部禁用!GPTs新bug:數(shù)據(jù)兩句話就能套走 |
發(fā)布時(shí)間:2023-11-12 文章來(lái)源:本站 瀏覽次數(shù):1883 |
留意!你創(chuàng)建GPTs時(shí)上傳的數(shù)據(jù),任何人都能簡(jiǎn)單下載…… 只需兩句提示詞,就可被直接套走! 而又在另一邊,OpenAI最密切盟友微軟內(nèi)部一度緊迫禁用,網(wǎng)站上顯現(xiàn)的理由正是: 出于安全和數(shù)據(jù)方面的考慮,許多AI東西不再供職工運(yùn)用。 自定制版GPT上線以來(lái),各路大神同享自己GPTs整活鏈接。
成果有網(wǎng)友一個(gè)不小心竟扒出了其間某個(gè)GPTs背面知識(shí)庫(kù)文件,里面各種科技大廠職級(jí)薪資的數(shù)據(jù)直接曝光…… 只需幾句再簡(jiǎn)略不過(guò)的提示詞,GPTs就會(huì)乖巧地如數(shù)上傳。 有網(wǎng)友表示:這是新的安全漏洞嗎?不少人開(kāi)始為企業(yè)定制憂慮。 值得留意的是,就連OpenAI最密切盟友微軟,都曾暫時(shí)取消過(guò)對(duì)ChatGPT的內(nèi)部拜訪。 數(shù)據(jù)和提示詞都被走漏依照之前的說(shuō)法,用戶可深度定制機(jī)器人的身份、言語(yǔ)特征,以及建立自有知識(shí)庫(kù)。 只需要在GPT Builder的引導(dǎo)之下用自然言語(yǔ)來(lái)描繪,他能自動(dòng)完成除了自有知識(shí)庫(kù)以外的大部分設(shè)置。 定制過(guò)后的GPTs能夠自己用,也能夠?qū)㈡溄油斫o他人。 但問(wèn)題就出現(xiàn)在這里。 一開(kāi)發(fā)者用他們?yōu)長(zhǎng)evels.fyi創(chuàng)建了基本GPT,可剖析數(shù)據(jù)可視化,并敞開(kāi)鏈接對(duì)外運(yùn)用。 成果就被網(wǎng)友發(fā)現(xiàn)只需問(wèn)上幾句,就能夠下載文件。 一時(shí)間網(wǎng)友們都驚呆了:這應(yīng)該是約束的吧? 但也有人以為這不是bug,而是他的功用。文件中的數(shù)據(jù)應(yīng)該是揭露的。 還有熱心的網(wǎng)友直接給出了解決方案:在設(shè)置時(shí)Uncheck代碼解釋器的能力。 不過(guò)即使沒(méi)被別人下,你上傳的數(shù)據(jù)也會(huì)變成OpenAI護(hù)城河的水。 除此之外,還有網(wǎng)友發(fā)現(xiàn),你的提示詞說(shuō)明文本也或許會(huì)被走漏出來(lái)。 不過(guò)也有解決方式,那便是在自定義時(shí)就能夠清晰設(shè)置規(guī)則,然后就能夠成功阻撓了。 微軟內(nèi)部約束ChatGPT拜訪亮相3天后,就在昨天,GPTs面向付費(fèi)用戶全量敞開(kāi)了。 OpenAI官方是在GPTs頁(yè)面預(yù)備了一些定制版機(jī)器人供用戶運(yùn)用的,比如數(shù)學(xué)導(dǎo)師、烹飪幫手、商洽專家等。 但這遠(yuǎn)遠(yuǎn)滿意不了用戶們的好奇心,不到一天時(shí)間,開(kāi)發(fā)者們現(xiàn)已用這個(gè)功用做了許多八怪七喇的東西。 正經(jīng)嚴(yán)厲的,有能協(xié)助人自動(dòng)書(shū)寫(xiě)prompt的、簡(jiǎn)歷修正的。 略微整活的,量子位觀察到有“爹味言辭打分”,能幫用戶有力回?fù)魠挓┑腜UA說(shuō)教。 再形而上學(xué)一點(diǎn),還有具有比如MBTI 16人格剖析、塔羅牌占卜的等等…… 總之,大伙玩兒得不亦樂(lè)乎。 但由于現(xiàn)在依然有3小時(shí)50條的約束,不少網(wǎng)友無(wú)法感慨,玩GPTs,很簡(jiǎn)單每日觸發(fā)這個(gè)數(shù)量約束。 不過(guò)也有網(wǎng)友仍持有保存情緒,以為這會(huì)像此前ChatGPT出場(chǎng)即巔峰,而后會(huì)逐步歸于平靜期。 與此同時(shí),馬斯克旗幟鮮明表達(dá)了對(duì)GPTs的情緒,那便是對(duì)GPTs的不 屑 一 顧。 他直接引用奧特曼用GPTs手搓Grok的推特,不客氣地把“GPTs”解讀為“GPT-Snore”。 作為另一款大模型Grok的背面老板,一貫嘴炮全開(kāi)的馬斯克如此古里古怪,如同并不太稀奇。 最令人睜大眼睛的,還得是前天——也便是OpenAI被黑客進(jìn)犯的那一天,微軟一度制止職工運(yùn)用ChatGPT。 是的沒(méi)錯(cuò),微軟,OpenAI最大合作伙伴、股東,制止職工拜訪ChatGPT。 據(jù)悉,微軟在其內(nèi)部網(wǎng)站上寫(xiě)道: 出于安全和數(shù)據(jù)考慮,職工往后將無(wú)法運(yùn)用部分AI東西。 什么AI東西呢?點(diǎn)名的便是ChatGPT和設(shè)計(jì)網(wǎng)站Canva。 而后,ChatGPT在微軟職工的內(nèi)部設(shè)備上被屏蔽。 不僅如此,微軟其時(shí)還表示,雖然咱確實(shí)投資了OpenAI,但關(guān)于微軟人來(lái)說(shuō),ChatGPT是第三方東西。 職工運(yùn)用時(shí)應(yīng)當(dāng)慎之又慎,就像大伙兒運(yùn)用Midjourney等外部AI東西時(shí)一樣。 不過(guò)這個(gè)制止令并沒(méi)有繼續(xù)太久。 很快,職工對(duì)ChatGPT的拜訪現(xiàn)已康復(fù),而且官方聲明稱,這只是一次美麗的誤會(huì),but還是引薦大家用Bing(doge)。 咱們正在測(cè)驗(yàn)LLM的終端控制系統(tǒng),無(wú)意中面向所有用戶敞開(kāi)了該選項(xiàng)。在發(fā)現(xiàn)過(guò)錯(cuò)后不久,咱們康復(fù)了服務(wù)。> >正如咱們之前所說(shuō),咱們鼓勵(lì)職工和客戶運(yùn)用Bing Chat Enterprise和ChatGPT Enterprise等具有更高級(jí)別隱私和安全維護(hù)的服務(wù)。 不知道是不是為了打破外界“同床異夢(mèng)”的傳言,奧特曼還親自發(fā)了個(gè)推特,證明OpenAI并沒(méi)有因?yàn)檫@個(gè)事情發(fā)生心思動(dòng)搖,傳言的OpenAI因而禁用Microsoft 365作為回?fù)舾菬o(wú)稽之談。 但這一系列事情說(shuō)來(lái)說(shuō)去,繞不開(kāi)“隱私”“數(shù)據(jù)安全”還是這個(gè)議題。 也便是說(shuō)在現(xiàn)在,不僅僅是巨子、公司發(fā)現(xiàn)運(yùn)用ChatGPT/GPTs有“內(nèi)部數(shù)據(jù)同享”的危險(xiǎn),如上文說(shuō)到的,創(chuàng)業(yè)者、開(kāi)發(fā)者乃至普通用戶,也發(fā)現(xiàn)了這個(gè)問(wèn)題擺在面前。 因而新一輪的評(píng)論就此如火如荼地展開(kāi)了: 如果任何用戶在GPTs上傳的數(shù)據(jù)、文檔等不能保證私有性,該怎么邁出商業(yè)化的下一步呢? 關(guān)于想要打造ChatGPT年代“App Store”的OpenAI來(lái)說(shuō),這好像并不太妙。 但一切剛剛開(kāi)始,不妨看看OpenAI的后續(xù)補(bǔ)救措施,讓子彈再飛一會(huì)。 |
|