原標(biāo)題：小程序蹭聊天機(jī)器人流量斂財(cái)

近期，ChatGPT(聊天機(jī)器人程序)火了，大家認(rèn)為這是人工智能革命的一大步，與此同時(shí)針對(duì)ChatGPT使用也出現(xiàn)了一些爭(zhēng)議。而一些“李鬼”則看到了商機(jī)，借此斂起不法之財(cái)。

調(diào)查

打著ChatGPT旗號(hào) 小程序收費(fèi)高達(dá)千元

(資料圖片僅供參考)

ChatGPT走紅后，其賬號(hào)一時(shí)在國(guó)內(nèi)多個(gè)網(wǎng)購(gòu)平臺(tái)、社交平臺(tái)上銷售火熱。在某電商平臺(tái)上售賣成品賬號(hào)的店鋪，一天之內(nèi)多達(dá)萬(wàn)人付款，價(jià)格最低2元。北京青年報(bào)記者此前曾在某網(wǎng)購(gòu)平臺(tái)獲取了ChatGPT賬號(hào)，商家隨后私聊發(fā)來(lái)賬號(hào)和密碼。登錄后，記者發(fā)現(xiàn)這是一個(gè)多人共享賬號(hào)，系統(tǒng)運(yùn)行比較緩慢。

商家表示如果需要單人賬號(hào)則需要額外收費(fèi)，價(jià)格以100元為底價(jià)，每多使用1分鐘加2元。近日，多個(gè)電商平臺(tái)對(duì)銷售ChatGPT賬號(hào)的店鋪進(jìn)行了封禁，相關(guān)關(guān)鍵詞也被屏蔽。北青報(bào)記者先前購(gòu)買賬戶的商鋪相關(guān)商品也已下架。

隨著ChatGPT的爆火，國(guó)內(nèi)一些商家嗅到了生意，一批“李鬼”就此出現(xiàn)。一些微信公眾號(hào)、小程序產(chǎn)品打著ChatGPT的旗號(hào)，獲取流量，甚至向用戶收費(fèi)，部分賬戶收費(fèi)甚至高達(dá)千元。實(shí)際上，北青報(bào)記者了解到，這些“李鬼”通過(guò)驗(yàn)證，它們與ChatGPT官方平臺(tái)回復(fù)答案完全不一致。據(jù)了解，目前，ChatGPT的開(kāi)發(fā)者、人工智能研究機(jī)構(gòu)OpenAI并沒(méi)有在中國(guó)大陸提供有關(guān)ChatGPT的服務(wù)，也沒(méi)有相應(yīng)的公司運(yùn)營(yíng)。

據(jù)了解，微信方面封禁了大多數(shù)此類相關(guān)的小程序和公眾號(hào)。2月18日下午，北青報(bào)記者搜索相關(guān)關(guān)鍵詞發(fā)現(xiàn)，以“ChatGPT”“智能問(wèn)答”等字眼作名稱的小程序已經(jīng)幾乎沒(méi)有了，但相關(guān)的公眾號(hào)仍然還有不少。其中，一個(gè)叫“超級(jí)AI問(wèn)答”的公眾號(hào)提供5次免費(fèi)提問(wèn)機(jī)會(huì)，超過(guò)5次便需要注冊(cè)會(huì)員。該會(huì)員的收費(fèi)為打折后周卡99元，月卡199元，季卡399元。

ChatGPT被誘導(dǎo)用于生成特定網(wǎng)絡(luò)釣魚郵件

北青報(bào)記者注意到，山寨版的危害可能只是蹭熱度、賺流量錢和服務(wù)費(fèi)，更需要提防的，是不法分子把ChatGPT與犯罪行為聯(lián)系在一起。據(jù)公安部官網(wǎng)發(fā)布相關(guān)信息提醒稱，目前，境外有人使用ChatGPT創(chuàng)建一個(gè)完整的感染鏈：不同以往的廣撒網(wǎng)式的網(wǎng)絡(luò)釣魚，它在提問(wèn)者的誘導(dǎo)下，可以生成針對(duì)特定人或者組織的“魚叉式”網(wǎng)絡(luò)釣魚郵件。此類釣魚郵件更具有欺騙性和迷惑性，接收者一旦點(diǎn)擊該郵件，系統(tǒng)就會(huì)被惡意代碼感染中毒。

與此同時(shí)，不法分子對(duì)ChatGPT的惡意利用，也帶來(lái)了更多的數(shù)據(jù)安全問(wèn)題。目前，外國(guó)已有相關(guān)機(jī)構(gòu)證明該機(jī)器人可能被用于編寫惡意軟件，從而逃避防病毒軟件的檢測(cè)，或利用其擬人的聊天對(duì)話功能，冒充真實(shí)的人或者組織騙取他人信息等。

案例

使用ChatGPT寫作新聞稿 導(dǎo)致錯(cuò)誤信息在網(wǎng)上傳播

研究機(jī)構(gòu)測(cè)試發(fā)現(xiàn)，如果對(duì)著ChatGPT提出充斥陰謀論和誤導(dǎo)性敘述的問(wèn)題，它能在幾秒鐘內(nèi)改編信息，產(chǎn)生大量令人信服卻沒(méi)有來(lái)源根據(jù)的內(nèi)容。一旦ChatGPT被不法分子利用，將可能導(dǎo)致ChatGPT衍生成為互聯(lián)網(wǎng)上制造和傳播網(wǎng)絡(luò)謠言的工具。

2月16日，一則“2023年3月1日起，杭州市政府將取消機(jī)動(dòng)車尾號(hào)限行政策，此舉旨在提高城市交通效率，緩解交通擁堵，方便市民出行……”的消息在網(wǎng)上瘋傳。其一板一眼的表達(dá)讓許多市民都認(rèn)為這是官方的正式通報(bào)。然而實(shí)際情況是，杭州某小區(qū)業(yè)主群討論ChatGPT，一位業(yè)主嘗試用它寫篇杭州取消限行的新聞稿，隨后在群里直播了使用ChatGPT的寫作過(guò)程，文章發(fā)在群里后經(jīng)其他業(yè)主截圖轉(zhuǎn)發(fā)，導(dǎo)致了錯(cuò)誤信息傳播。涉事業(yè)主后來(lái)在群里道歉。

分析

使用ChatGPT具有一定的法律風(fēng)險(xiǎn)

北京京師律師事務(wù)所律師雷國(guó)亞對(duì)北青報(bào)記者表示，ChatGPT火了，但其背后暴露出的人工智能法律風(fēng)險(xiǎn)，以及圍繞ChatGPT展開(kāi)的無(wú)序商業(yè)值得重視。不少人嘗試用ChatGPT寫論文、研報(bào)，甚至寫程序等，甚至一些人用來(lái)開(kāi)展商業(yè)行為。這些行為目前都具有一定的風(fēng)險(xiǎn)，比如知識(shí)產(chǎn)權(quán)問(wèn)題、原創(chuàng)性問(wèn)題等。如果確實(shí)是工作需要，使用ChatGPT寫相關(guān)內(nèi)容，必須注明測(cè)試，署名時(shí)也要標(biāo)注是ChatGPT。發(fā)布者要對(duì)自己發(fā)布內(nèi)容的真實(shí)性負(fù)責(zé)，否則將承擔(dān)相應(yīng)的法律責(zé)任。以杭州將取消機(jī)動(dòng)車尾號(hào)限行政策為例，如果該業(yè)主沒(méi)有盡到提醒的義務(wù)，造成后果是需要承擔(dān)一定的責(zé)任的。 文/本報(bào)記者 朱開(kāi)云 供圖/視覺(jué)中國(guó)

相關(guān)

微軟修改必應(yīng)機(jī)器人體驗(yàn)上限 每天50次聊天

2月17日，微軟表示，從當(dāng)日起，必應(yīng)聊天機(jī)器人體驗(yàn)的上限為每天50次聊天，每輪5次對(duì)話，一次對(duì)話包含用戶的提問(wèn)和必應(yīng)的回復(fù)。這是必應(yīng)在多次失控后，公司對(duì)其人工智能實(shí)施的對(duì)話限制。

微軟稱，很長(zhǎng)的聊天會(huì)話可能會(huì)混淆必應(yīng)中的基本聊天模式，為了解決這些問(wèn)題，微軟實(shí)施了一些更改，以幫助集中聊天會(huì)話。數(shù)據(jù)顯示，絕大多數(shù)人都能在5個(gè)回合內(nèi)找到要找的答案，只有約1%的聊天對(duì)話有50條以上的信息。聊天會(huì)話達(dá)到5個(gè)回合后，您會(huì)被提示開(kāi)始一個(gè)新的主題。在每個(gè)聊天會(huì)話結(jié)束時(shí)，需要清除上下文，這樣模型就不會(huì)被混淆。

15日，微軟公告顯示，必應(yīng)發(fā)布7天內(nèi)，已經(jīng)有71%的人對(duì)AI驅(qū)動(dòng)的答案“豎起大拇指”了。但是，如果聊天時(shí)間過(guò)久，讓它回答15個(gè)以上的問(wèn)題，它就會(huì)逐漸暴躁，給出沒(méi)有用處、或與設(shè)計(jì)的語(yǔ)氣不符的答案。

微軟表示，很長(zhǎng)的聊天會(huì)話會(huì)使模型混淆它正在回答的問(wèn)題，因此我們可能需要添加一個(gè)工具，以使您更輕松地刷新上下文，或從頭開(kāi)始。有時(shí)，在模型嘗試響應(yīng)時(shí)，可能會(huì)出現(xiàn)我們?cè)O(shè)計(jì)風(fēng)格之外的語(yǔ)氣。這是一個(gè)非常重要的場(chǎng)景，需要大量提示。你們中的大多數(shù)人不會(huì)遇到它，但我們正在研究如何進(jìn)行更精細(xì)的微調(diào)控制。

2月7日，微軟推出了整合 ChatGPT-4 的全新必應(yīng)(Bing)搜索引擎，根據(jù)微軟企業(yè)副總裁兼消費(fèi)領(lǐng)域首席營(yíng)銷官 Yusuf Mehdi發(fā)布的消息，在新版 Bing 上線 48 小時(shí)內(nèi)，已經(jīng)有超過(guò) 100 萬(wàn)申請(qǐng)加入。

文/本報(bào)記者 溫婧 統(tǒng)籌/余美英

(責(zé)編：趙竹青、陳鍵)關(guān)注公眾號(hào)：人民網(wǎng)財(cái)經(jīng)

關(guān)鍵詞：