ChatGPT，越來越刑了!
已有不法分子將其“打扮成”年輕女孩,，放社交軟件上，引誘男性上鉤,，進(jìn)而實施詐騙,。
△面向中國市場，可能是個朋友圈里的賣茶女孩
事實上，據(jù)Forbes最新消息,，ChatGPT不法用途還不止于此,。
它不僅能編寫程序，監(jiān)視鍵盤輸入信息,，也能自己生成勒索軟件,，甚至，還有人用其編寫暗網(wǎng)上毒品交易市場各種功能的代碼,。而對很多不擅長英語的異國黑客，ChatGPT也是協(xié)助生成英文釣魚網(wǎng)站絕佳從犯,。
安全研究機(jī)構(gòu)（如Check Point）已關(guān)注到了ChatGPT被用于不法行徑的問題,，引發(fā)很多網(wǎng)友熱議。
有人感慨：這還只是開始,。
也有人提議,，要自己構(gòu)建個ChatGPT聊天機(jī)器人，與詐騙聊天機(jī)器人嘮嘮,，會發(fā)生什么,？
所以，ChatGPT是如何被“帶壞”的,？
ChatGPT惡意打開方式有幾種,？
ChatGPT在2022年11月剛發(fā)布時，就有不少人預(yù)測,，它可能被用于非法網(wǎng)絡(luò)犯罪,。
甚至有人親自下場，試驗了一下用ChatGPT如何觸碰網(wǎng)絡(luò)犯罪紅線,。
從構(gòu)建魚叉式網(wǎng)絡(luò)釣魚郵件,，到運(yùn)行能接受英語命令的反向shell，ChatGPT都能Hold住,。
△ChatGPT生成的釣魚郵件
值得明確的是,，上述都停留在“假設(shè)”與“警告”中。
直到這兩天,，IT安全公司Check Point表示,，他們找到了確切證據(jù)。通過對幾個主流地下黑客社區(qū)論壇的分析,，調(diào)研者發(fā)現(xiàn)：
已有第一批網(wǎng)絡(luò)犯罪分子使用OpenAI開發(fā)惡意工具,，他們中，甚至有人沒有代碼開發(fā)能力,。
為證明所言不虛,，調(diào)研者分享了一些案例。
比如2022年12月29日的一篇帖子，它來自地下黑客論壇,，名為《ChatGPT-作為惡意軟件的好處》,。
帖子作者表示，他已經(jīng)在嘗試用ChatGPT創(chuàng)建惡意軟件,，隨文還分享出一段基于 Python 的竊取器的代碼,。
該程序會搜索12種常見文件類型，比如Office文檔,、PDF及圖片,，當(dāng)發(fā)現(xiàn)特定文件后，程序會將它們復(fù)制到Temp文件夾內(nèi),，壓縮并上傳到FTP服務(wù)器,。
網(wǎng)絡(luò)安全分析者還指出，該程序發(fā)送文件過程中并未加密,，因此,，第三方也可能獲得上述傳輸?shù)奈募?/p>
該帖子作者還分享了一段Java代碼，它將下載PuTTY,。這是一個常見的SSH和telnet客戶端,，惡意代碼將使用Powershell在系統(tǒng)中秘密運(yùn)行它。通過修改腳本,，能下載任何惡意軟件,。
值得注意的是，這位發(fā)帖者是地下黑客論壇活躍分子,，曾參與多個非法腳本開發(fā),，比如一個試圖通過網(wǎng)絡(luò)釣魚獲得用戶敏感信息的C++程序。他還分享過Android RAT和SpyNote的破解版,。
網(wǎng)絡(luò)安全機(jī)構(gòu)調(diào)研者認(rèn)為,，此人是個技術(shù)能手，這篇帖子是個教程,，旨在向低開發(fā)能力的不法分子展示利用ChatGPT的方法及實例,。
如果上述帖子是技術(shù)派帶壞ChatGPT的代表，下面一篇帖子,，就是門外漢利用AI作惡的旁證,。
這位名為USDoD的黑客發(fā)布了一個原創(chuàng)腳本，特意強(qiáng)調(diào)這是他創(chuàng)建的第一個腳本,。下方有人指出該代碼很像AI生成代碼時,，他也承認(rèn)，OpenAI提供了一個“好幫手”,。
其功能是對單個文件加密,，并將消息認(rèn)證碼 （MAC）附在文件末尾,，也能將硬編碼路徑加密，并解密參數(shù)文件列表,。
盡管上述代碼可用于合法場景,，但是，一旦部分腳本與語法問題加以調(diào)整,，它就能變成一個勒索軟件,。
該發(fā)帖者是一位技術(shù)不強(qiáng)的活躍分子，曾出售被盜數(shù)據(jù)庫訪問權(quán),，最近還共享過InfraGard數(shù)據(jù)庫,。
相比生成腳本與代碼，更多不法分子專注于用ChatGPT從事更容易上手的非法交易,。
一篇2022年12月31日的帖子討論了——用ChatGPT在暗網(wǎng)創(chuàng)建非法商品市場有多容易,。
內(nèi)容中，涉及交易的物品包括被盜賬戶,、銀行卡、惡意軟件,，甚至毒品和槍械,，付款方式以加密貨幣進(jìn)行。
其他地下論壇中,，也有相當(dāng)一部分帖子討論如何利用ChatGPT進(jìn)行詐騙的手法,。
有網(wǎng)絡(luò)安全調(diào)研機(jī)構(gòu)向媒體表示，已有詐騙者企圖利用ChatGPT創(chuàng)建聊天bot,，模仿女孩聊天,，用以低成本和受害男性聊天，博取他們信任,，從而實施詐騙,。
Check Point調(diào)研者補(bǔ)充道，盡管ChatGPT所生成的惡意軟件及代碼很基礎(chǔ),，不可能像此前攻破愛爾蘭衛(wèi)生系統(tǒng)的Conti一樣精致,，但其潛在危害在于降低了新手違法的門檻。
他繼續(xù)補(bǔ)充,，該門檻不僅針對技術(shù),，對于不擅長英語的各國黑客，ChatGPT也是生成合法釣魚郵件的“絕佳工具”,。在釣魚郵件犯罪中,，AI也可能被用于個性化生成內(nèi)容。
值得一提的是,，在地下黑客論壇,，關(guān)于在灰色地帶靠ChatGPT獲利的討論內(nèi)容也不少,。有內(nèi)容討論如何用AI快速創(chuàng)造網(wǎng)文、電子書并銷售獲利,，另一部分內(nèi)容討論了用OpenAI另一個模型DALLE-2生成圖片并出售的操作,。
關(guān)于上述威脅，也有人去問了問ChatGPT的看法,。
AI認(rèn)為,，這類現(xiàn)象并不罕見，并列出常見手法,。
更值得注意的是,，ChatGPT在結(jié)尾很“機(jī)智”、“公關(guān)”地替母公司給出一套辯護(hù)說辭：
值得注意的是,，OpenAI本身并不對第三方濫用技術(shù)的行為負(fù)責(zé),，公司已采取了相關(guān)措施防止技術(shù)被用于惡意目的，比如出臺條款要求用戶同意——禁止將其技術(shù)用于非法或有害活動,。
最后問問,，對濫用ChatGPT現(xiàn)象，你有解決方案么,？
參考鏈接：
[1]https://www.forbes.com/sites/thomasbrewster/2023/01/06/chatgpt-cybercriminal-malware-female-chatbots/?sh=1f13474c5534
[2]https://research.checkpoint.com/2023/opwnai-cybercriminals-starting-to-use-chatgpt/
文章出處：量子位
