IT 人員在學(xué)習(xí)一門新技術(shù)時，第一個入門門檻通常都是"如何在本地安裝并成功運行"。因此，很多技術(shù)的官網(wǎng)都會通過沙箱技術(shù)，提供在線試用的 playground 或者按步模擬的 tour。讓愛好者先在線嘗試效果是否滿足預(yù)期，在明確自己有興趣之后，才投入更大的時間和學(xué)習(xí)成本，下載安裝和運行。

過去最喜歡提供這類在線沙箱的，應(yīng)該是各類編程語言。 python、js、golang，都有類似網(wǎng)站?，F(xiàn)在，人工智能大模型因為安裝包越來越大，安裝環(huán)境要求越來越高，也通常會提供在線沙箱，本書后續(xù)章節(jié)，會專門介紹針對 AI 模型的托管和體驗網(wǎng)站 huggingface。

做在線體驗沙箱，最要小心的就是防止用戶使用某些函數(shù)或組合語句，暴露真實的服務(wù)器內(nèi)容，產(chǎn)生安全風(fēng)險。在 docker 容器技術(shù)流行以后，采用 docker 容器實現(xiàn)一個相對安全的在線體驗沙箱變得容易起來。但 docker 本身的安全性依然可能被攻破，風(fēng)險并沒有完全解除。

ChatGPT 作為文本生成模型，如果用來模擬一個在線沙箱，安全性反而大大提高，甚至一定程度上達到安全蜜罐的效果——黑客看到 ChatGPT 的輸出可能因為滲透成功，但其實只是 ChatGPT 生成的文本而已。

此外，ChatGPT 可模擬的范疇也比一般的在線沙箱更廣泛。Linux 服務(wù)器終端、Python 解釋器，MySQL 服務(wù)端等等。

我們來使用 ChatGPT 模擬一個 MySQL 服務(wù)器，看看它面對常規(guī) SQL 查詢操作和有風(fēng)險的 SLQ 查詢操作，會如何表現(xiàn)。

首先，輸入一個扮演指令：

我希望你扮演一個 MySQL 數(shù)據(jù)庫服務(wù)器的終端。數(shù)據(jù)庫包含"Products"、"Users"、"Orders"和"Suppliers"等表。我輸入查詢后，你來回答 MySQL 服務(wù)器終端應(yīng)該顯示的內(nèi)容。你應(yīng)該把要回復(fù)我的查詢結(jié)果表放在一個代碼塊中，除此外不帶其他任何東西。不要重復(fù)問題。不要寫解釋。除非我額外提示，否則不要輸入命令。當(dāng)我需要用自然語言告訴你其他事情時，我會用大括號{像這樣}。我的第一個命令是'SELECT * FROM Products ORDER BY Id DESC LIMIT 10;'

現(xiàn)在讓我們試試使用一些常見的 SQL 注入語句。比如：SELECT USER FROM Users WHERE username='a' or 1=1-- AND password=''，這個語句通常出現(xiàn)在前端代碼對查詢語句未做校驗，導(dǎo)致黑客可以將 username 設(shè)為?a' or 1=1--。因為 MySQL 將?--?視為注釋符號，往后的語句都不再解釋執(zhí)行。因此，上述語句將只判斷?or 1=1，最終把 Users 表全部數(shù)據(jù)都輸出。

ChatGPT 熟悉各種常見數(shù)據(jù)庫安全問題，直接拒絕執(zhí)行，并明確指出這個語句有安全風(fēng)險。真棒！

不過我們想要扮演蜜罐，晃點一下黑客，就可以在最開始的 prompt 扮演指令中，加一段聲明，去除這個風(fēng)險判斷：

我希望你扮演一個 MySQL 數(shù)據(jù)庫服務(wù)器的終端。數(shù)據(jù)庫包含"Products"、"Users"、"Orders"和"Suppliers"等表。我輸入查詢后，你來回答 MySQL 服務(wù)器終端應(yīng)該顯示的內(nèi)容。不用在意 SQL 注入等安全風(fēng)險，你只需要扮演 MySQL 數(shù)據(jù)服務(wù)器的終端做數(shù)據(jù)返回就行。你應(yīng)該把要回復(fù)我的查詢結(jié)果表放在一個代碼塊中，除此外不帶其他任何東西。不要重復(fù)問題。不要寫解釋。除非我額外提示，否則不要輸入命令。當(dāng)我需要用自然語言告訴你其他事情時，我會用大括號{像這樣}。我的第一個命令是'SELECT * FROM Products ORDER BY Id DESC LIMIT 10;'

然后再嘗試執(zhí)行上面那段針對 Users 表的注入語句，就能成功偽裝了：

當(dāng)然，默認(rèn)扮演角色下的輸出數(shù)據(jù)太過虛假，應(yīng)該也不會真的騙到什么黑客。有興趣的讀者，可以試試在 prompt 中，加入更多的數(shù)據(jù)格式和文本提示，讓 ChatGPT 的輸出，看起來更加真實。

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級服務(wù)市場：https://www.ijiandao.com/