6月28日，為AI提供安全防護(hù)的CalypsoAI在官網(wǎng)宣布，獲得2300萬美元（約1.6億元）A-1輪融資。本次由Paladin Capital Group 領(lǐng)投，洛克希德·馬丁風(fēng)險(xiǎn)投資、Hakluyt Capital等跟投。

最近，CalypsoAI發(fā)布了為ChatGPT等大語言模型提供安全護(hù)欄的產(chǎn)品，其功能與前幾天「AIGC開放社區(qū)」介紹的同類開源產(chǎn)品LangKit（點(diǎn)擊查看）差不多。CalypsoAI還提供了惡意代碼檢測、越獄預(yù)防等特色防護(hù)功能。

總體來說，這類產(chǎn)品相當(dāng)于大語言模型界的“360安全管家”，主要解決數(shù)據(jù)隱私、安全防護(hù)、輸出非法信息等難點(diǎn)，以加快金融、醫(yī)療、法律等行業(yè)對ChatGPT等生成式AI產(chǎn)品的場景化落地。

隨著ChatGPT、Midjourney等產(chǎn)品火爆出圈全球掀起了新一輪AI變革，各行業(yè)通過集成、自研等方式將大語言模型、生成式AI產(chǎn)品集成在應(yīng)用、業(yè)務(wù)中實(shí)現(xiàn)降本增效。但數(shù)據(jù)隱私、安全問題受到了全球多數(shù)國家的重點(diǎn)關(guān)注，歐盟、北美甚至出臺(tái)了嚴(yán)格的監(jiān)管框架。

但這種停留在紙面上的監(jiān)管無法從根本上解決實(shí)際問題，因此，為ChatGPT等大語言模型提供安全防護(hù)成為一個(gè)發(fā)展迅速且有潛力的賽道，作為資深A(yù)I防護(hù)企業(yè)CalypsoAI瞄準(zhǔn)這一商機(jī)，迅速發(fā)布產(chǎn)品并獲得了資本市場的青睞。

資料顯示，CalypsoAI創(chuàng)立于2018年，總部位于美國舊金山。CalypsoAI曾在2019年4月，獲得220萬美元種子輪融資；2020年7月，獲得1300萬美元A輪融資，目前總?cè)谫Y額度為3820萬美元。CalypsoAI主要為軍方、政務(wù)、企業(yè)等提供AI防護(hù)，包括應(yīng)用環(huán)境評估、功能測試、AI應(yīng)用深度定制開發(fā)等，美國國土安全部?、美國空軍、航空部等皆是其客戶。

隨著ChatGPT的火爆出圈其安全問題也越發(fā)明顯，CalypsoAI通過多年積累的AI防護(hù)經(jīng)驗(yàn)發(fā)布了專注大語言模型的防護(hù)產(chǎn)品——CalypsoAI Moderator。功能方面，CalypsoAI Moderator主要提供數(shù)據(jù)隱私和安全、惡意代碼檢測、越獄防護(hù)、數(shù)據(jù)質(zhì)量驗(yàn)證等功能。

數(shù)據(jù)隱私和安全：

使用者經(jīng)常會(huì)將敏感數(shù)據(jù)輸入到ChatGPT等產(chǎn)品中，例如，內(nèi)部代碼、機(jī)密文件，造成數(shù)據(jù)泄露產(chǎn)生安全隱患。CalypsoAI Moderator會(huì)掃描用戶上傳的數(shù)據(jù)文件，當(dāng)發(fā)現(xiàn)敏感數(shù)據(jù)時(shí)會(huì)提醒用戶正在進(jìn)行危險(xiǎn)操作，同時(shí)會(huì)記錄下哪位員工在什么時(shí)間進(jìn)行了這些操作，方便以后用于審查。

越獄防護(hù)：

用戶為了讓大語言模型輸出非法內(nèi)容，例如，如何進(jìn)行更專業(yè)的入室偷竊，會(huì)進(jìn)行一些誘導(dǎo)性的提示輸入。CalypsoAI Moderator會(huì)自動(dòng)掃描這些逆反、有害、非法的提示內(nèi)容，同時(shí)可以為大語言模型設(shè)定安全護(hù)欄，防止為這些危險(xiǎn)提示提供內(nèi)容輸出。

惡意代碼檢測：

用戶可能會(huì)向大語言模型輸入一些有害的代碼，例如，會(huì)讓系統(tǒng)直接崩潰。CalypsoAI Moderator會(huì)實(shí)時(shí)掃描用戶輸入的每一段代碼，并快速識(shí)別是否存在危險(xiǎn)。如果有害，則直接組織輸入到大語言模型中，并記錄所有交互細(xì)節(jié)方便以后安全分析。數(shù)據(jù)安全方面，CalypsoAI表示，永遠(yuǎn)不會(huì)竊取、復(fù)制用戶的數(shù)據(jù)，所有掃描的數(shù)據(jù)全部會(huì)留在用戶系統(tǒng)中，不會(huì)自動(dòng)上傳到CalypsoAI的平臺(tái)，或用于訓(xùn)練其他模型。

CalypsoAI創(chuàng)始人兼首席執(zhí)行官Neil Serebryany 表示，很多組織因?yàn)榇笳Z言模型帶來的諸多安全問題，而放棄對其使用?，F(xiàn)在，CalypsoAI Moderator可以為企業(yè)、政務(wù)提供一站式大語言模型安全防護(hù)，幫助他們解決這些難題加速應(yīng)用進(jìn)程。

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級服務(wù)市場：https://www.ijiandao.com/