聲明：該文章來自（安全喵喵站）版權由原作者所有，K2OS渲染引擎提供網(wǎng)頁加速服務。

2023年7月12日，Cove，一家利用人工智能進行內(nèi)容安全審核的初創(chuàng)公司，近期得到了Thrive Capital、Sound Ventures、Common Sense Growth、Neo、Elad Gil、Scott Forstall以及來自Stripe、Figma、Notion、Dropbox、Retool和Vanta的天使投資者的支持，獲得580萬美元的融資。

隨著最近人工智能取得的驚人進步帶來的安全風險，以及全球公共機構信任的侵蝕，需要將安全性融入在線生態(tài)系統(tǒng)的核心。這就是Cove的愿景。

在2015年到2021年期間，Cove的團隊在Meta構建了內(nèi)容安全系統(tǒng)，以防止選舉干擾、虛假信息傳播、仇恨、暴力和騷擾。出于對所解決問題的緊迫性深感觸動，并對共同創(chuàng)造的解決方案的影響深感自豪，Cove團隊從這些經(jīng)驗中汲取了教訓，并決定構建一個利用尖端人工智能幫助各種規(guī)模的企業(yè)保護其用戶的平臺。

Cove將“信任與安全”任務簡化為最簡單的形式：自然語言和手動標記。用戶將平臺的政策提供給Cove，Cove將帶用戶完成一個引導式標記工作流程，然后將用戶的政策和標記轉(zhuǎn)化為一個強大的、由人工智能驅(qū)動的“信任與安全”解決方案，專門為用戶的平臺設計。經(jīng)過簡單的集成后，用戶將不再需要編寫任何一行代碼。Cove稱每月處理超過15億條內(nèi)容，并幫助客戶將手動審核成本降低了80%。

所有在線平臺面臨的問題

如今，每個在線平臺都需要強大的內(nèi)容安全工具，但除了巨型社交網(wǎng)絡外，很少有公司擁有資源或?qū)I(yè)知識來部署世界一流的解決方案。從約會應用和游戲服務，到市場和生成式人工智能產(chǎn)品，當今成功和新興的平臺通常以社交和內(nèi)容驅(qū)動為默認。安全必須被視為核心功能，以確保平臺能夠保護其用戶免受傷害，提高用戶體驗，確保符合監(jiān)管要求并建立信任。

部署世界一流的信任與安全解決方案面臨幾個挑戰(zhàn)：工程成本：在規(guī)模上部署和維護信任與安全服務需要大量的工程和技術人力投入。運營成本：除了工程投入外，平臺還需要雇傭團隊進行手動審核內(nèi)容，運營團隊管理審核流程，并建立內(nèi)容準則。人力成本：審核仇恨言論、暴力、騷擾和其他有害內(nèi)容給審核員帶來沉重的心理負擔。合規(guī)成本：平臺監(jiān)管法規(guī)如數(shù)字服務法案、在線安全法案、COPPA和18 U.S.C. §2258A對平臺施加了繁重的要求，需要進行實質(zhì)性的法律和工程投資。變更和維護成本：社交平臺上的對話實時變化。每次功能變更或?qū)υ拑?nèi)容發(fā)生重大變化時，安全解決方案需要更新，觸發(fā)額外的工程需求。

Cove利用人工智能技術，使任何規(guī)模的公司都能在不編寫代碼的情況下構建世界一流的安全解決方案。賦予客戶權力，讓他們能夠創(chuàng)建適合其平臺的定制化解決方案，而無需承擔如今讓信任與安全變得如此困難的技術、運營和財務負擔。

這個解決方案既可訪問又可定制

信任與安全的解決方案必須仔細地針對每個平臺進行定制才能發(fā)揮效用。約會應用中的消息與時尚網(wǎng)站上的產(chǎn)品評論或游戲直播中的對話截然不同，而世界各地的用戶都有自己的文化規(guī)范和期望。Cove使客戶能夠構建定制的AI模型，利用其自身的數(shù)據(jù)進行訓練，以優(yōu)化適應其特定平臺的需求和用戶。

不斷發(fā)展的企業(yè)可以使用Cove的兩個無代碼產(chǎn)品：Cove AI和Cove Platform。

Cove AI使客戶能夠使用簡單的英文描述來訓練機器學習模型，使用其平臺上的數(shù)據(jù)。然后，這些機器學習模型可以幫助客戶檢測違反其政策的內(nèi)容，而Cove則采用主動學習來不斷改進這些模型。Cove Platform提供了額外的工具，以圍繞機器學習模型構建一個強大的自動化信任與安全解決方案。這包括一個基于邏輯的規(guī)則界面，一個內(nèi)容審核平臺，將審核員的決策反饋到客戶的機器學習模型中，以及用于測量、實驗、調(diào)查和合規(guī)的工具。

Cove Platform支持文本、音頻、圖像和視頻內(nèi)容，而Cove AI目前僅支持文本和音頻。Cove稱正在努力為圖像和視頻提供人工智能支持，這將很快實現(xiàn)。

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關注數(shù)據(jù)與安全，洞悉企業(yè)級服務市場：https://www.ijiandao.com/