2023年7月12日，Cove，一家利用人工智能進(jìn)行內(nèi)容安全審核的初創(chuàng)公司，近期得到了Thrive Capital、Sound Ventures、Common Sense Growth、Neo、Elad Gil、Scott Forstall以及來自Stripe、Figma、Notion、Dropbox、Retool和Vanta的天使投資者的支持，獲得580萬美元的融資。

隨著最近人工智能取得的驚人進(jìn)步帶來的安全風(fēng)險(xiǎn)，以及全球公共機(jī)構(gòu)信任的侵蝕，需要將安全性融入在線生態(tài)系統(tǒng)的核心。這就是Cove的愿景。

在2015年到2021年期間，Cove的團(tuán)隊(duì)在Meta構(gòu)建了內(nèi)容安全系統(tǒng)，以防止選舉干擾、虛假信息傳播、仇恨、暴力和騷擾。出于對(duì)所解決問題的緊迫性深感觸動(dòng)，并對(duì)共同創(chuàng)造的解決方案的影響深感自豪，Cove團(tuán)隊(duì)從這些經(jīng)驗(yàn)中汲取了教訓(xùn)，并決定構(gòu)建一個(gè)利用尖端人工智能幫助各種規(guī)模的企業(yè)保護(hù)其用戶的平臺(tái)。

Cove將“信任與安全”任務(wù)簡化為最簡單的形式：自然語言和手動(dòng)標(biāo)記。用戶將平臺(tái)的政策提供給Cove，Cove將帶用戶完成一個(gè)引導(dǎo)式標(biāo)記工作流程，然后將用戶的政策和標(biāo)記轉(zhuǎn)化為一個(gè)強(qiáng)大的、由人工智能驅(qū)動(dòng)的“信任與安全”解決方案，專門為用戶的平臺(tái)設(shè)計(jì)。經(jīng)過簡單的集成后，用戶將不再需要編寫任何一行代碼。Cove稱每月處理超過15億條內(nèi)容，并幫助客戶將手動(dòng)審核成本降低了80%。

所有在線平臺(tái)面臨的問題

如今，每個(gè)在線平臺(tái)都需要強(qiáng)大的內(nèi)容安全工具，但除了巨型社交網(wǎng)絡(luò)外，很少有公司擁有資源或?qū)I(yè)知識(shí)來部署世界一流的解決方案。從約會(huì)應(yīng)用和游戲服務(wù)，到市場和生成式人工智能產(chǎn)品，當(dāng)今成功和新興的平臺(tái)通常以社交和內(nèi)容驅(qū)動(dòng)為默認(rèn)。安全必須被視為核心功能，以確保平臺(tái)能夠保護(hù)其用戶免受傷害，提高用戶體驗(yàn)，確保符合監(jiān)管要求并建立信任。

部署世界一流的信任與安全解決方案面臨幾個(gè)挑戰(zhàn)：工程成本：在規(guī)模上部署和維護(hù)信任與安全服務(wù)需要大量的工程和技術(shù)人力投入。運(yùn)營成本：除了工程投入外，平臺(tái)還需要雇傭團(tuán)隊(duì)進(jìn)行手動(dòng)審核內(nèi)容，運(yùn)營團(tuán)隊(duì)管理審核流程，并建立內(nèi)容準(zhǔn)則。人力成本：審核仇恨言論、暴力、騷擾和其他有害內(nèi)容給審核員帶來沉重的心理負(fù)擔(dān)。合規(guī)成本：平臺(tái)監(jiān)管法規(guī)如數(shù)字服務(wù)法案、在線安全法案、COPPA和18 U.S.C. §2258A對(duì)平臺(tái)施加了繁重的要求，需要進(jìn)行實(shí)質(zhì)性的法律和工程投資。變更和維護(hù)成本：社交平臺(tái)上的對(duì)話實(shí)時(shí)變化。每次功能變更或?qū)υ拑?nèi)容發(fā)生重大變化時(shí)，安全解決方案需要更新，觸發(fā)額外的工程需求。

Cove利用人工智能技術(shù)，使任何規(guī)模的公司都能在不編寫代碼的情況下構(gòu)建世界一流的安全解決方案。賦予客戶權(quán)力，讓他們能夠創(chuàng)建適合其平臺(tái)的定制化解決方案，而無需承擔(dān)如今讓信任與安全變得如此困難的技術(shù)、運(yùn)營和財(cái)務(wù)負(fù)擔(dān)。

這個(gè)解決方案既可訪問又可定制

信任與安全的解決方案必須仔細(xì)地針對(duì)每個(gè)平臺(tái)進(jìn)行定制才能發(fā)揮效用。約會(huì)應(yīng)用中的消息與時(shí)尚網(wǎng)站上的產(chǎn)品評(píng)論或游戲直播中的對(duì)話截然不同，而世界各地的用戶都有自己的文化規(guī)范和期望。Cove使客戶能夠構(gòu)建定制的AI模型，利用其自身的數(shù)據(jù)進(jìn)行訓(xùn)練，以優(yōu)化適應(yīng)其特定平臺(tái)的需求和用戶。

不斷發(fā)展的企業(yè)可以使用Cove的兩個(gè)無代碼產(chǎn)品：Cove AI和Cove Platform。

Cove AI使客戶能夠使用簡單的英文描述來訓(xùn)練機(jī)器學(xué)習(xí)模型，使用其平臺(tái)上的數(shù)據(jù)。然后，這些機(jī)器學(xué)習(xí)模型可以幫助客戶檢測違反其政策的內(nèi)容，而Cove則采用主動(dòng)學(xué)習(xí)來不斷改進(jìn)這些模型。Cove Platform提供了額外的工具，以圍繞機(jī)器學(xué)習(xí)模型構(gòu)建一個(gè)強(qiáng)大的自動(dòng)化信任與安全解決方案。這包括一個(gè)基于邏輯的規(guī)則界面，一個(gè)內(nèi)容審核平臺(tái)，將審核員的決策反饋到客戶的機(jī)器學(xué)習(xí)模型中，以及用于測量、實(shí)驗(yàn)、調(diào)查和合規(guī)的工具。

Cove Platform支持文本、音頻、圖像和視頻內(nèi)容，而Cove AI目前僅支持文本和音頻。Cove稱正在努力為圖像和視頻提供人工智能支持，這將很快實(shí)現(xiàn)。

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級(jí)服務(wù)市場：https://www.ijiandao.com/