Cove用AI做舆情监测和内容审核

声明：该文章来自（安全喵喵站）版权由原作者所有，K2OS渲染引擎提供网页加速服务。

2023年7月12日，Cove，一家利用人工智能进行内容安全审核的初创公司，近期得到了Thrive Capital、Sound Ventures、Common Sense Growth、Neo、Elad Gil、Scott Forstall以及来自Stripe、Figma、Notion、Dropbox、Retool和Vanta的天使投资者的支持，获得580万美元的融资。

随着最近人工智能取得的惊人进步带来的安全风险，以及全球公共机构信任的侵蚀，需要将安全性融入在线生态系统的核心。这就是Cove的愿景。

在2015年到2021年期间，Cove的团队在Meta构建了内容安全系统，以防止选举干扰、虚假信息传播、仇恨、暴力和骚扰。出于对所解决问题的紧迫性深感触动，并对共同创造的解决方案的影响深感自豪，Cove团队从这些经验中汲取了教训，并决定构建一个利用尖端人工智能帮助各种规模的企业保护其用户的平台。

Cove将“信任与安全”任务简化为最简单的形式：自然语言和手动标记。用户将平台的政策提供给Cove，Cove将带用户完成一个引导式标记工作流程，然后将用户的政策和标记转化为一个强大的、由人工智能驱动的“信任与安全”解决方案，专门为用户的平台设计。经过简单的集成后，用户将不再需要编写任何一行代码。Cove称每月处理超过15亿条内容，并帮助客户将手动审核成本降低了80%。

所有在线平台面临的问题

如今，每个在线平台都需要强大的内容安全工具，但除了巨型社交网络外，很少有公司拥有资源或专业知识来部署世界一流的解决方案。从约会应用和游戏服务，到市场和生成式人工智能产品，当今成功和新兴的平台通常以社交和内容驱动为默认。安全必须被视为核心功能，以确保平台能够保护其用户免受伤害，提高用户体验，确保符合监管要求并建立信任。

部署世界一流的信任与安全解决方案面临几个挑战：工程成本：在规模上部署和维护信任与安全服务需要大量的工程和技术人力投入。运营成本：除了工程投入外，平台还需要雇佣团队进行手动审核内容，运营团队管理审核流程，并建立内容准则。人力成本：审核仇恨言论、暴力、骚扰和其他有害内容给审核员带来沉重的心理负担。合规成本：平台监管法规如数字服务法案、在线安全法案、COPPA和18 U.S.C. §2258A对平台施加了繁重的要求，需要进行实质性的法律和工程投资。变更和维护成本：社交平台上的对话实时变化。每次功能变更或对话内容发生重大变化时，安全解决方案需要更新，触发额外的工程需求。

Cove利用人工智能技术，使任何规模的公司都能在不编写代码的情况下构建世界一流的安全解决方案。赋予客户权力，让他们能够创建适合其平台的定制化解决方案，而无需承担如今让信任与安全变得如此困难的技术、运营和财务负担。

这个解决方案既可访问又可定制

信任与安全的解决方案必须仔细地针对每个平台进行定制才能发挥效用。约会应用中的消息与时尚网站上的产品评论或游戏直播中的对话截然不同，而世界各地的用户都有自己的文化规范和期望。Cove使客户能够构建定制的AI模型，利用其自身的数据进行训练，以优化适应其特定平台的需求和用户。

不断发展的企业可以使用Cove的两个无代码产品：Cove AI和Cove Platform。

Cove AI使客户能够使用简单的英文描述来训练机器学习模型，使用其平台上的数据。然后，这些机器学习模型可以帮助客户检测违反其政策的内容，而Cove则采用主动学习来不断改进这些模型。Cove Platform提供了额外的工具，以围绕机器学习模型构建一个强大的自动化信任与安全解决方案。这包括一个基于逻辑的规则界面，一个内容审核平台，将审核员的决策反馈到客户的机器学习模型中，以及用于测量、实验、调查和合规的工具。

Cove Platform支持文本、音频、图像和视频内容，而Cove AI目前仅支持文本和音频。Cove称正在努力为图像和视频提供人工智能支持，这将很快实现。

[超站]友情链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
关注数据与安全，洞悉企业级服务市场：https://www.ijiandao.com/