分析元数据和行为模式：人工智能系统会分析元数据，例如发送消息的频率、短时间内创建大量群组的行为，或尝试联系大量非自身通讯录用户的行为。这有助于识别并封禁那些参与自动群发垃圾邮件、诈骗或协同传播虚假信息且无需访问消息内容的账户。
回应用户举报：当用户举报某条消息或某位用户时，该内容会被转发至 WhatsApp 的审核团队。审核团队会结合人工审核和人工智能工具，审查被举报的内容是否违反 WhatsApp 的服务条款，例如仇恨言论、煽动暴力或危害儿童安全。此流程完全取决于用户是WhatsApp 主管否采取行动并选择分享有问题的内容。
打击虚假信息： WhatsApp 正在投资人工智能工具，帮助用户核实信息。这包括支持平台上的国际事实核查网络 (IFCN) 事实核查机构，以及开发人工智能聊天机器人，用户可以主动向聊天机器人发送消息，以核实信息的真实性。这使得用户能够打击虚假新闻，而无需平台扫描所有通信内容。
端到端加密的坚定立场
威尔·卡斯卡特一直强烈反对英国的《网络安全法案》等立法举措，该法案要求即时通讯服务商扫描私人加密信息内容，以查找有害内容。他认为，此举将从根本上破坏所有用户隐私和安全的承诺，并可能在全球开创一个危险的先例。
“如果我们为了满足一个国家的要求而降低全球的安全级别，那……对我们来说是非常愚蠢的，因为 2% 的用户提出要求，98% 的用户就会对我们的产品失去兴趣。”卡斯卡特已经争论过了。
本质上，这位主管关于聊天安全中人工智能的讨论，是一次谨慎的区分。人工智能被视为打击平台边缘滥用行为的强大盟友——分析模式和用户标记的内容。然而，当涉及到用户沟通的核心——加密聊天本身时，高层传达的信息很明确：隐私至关重要，对话内容不容分析。