第1个回答 2024-06-23
Facebook的工程师们正在研发一种创新技术，通过人工智能驱动的机器人模拟用户可能的不良行为，以识别和防止这些行为，如垃圾邮件传播、欺诈和非法物品交易。他们构建了一个名为WW的模拟器，其名称源于WWW的缩写，但仅包含必要的功能。这项工作基于Facebook的实时代码库，旨在研究并测试新的防骚扰策略。
WW是一个高度灵活的工具，其核心是让“坏”机器人在模拟版的Facebook上活动，试图寻找并模仿不良行为。研究人员通过设定限制，如消息发送数量，来观察这些限制如何影响机器人行为。Harman将其比喻为城市规划者测试减少道路违规的策略，只不过这里的“减速带”是针对网络行为的限制措施。
尽管模拟器基于真实的Facebook环境，但机器人并不能与用户进行实际互动，所有行为都记录为数字数据。目前，这项技术还处于研究阶段，Facebook团队正在验证模拟结果与现实行为的相似性，预计今年年底前会将这些发现应用到代码中。
尽管存在局限性，如无法模拟复杂意图，但WW的优势在于其处理大量数据的能力，可以大规模测试网站变化，发现新的行为模式。通过机器人的多样行为训练，Facebook有望发现平台架构的潜在弱点，从而提前预防不良行为，而非被动应对。
尽管团队已经观察到一些未预期的行为，但Harman选择保密，以避免泄露可能被恶意利用的信息。Facebook的这项工作展现了他们对创建更安全、更健康的网络环境的决心。