这个AI预测在它发生之前的在线拖曳

斯坦福大学的Srijan Kumar博士的人工智能被用于清除虚假评论，但也可以帮助预测和抑制在线骚扰。

你如何控制在线巨魔?禁止他们?需要真实姓名?

Srijan Kumar博士是斯坦福大学计算机科学博士后研究员，他正在开发一种预测在线冲突的AI。他的研究使用数据科学和机器学习来促进健康的在线互动，并遏制欺骗，不当行为和虚假信息。

他的工作目前部署在印度电子商务平台Flipkart内，该平台使用它来发现虚假评论者。我们在南加州大学健康在线互动讲座前与库马尔博士进行了交谈。

Kumar博士，您如何使用数据科学和机器学习来 抵制在线骚扰?你的系统如何识别巨魔?

在我的研究中，我构建了数据科学和机器学习方法，以解决在线不当行为，这种行为是虚假信息和恶意用户。我的方法有双重目的：第一，表征他们的行为，第二，在他们损害其他用户之前检测它们。我已经能够调查各种各样的在线不当行为，包括欺诈性评论，恶作剧，在线拖钓和多账户滥用等。

Srijan Kumar博士，斯坦福大学计算机科学博士后研究员

你是如何教AI来发现这些模式的?

我开发了统计分析，图形挖掘，嵌入和基于深度学习的方法来表征正常行为的样子，[和]用它来识别异常或恶意行为。通常，我们也可能已经知道恶意行为的例子，在这种情况下，我创建了监督学习模型，我使用这些示例作为训练数据来识别其他类似的恶意实体。

您的研究目前正在Flipkart中使用。他们试图解决什么问题，他们如何衡量结果?

我在Flipkart上提到的关键问题是在他们的平台上识别虚假评论和假评论者。这是所有平台中普遍存在的问题 ; 最近的调查估计有多达15%的在线评论是假的。因此，识别和清除虚假评论至关重要，因为我们作为消费者的决定受到他们的影响。

这里叫什么方法?

我的方法称为REV2，它使用用户评论产品的评论图来识别欺诈者[谁]对低质量产品给予高评分，或者对高质量产品评分较低。REV2 [比较]我们对先前确定的假审查者案例的建议。

AI是否有可能密切关注社交网络并在即将出现不良行为时发出警报?这是纯粹的基于模式的分析，是有感知的数据处理还是完全不同的东西?

通过从以前的此类案例中学习，可以主动预测何时可能出现问题。例如，在我最近的研究中，我表明可以准确预测Reddit在线平台中的一个社区何时会攻击/骚扰/哄骗另一个社区。这种现象被称为“brigading”，我表明，旅减少了未来对受攻击社区的参与。这对用户及其交互是有害的，这需要方法来避免它们。因此，我创建了一个基于深度学习的模型，该模型使用文本和社区结构以高精度预测社区是否会攻击另一个社区。这些模型具有实际用途，因为它可以提醒社区版主注意接收攻击。

您是否看到在“轻推”中使用的工作的逻辑推断，以提示用户在起诉前清理其行为?类似于班上的一位老师，在他们陷入犯罪策划的帮派之前，对后排的麻烦制造者保持警惕?

绝对!一个自然而令人兴奋的后续工作是如何阻止坏演员做恶意行为并鼓励每个人保持良性。这将有助于我们为每个人创建一个健康，协作，更具包容性的在线生态系统。实现这一目标存在许多有趣的挑战，需要新的干预方法和更好的预测模型。实现更好的在线对话并推动人们成为更好的自我将成为我未来的重点之一。

您是否有过在线骚扰的个人经历，或者这是一个有趣的AI问题需要解决?

我遵循这一研究方向的一个主要原因是看到我的一些朋友被社交媒体巨魔骚扰。这导致寻找非算法方法来遏制这个问题。作为一项具有挑战性的任务，它激起了我内心科学家的兴趣，我最终学会了创建数据科学和机器学习方法来帮助解决这些问题。

你正在合作完成120万美元的DARPA资助项目“ 积极社会工程防御 ”，该项目一直持续到2022年。该机构要求你证明什么?

在这个项目中，我们正在研究恶意行为者如何对毫无戒心的受害者进行社会工程攻击。社交工程攻击是非常细致和复杂的个性化攻击，旨在危害敏感信息。因此，我们想要回答的关键问题是：我们能预测社会工程攻击何时发生; 我们怎样才能抵御他们呢?

最后，作为一名科学家，您真正兴奋的是如何预测人类行为?你觉得我们越来越接近理解是什么让我们“嘀嗒”了吗?

人类行为是高度不稳定和不可预测的，这使得预测变得有趣和具有挑战性。话虽如此，我确实认为人工智能在理解人类行为方面确实越来越好。举一个例子，推荐系统在预测我们想要的东西方面明显好于几年前。然而，需要解决的这个难题的一个关键部分是预测恶意实体在被捕获和被禁止后将如何重建自己。因此，我热衷于构建新的机器学习和AI模型来解决这个问题。