基于人工智能的在线开发者社区恶意账号检测

在线开发者社区主要为开发者提供代码托管、合作项目开发服务，有代表性的在线开发者社区如GitHub，吸引了上亿的开发者用户，已经成为开发者进行协作开发、代码开源、提升账号声誉的在线平台。这其中广泛存在的恶意用户，对代码仓库进行虚假点赞、身份伪冒、定向垃圾广告发布等问题，成为影响平台公平性的重要安全问题。我们对比了真实数据集中GitHub恶意用户与正常用户在时间线上的细粒度历史行为，并由GitHub用户代码操作产生的交互关系构建了用户交互图谱，分析得到了恶意用户的行为特点，并考虑GitHub提供的服务特点，设计实现了GitSec恶意用户发现系统。针对用户的历史行为，构建了时间间隔序列、行为类型序列，并引入深度神经网络和注意力机制设计了并行行为序列分析模型；针对用户之间的社交关系，利用代码仓库的交互行为，分别构建了用户-用户图和用户-仓库图，利用结构洞理论衡量用户在代码仓库交互中的重要性，利用图神经网络获取用户-仓库之间的关联表示。综合用户的描述性特征、时间序列分析以及社交关系分析特征，我们引入监督式机器学习分类器作为决策模块，对用户是否是恶意用户进行判断。利用GitHub真实用户数据集进行的对比实验表明，GitSec相比传统的统计特征提取方法、图关系分析方法等，都取得了更好的性能表现。对于常见的“标签翻转”攻击等，也表现出了较好的鲁棒性。