简体中文 | English
pygml是为渐进机器学习提供的一个python模块
渐进机器学习主要包括三个模块：简单实例识别、特征提取与影响力建模和渐进推理。针对不同的领域任务，简单实例识别和特征提取与影响力建模技术差异较大，针对此我们将为其设置通用的接口供用户使用。而渐进推理是渐进机器学习框架中最为重要的模块，其核心原理是所有任务共享的，因而我们将其封装成可直接调用的接口，并将代码开源在GitHub上供用户参考使用。基于研发的渐进机器学习平台，用户只需将数据按照设定的接口生成，并且提供相应的约束条件，便可利用渐近机器学习框架进行推理。具体地，用户需根据不同的任务，首先提供特定的简单实例标注和特征提取技术；然后调用渐进推理模块直接进行推理。需要说明的是，渐进推理模块包含三个步骤：证据支持度估计、熵近似计算和推理子图构建，它们可能会因任务的不同而有所差异，因而若开源项目提供方法无法满足用户需求时，用户可自定义相关方法。针对渐近机器学习开源平台的研发，我们以斯坦福大学发布的开源因子图推理工具Numbskull为基础，结合实体识别与情感分析的不同需求，对 Numbskull源码进行相关修改。原版Numbskull只支持因子单一参数的推理，修改后的Numbskull可支持因子的参数函数化。研发的渐近机器学习开源平台将可作为渐进推理的核心工具，完成参数的学习。
渐进机器学习框架，借鉴了人类由易到难的学习模式，先由机器自动完成任务中简单实例的标注，然后基于因子图推理渐进式地完成较难实例的标注。不同于深度学习，渐进机器学习无需独立同分布假设，只需很少甚至无需人工标注数据。渐进机器学习框架包括三个模块：简单实例识别、关键特征提取与影响力建模和渐进推理。
给定一个分类任务，如果没有足够的训练数据，通常很难准确标记任务中的所有实例。但是，如果我们只需要简单标注任务中的简单实例，那么情况会变得容易。在实际场景中，可以简单的根据用户指定规则或现有的无监督学习技术来执行简单的实例标记。例如，无监督聚类。渐进机器学习始于简单实例标签的标注结果。因此，简单实例的高精度标注对渐进机器学习在给定任务中的最终性能至关重要。
特征是简单实例与复杂实例之间传递信息的媒介。在这一步中，我们需要提取已标记的简单实例与未标记的复杂实例所共享的特征。为了促进实例之间有效信息的传递，我们提取不同种类的特征以捕获尽可能多的信息。对于提取的特征，我们需要进一步根据其对实例标注的影响力建模。
在这一步，我们会逐步标记复杂实例。通过迭代因子图推断对因子图进行参数学习。在每次迭代中，我们选择具有最高证据确定性程度的未标记实例进行标记。重复进行迭代，直到标记了任务中的所有实例为止。值得注意的是，在渐进推理中，当前迭代中新标记的实例将用作后续迭代中的证据。
pip install pygml
在使用此框架之前，您需要按照以下数据结构要求准备您的数据。
在准备完数据之后，您可以按照以下方式使用此框架。 首先需要准备一个配置文件，对一些参数和超参数进行设置。
[para]
top_m = 2000
top_k = 10
top_n = 1
update_proportion = -1
optimization_threshold = -1
balance = False
learning_epoches = 500
inference_epoches = 500
learning_method = sgd
n_process = 1
out = False然后，按照如下方式调用GML:
from pygml import gml
from gml import GML
with open('variables.pkl', 'rb') as v:
variables = pickle.load(v)
with open('features.pkl', 'rb') as f:
features = pickle.load(f)
graph = GML.initial("alsa.config", variables, features)
graph.inference()Here is an example you can refer.
Easy Instance Labeling
Influence Modeling
Gradual Inference
常见问题解答
我们非常欢迎所有意见，如果您发现了bug,请立即联系我们。如果您想贡献功能更新，请创建一个issuu,经讨论后再提交pull requests。
GML_for_ER主要研究面向实体识别的渐近机器学习的应用关键技术。该项目从任务中可以被机器自动且精确识别的简单实例开始，然后逐渐地通过因子图推理更具挑战的实例，以实现对ER的有效渐进式机器学习。
GML_for_ALSA主要研究面向情感分析的渐近机器学习的应用关键技术。该项目针对方面级情感分析，提出一种联合框架SenHint，它利用马尔可夫逻辑网将神经网络的输出结果和语言知识进行集成，并取得相较DNN模型更好的预测性能；针对方面级情感分析的重要子任务——方面识别，提出了一种基于Hint-embedding的神经网络模型，旨在探索句中方面与语义内容之间的关联，并取得显著效果；针对情感词典构建，提出一种无监督的用于构建领域相关词典的算法，其所构建的领域相关词典在面向方面级情感分析的层次注意力机制模型上可取得显著性能。
本团队为“渐进机器学习算法应用研发团队”，主要研究方向包括：
（1）研发渐进机器学习算法在实体识别方面的应用；
（2）研发渐进机器学习算法在情感分析方面的应用；
（3）研发通用的渐进机器学习开源平台，支撑面向一般性分类问题的渐进机器学习算法和系统的实现。
该项目启动以来，本团队成员的研究成果在顶级国际期刊和会议TKDE，WWW等获得发表，目前已发表论文共10篇，获得包括国家自然科学基金在内的各类项目2项。