人工智能领域常用的开源框架和库(含机器学习/深度学习/强化学习/知识图谱/图神经网络)
【说在前面】本人博客新手一枚,象牙塔的老白,职业场的小白。以下内容仅为个人见解,欢迎批评指正,不喜勿喷![认真看图][认真看图]
【补充说明】本文主要讨论人工智能领域中常用的支持Python编程语言的开源框架和库,因此全面性肯定有限!
一、机器学习常用的开源框架和库1.Scikit-learn作为专门面向机器学习的Python开源框架,Scikit-learn内部实现了多种机器学习算法,容易安装和使用,样例丰富。
2. Mahout在大数据分布式框架Hadoop下使用,包含了机器学习中常用的算法(含推荐算法)。
3.MLlib/spark.ml在大数据分布式框架Spark下使用,同样包含了机器学习中常用的算法,可采用Java/Sacala/Python/R语言作为编程语言。
4.其他例如针对计算机视觉的SimpleCV、针对自然语言处理的NLTK等,这里不再拓展。
二、深度学习常用的开源框架和库1.TensorFlow由GoogleBrain团队开发,能够实现各种深度神经网络的搭建。为初学者和专家提供了各种API,以便对桌面、移动终端、Web和云进行开发。但是,计算图必须构建为静态图,这让很多计算变得难以实现,尤其是序列预测中经常使用的beamsearch。
2.Keras由Python编写的高级神经网络API,相当于Tensorflow、Theano、CNTK的上层接口。强调极简主义,降低了编程和阅读别人代码时的理解开销, 目前封装有全连接网络、CNN、RNN和LSTM等算法。但是,封装得太高级,细节很难修改,无法直接使用多GPU。
3.PyTorch由Facebook团队基于Torch开发的深度学习框架。与TensorFlow不同的是,PyTorch是基于动态图的,目前也非常火热。
4.Caffe在TensorFlow出现之前,一直是深度学习领域Githubstar最多的项目。Caffe的优势在于容易上手(网络结构都是以配置文件形式定义,不需要用代码设计网络)、训练速度快(组件模块化,可以方便的拓展到新的模型和学习任务上)。但是,Caffe不好安装,且最开始设计时的目标只针对于图像,因此对CNN的支持非常好(例如AlexNet、VGG、Inception等),但是对RNN、LSTM等的支持不是特别充分。
5.其他例如百度提出的深度学习框架PaddlePaddle、华为最新开源的深度学习框架MindSpore、阿里的X-DeepLearning等,这里不再拓展。
三、强化学习常用的开源框架和库1. OpenAIGym提供了非常多的虚拟环境,具体强化学习算法的代码需要自己来写,可以很好验证强化学习算法,众多强化学习环境都为其提供接口。
2.OpenAIBaseline基于Tensorflow和OpenAIGym开发的,封装了许多强化学习算法(例如DQN/PPO/TRPO/DDPG等)。但是,代码规范性不好。
3.RLlib支持TensorFlow和PyTorch,可通过简单的PythonAPI使用,目前附带了许多流行的RL算法。
4.HorizonFacebook基于PyTorch、Caffe和Spark构建的强化学习框架,是首个使用应用强化学习在大规模生产环境中优化系统的端到端开源平台。
5.天授:最近了解的,应该比较新吧清华大学人工智能研究院自研的深度强化学习算法平台,支持TensorFlow和PyTorch。可以完整支持PG、DQN、DDQN、A2C、DDPG、PPO、TD3、SAC等主流强化学习算法。对比既有主流强化学习平台,大佬给出了天授的性能对比图:
未来大佬团队将从三个维度拓展“天授”平台,算法层面将更加全面支持地支持主流强化学习算法(包括model-basedRL,imitationlearning等),任务层面将进一步支持包括Atari、VizDoom等复杂任务,性能层面将进一步提升平台在模型性能、训练速度、鲁棒性等方面的核心指标,更好的为学术界服务。
6.其他例如知乎有人提到的tf-agents(与工业紧密连接)、tensorlayer、百度PaddlePaddle发布的PARL等,这里不再拓展。
四、图神经网络常用的开源框架和库1.四大图神经网络框架deepgraphlibrary(DGL):支持pytorch、tensorflowpytorchgeometric(PyG):基于pytorchantgraphmachinelearningsystem:蚂蚁金服团队推出的大规模图机器学习系统tf_geometric:借鉴pytorchgeometric,创建了tensorflow版本2.CogDL :最近了解的,应该比较新吧清华大学知识工程研究室推出了一个大规模图表示学习工具包CogDL,可以让研究者和开发者更加方便地训练和对比用于节点分类、链路预测以及其他图任务的基准或定制模型。该工具包采用PyTorch实现,集成了Deepwalk、LINE、node2vec、GraRep、NetMF、NetSMF、ProNE等非图神经网络和GCN、GAT、GraphSage、DrGCN、NSGCN、GraphSGAN等图神经网络模型基准模型的实现。
与其他图表示学习工具包相比,CogDL具有以下特点:
稀疏性:在具有数千万节点的大规模网络上实现快速网络嵌入。任意性:能够处理属性化、多路和异构等不同图结构的网络。并行处理:在多个GPU上实现不同种子和模型的并行训练并自动输出结果表格。可扩展性:轻松添加新的数据集、模型和任务并在所有现有的模型/数据集上测试。3.Graph-Learn(原AliGraph):一个工业级的图神经网络平台阿里巴巴提出的AliGraph涵盖了从原始图数据到GNN应用的整体链路。根据阿里巴巴的介绍:系统层面:数据种类:支持同构图、异构图、属性图,有向图、无向图,可方便与任意分布式文件系统对接。数据规模:支持千亿级边、十亿级顶点的超大规模图(原始存储TB级)。算子种类:支持几十种可与深度学习相结合的图查询、采样算子,支持向量检索,支持算子按需自定义。性能指标:支持分钟级超大规模图构建,毫秒级多跳异构图采样,毫秒级大规模向量检索。用户接口:纯Python接口,与TensorFlow构成一体化IDE,开发成本相比一般TF模型无异。算法层面:
已支持业界主流的GraphEmbedding算法,包括:DeepWalk、Node2Vec、GraphSAGE、GATNE等。4.其他图神经网络研究者和工业界在Github上开源了很多算法的具体实现及其框架,包括GCN、GAT、GraphNets框架等,这里不再拓展。
五、知识图谱常用的开源框架和库1.开源的知识库主要包括WikiData、DBPedia、WordNet、YAGO、ConceptGraph、BabelNet、CN-DBPeidia、OpenKG等,这里不再拓展。
2.开源的构建工具斯坦福大学医学院生物信息研究中心提出的Protege是基于Java语言开发的本体编辑和知识获取软件。Protege提供本体概念类、关系、属性和实例的构建,不基于具体的本体描述语言,因此用户可以在概念层次上构建领域本体模型。除了Protege,还有其他应用于知识图谱构建的开源软件,而且完整的知识图谱构建还包括知识的存储、知识融合等。我想后续单独写一个专题来介绍知识图谱的构建问题,这里不再拓展。
3.DGL-KE:亚马逊提出的知识图谱嵌入表示框架亚马逊AI团队继DGL之后,又开源了一款专门针对大规模知识图谱嵌入表示的新训练框架DGL-KE,旨在能让研究人员和工业界用户方便、快速地在大规模知识图谱数据集上进行机器学习训练任务。相比于已有的开源框架,DGL-KE的亮点如下:支持各种主流知识图谱表示学习算法,包括TransE、ComplEx、DistMult、TransR、RESCAL、RotatE等。已有开源框架中唯一支持多核CPU,多卡GPU,CPU-GPU混合训练,以及分布式训练的知识图谱嵌入表示框架。简单易用,用户无需编写代码,直接将知识图谱数据作为输入即可。高性能且可扩展。4.其他知识图谱研究者和工业界在Github上应该开源了很多方法的具体实现及其框架,博主有看到再分享,这里不再拓展。
六、智能推荐常用的开源框架和库1.DeepMatch:用于广告和推荐的深度召回匹配算法库提供了若干主流的深度召回匹配算法的实现,并支持快速导出用户和物品向量进行ANN检索。非常适合同学们进行快速实验和学习。
2.其他智能推荐研究者和工业界在Github上应该开源了很多方法的具体实现及其框架,博主有看到再分享,这里不再拓展。
如果你对智能推荐感兴趣,欢迎先浏览我的另几篇随笔:智能推荐算法演变及学习笔记、CTR预估模型演变及学习笔记、基于图模型的智能推荐算法学习笔记(含知识图谱/图神经网络,不止于智能推荐)
如果您对数据挖掘感兴趣,欢迎浏览我的另几篇博客:数据挖掘比赛/项目全流程介绍、从中国农业银行“雅典娜杯”数据挖掘大赛看金融行业数据分析与建模方法
如果您对人工智能算法感兴趣,欢迎浏览我的另一篇博客:人工智能新手入门学习路线和学习资源合集(含AI综述/python/机器学习/深度学习/tensorflow)
如果你是计算机专业的应届毕业生,欢迎浏览我的另外一篇博客:如果你是一个计算机领域的应届生,你如何准备求职面试?
如果你是计算机专业的本科生,欢迎浏览我的另外一篇博客:如果你是一个计算机领域的本科生,你可以选择学习什么?
如果你是计算机专业的研究生,欢迎浏览我的另外一篇博客:如果你是一个计算机领域的研究生,你可以选择学习什么?
如果你对金融科技感兴趣,欢迎浏览我的另一篇博客:如果你想了解金融科技,不妨先了解金融科技有哪些可能?
之后博主将持续分享各大算法的学习思路和学习笔记:helloworld:我的博客写作思路