学人工智能需要什么配置的电脑AI电脑配置需求
学习人工智能需要一台配置较为强大的电脑,建议至少需要以下配置:
学人工智能需要什么配置的电脑?
处理器:至少需要一颗四核心的处理器,如英特尔i5或更高级别的处理器。
内存:至少需要8GB的内存,更好的选择是16GB或以上的内存。
显卡:需要一张强大的显卡来支持训练深度学习模型,如NVIDIA的GeForceGTX或者Tesla系列显卡。
存储:需要足够的硬盘或固态硬盘(SSD)存储来存储数据集和模型等文件,建议至少256GB的硬盘或固态硬盘。
操作系统:建议使用64位的操作系统,如Windows10、macOS或者Linux。
其他:需要连接互联网的网卡和一个高清显示器。
除了以上建议的硬件配置,还需要安装相应的软件和工具,如Python、Anaconda、TensorFlow、PyTorch等常用的工具和库。
需要注意的是,深度学习模型训练需要耗费大量的计算资源,因此,如果你的电脑配置不够强大,可以考虑使用云计算服务,如AWS、GoogleCloud或MicrosoftAzure等,这些服务可以提供强大的计算资源来支持模型训练和应用。
免费分享一些我整理的人工智能学习资料给大家,整理了很久,非常全面。包括一些人工智能基础入门视频+AI常用框架实战视频、计算机视觉、机器学习、图像识别、NLP、OpenCV、YOLO、pytorch、深度学习与神经网络等视频、课件源码、国内外知名精华资源、AI热门论文等。
下面是部分截图,点击文末名片关注我的公众号【AI技术星球】发送暗号321领取(一定要发暗号321)目录
一、人工智能免费视频课程和项目
二、人工智能必读书籍
三、人工智能论文合集
四、机器学习+计算机视觉基础算法教程
五、深度学习机器学习速查表(共26张)
学好人工智能,要多看书,多动手,多实践,要想提高自己的水平,一定要学会沉下心来慢慢的系统学习,最终才能有所收获。
点击下方名片,扫码关注公众号【AI技术星球】发送暗号321免费领取文中资料。学人工智能用的电脑&主机八大件配置选择指南
系列总览:
分为硬件篇x1 跟 软件篇x3硬件篇1:主机八大件的选购软件篇1:AI开发过程中常用开发命令、软件安装等软件篇2:软件:Anaconda使用软件篇3:软件:VSCode使用
本篇重点:
本篇主要是帮助大家构建高性能、高性价比的AI开发的硬件平台。如何不把钱浪费到不必要的硬件上,并合理搭配硬件配置节省预算是本文想要去讨论的问题。如果预算充足,笔者建议购买一台AI主机,一方面用于日常代码的存放积累,另一方面跑部分比赛,日常debug学习别人的库。
目录:
(1)个人笔记本的选购
(2)主机八大件的选购
(3)云AI服务器的介绍及使用
个人笔记本的选购
在AI训练、测试中,需要长时间开机,笔记本并不是为此设计的,从散热和系统稳定性的角度而言都不是合适的,比如,你用笔记本跑了一天的实验,万一电脑温度太高直接死机了不仅浪费时间还损伤了电脑,并且笔记本设计紧凑,主板、固态等高温运行都会影响寿命,甚至会造成永久性损坏.
出于通勤的建议,笔者建议大家的型号有:
外星人x系列(便携本)
ROG 幻系列 (便携本)
魔霸,枪神系列为游戏本,根据自己的钱包决定买哪种。
MAC
MacBook Air M1 16+256
MacBook Pro M116+256
(MAC直接拿来跑模型啥的还是很心疼的,跑python够用。所以一般是链接服务器使用,毕竟操作指令比win用着好用。M1芯片的mbp确实非常强大,最重要的是发热不严重,甚至在Air版没风扇。不过新款MACBOOK已经搭载上M2了,大家也可以考虑新款!)
雷神
IGERAIR-i7(便携本:需要高性能选i7,其他需求选i5即可。)
ZERO3060(这个可以选择拿来跑简单模型,复现论文够用)
雷蛇 灵刃152018款就够用
(不过据说售后很慢,体验不太好,毕竟国外都是邮件沟通,所以还是考虑下)
以上型号推荐是给理工科需要大型软件或者跑大量数据的这部分同学,计算机专业选i5差不多够用,不过i7用久一点。设计/建筑等需要渲染的直接MACBOOKPRO,或者i7处理器的。
神舟 高性价比,耐造。
(学姐的神舟,从13年用到现在还在造。如果是计算机专业或者是想用久一点,处理器选i7的。i5对电脑需求不大的专业,足够用。)
以上笔记本推荐仅学姐个人使用感受,以及学习群的各位学长们讨论得出的。(根据自身实力购买,毕竟学计算机的一些学习需求,可以借助其他工具达到目的)
自己组装-主机八大件的选购这部分重点主要介绍(人工智能专业)主机GPUx1/GPUx2的配置,GPUx4/GPUx8的配置会在1.8章节简单介绍,先放上笔者建议的结论,3080版本总计13000左右,3090版本总计21000左右(显卡加6000左右换成3090,电源换成1000w,其他不需要变即可)。
CPU/主板: 5900x+微星MAGB550MMORTARWIFI迫击炮主板.==>3200元
CPU散热:利民FrozenMagicEX240水冷. ==>390元
硬盘:三星PM9A11T809+WD西数sn5702T.==>1300元
内存:海盗船复仇者内存条32Gx2.==>900x2=1800元
GPU: 耕升308012G ==>5200元
电源:长城850w金牌全模组==>560元
机箱:300元左右支持240水冷的机箱即可=>200元
2.1CPU/主板Ref:2022年笔记本电脑CPU天梯图文章
https://zhuanlan.zhihu.com/p/376305519
CPU天梯图是按照CPU的跑分进行排序,进行综合性能对比、反映CPU性能优劣的一种量化标准。
CPU主要有两家品牌:Intel(触点式接口)和AMD(针脚式接口),此部分主要介绍Intel/AMD主流系列,其他系列会在2.6章节介绍。
eg:
1)intel酷睿系列:i3(入门办公),i5(主流),i7(高端级),i9(发烧级). eg:12700k,12900k...
2)AMD锐龙系列:R3(入门办公),R5(主流),R7(高端),R9(发烧级).eg:5700x,5900x...
CPU接口不同搭配的主板也不同,不同级别的CPU搭配不同级别的主板芯片组。
1)入门办公:Intel主板(H开头)、AMD主板(A开头). eg:H610,A520
2)主流:Intel主板/AMD主板(B开头). eg:B660,B550
3)高端/发烧:Intel主板(Z开头)、AMD主板(X开头). eg:Z690,X570
2.1.1intel-酷睿12代系列
Ref:12代酷睿电脑配置文章
https://zhuanlan.zhihu.com/p/429099752
intel12代酷睿系列CPU,需要搭配不同后缀标代表不同意思,eg:
1)后缀k:具备核显,可以超频
2)后缀KF:不具备核显,可以超频
3)后缀F:不具备核先,不可超频
需要搭配的主板型号
1)B660
2)Z690
2.1.2AMD-锐龙5000系列
Ref:AMD锐龙5000系列介绍文章
https://www.gamersky.com/news/202204/1479779.shtml
AMD锐龙5000系列,后缀含义
1)X:高端处理器
2)G:带核显..
需要搭配的主板型号
1)B550:华硕TUF重炮手、微星迫击炮..
2)X570:
2.1.3主板介绍
主板中比较好的牌子:华硕、技嘉、微星.中高端都是可以选择的.不同的主板的版型,即大小:
1)EATX/ATX:需要搭配大机箱,散热最好
3)mATX:比较合适
4)ITX:扩展性、散热有问题
在AI训练、测试用途中,CPU部分主要考虑的是核心&线程数量。笔者建议大家选购AMD5900x型号,散片/盒装都可,CPU出故障率极低,这里不推荐12代酷睿的原因是在Ubuntu系统中版本适配做的不好,比如大小核小分配任务的故障等...另外关于主板的选择,如果你是刚读研要在一所学校待几年,那么完全可以配置一个ATX的大机箱放到工位,如果是要放到公司,建议配置mATX加一个小机箱。另外,主板一定要选择带蓝牙/wifi的配置,这样可以剩下一个PCIE插口,后续扩展硬盘都是非常方便的。
2.2CPU散热器CPU散热器分为两种
1)风冷:CPU的热量传到到热管鳍片的表面,通过风扇进行对流交换散热
推荐型号:猫头鹰系列
2)水冷:CPU的热量通过水泵对冷却液的循环,抽到散热片风扇冷却,循环散热。
推荐型号:240起步,恩杰X系列、利民FrozenMagicEX系列、华硕ROG龙神系列..
在AI训练、测试用途中,CPU散热部分主要考虑的是噪音,风冷噪音实在太大,而水冷的风险是漏液,不过现在水冷都是5年质保、漏液包赔,再加上若干新型专利技术、不用担心漏液,笔者建议大家选购推荐品牌的240/360水冷. 预算充足的同学可以把水冷的散热风扇换成猫头鹰风扇散热.如果实在担心漏液,可以考虑猫头鹰的风冷系列.(当然猫头鹰的风扇是非常贵的...但是在高风扇转速下是非常安静的!!
2.3硬盘&内存硬盘比较好的牌子:三星、铠侠、西部数据,硬盘按照接口主要分为两种
1)PCIE3.0/4..0
2)SATA:速度太慢,非常不推荐
在AI训练、测试用途中,硬盘部分主要考虑的是速度,容量其次,有时候GPU显存的利用率很低,很大的程度是硬盘IO瓶颈。由于B550/B660主板预留的PCIE接口只有两个,所以笔者推荐的是2TNVMEPCIE3.0(装系统)+ 1TNVMEPCIE4.0.存放有价值的数据集跟训练checkpoint是完全没问题的。后续如果想增加容量完全可以用PCIE扩展卡上面额外加固态即可。
其次关于容量,比如imagenet138G.COCO27G.1T+2T的配置完全够用
PCIE扩展卡的使用
内存比较好的牌子:英睿达、海盗船、芝奇都可。
原则:内存的容量>2*GPU显存,越高越好
在AI训练、测试用途中,内存部分主要考虑的是容量,数据的处理流程是硬盘=>内存=>GPU显存,一定量的内存能保证我们进行数据预处理的时候能非常好的。频率不需要太高,建议适中3200即可,考虑到后续参加机器学习比赛需求。预算不足情况下32G即可。
Ref:AutoDLGPU算力排名
https://www.autodl.com/home
GPU与AI训练、测试相关的参数:
FP64: Linpack(Linearsystempackage)Test
FP32: DeepLearning
FP16: Quantization & amp: python1.6+++
由于比特币的崩盘,这里推荐两款型号308012G(某型号降价到5000)/309024G(某型号降价到10000),笔者建议预算充足的同学选择3090.牌子市面上的牌子都可。
笔者的实验室发生过2张2080ti+1200w在满载跑模型的时候,主机断电重启的问题。经检查pytorch启动瞬时功率过大导致的。
建议:308012G选用850w,3090选用1000w
牌子:振华、海韵都可
补充知识
NVIDIAGPU架构进化历史
在第三代的Kepler架构里,FP64单元和FP32单元的比例是1:3或者1:24。
第四代的Maxwell架构里,这个比例下降到了只有1:32。
第五代的Pascal架构里,这个比例又提高到了1:2,但低端型号里仍然保持为1:32。
其他ProcessUnit
从目前的实践来看,AI算法和传统HPC算法相比,对精度的要求低得多。因此我们看到很多AI芯片主要强调在FP16或者INT8中的精度。可以说,对目前AI芯硬件效率的提升,低比特精度有很大贡献。
2.5机箱Ref: 机箱风扇如何分配?文章
https://www.zhihu.com/question/320561511/answer/654827754
在AI训练、测试用途中,构建合理的机箱风道能保证CPU跟显卡的温度,在确定自己机箱需求后,笔者建议大家给机箱安装若干风扇组件合理风道是非常重要的。
2.6其他GPUx4orGPUx8:在多GPU情况下、保证机器的稳定性是至关重要的,这时候就要选择更高系列的CPU。
1)Intel至强系列4210R,5218R,6230R
2)AMD霄龙系列7320,7402,74F3....
这些CPU比如支持ECC自动纠错内存、支持的CPU通道数更多、支持更高的PCIE通道等。
云服务器的推荐普遍租卡3090价格都在2R+/h,一天就是60+,还是非常贵的,如果暂时没有预算的话,笔者建议同学使用colab和恒源云(学姐公众号有活动赠送GPU的),colab官方也有很好的入门教程。
— 关注【学姐带你玩AI】公众号,红包大奖等你来拿—
2023机器学习和深度学习需要什么电脑配置看看本文就知道
IT作为一门专业学科的存在归功于寻求从信息中获得竞争优势的公司。今天,组织充斥着数据,但处理和分析数据的技术往往难以跟上每台机器、应用程序和传感器发出的源源不断的遥测数据的洪流。事实证明,对于基于结构化数据库的传统信息系统而言,非结构化数据的爆炸式增长尤其具有挑战性,这引发了基于机器学习和深度学习的新算法的开发。这反过来又导致组织需要为机器学习、深度学习和人工智能工作负载购买或构建系统和基础设施。
在今天的文章中,让我们概述能够使用AI/机器学习和深度学习的基础架构电脑配置要求
背景概述这是因为几何扩展的非结构化数据集、机器学习(ML)和深度学习(DL)研究的激增以及旨在并行化和加速ML和DL工作负载的成倍强大的硬件之间的联系激发了对企业AI的兴趣应用程序。IDC预测,到2024年AI将变得普遍,四分之三的组织都在使用AI,其中20%的工作负载和15%的企业基础设施将用于基于AI的应用程序。
企业将在云上构建许多此类应用程序。但是,训练和馈送此类算法所需的大量数据、将数据移动并存储在云中的高昂成本以及对实时或近实时结果的需求,意味着许多企业AI系统将部署在私有的专用系统上。
在为人工智能增强的未来做准备时,IT必须应对许多架构和部署选择。其中最主要的是人工智能加速硬件集群的设计和规范。由于其密度、可扩展性和灵活性,一种很有前景的选择是超融合基础设施(HCI)系统。虽然人工智能优化硬件的许多元素都高度专业化,但整体设计与更普通的超融合硬件非常相似。
机器学习、人工智能用例的流行基础设施大多数AI系统运行在LinuxVM上或作为Docker容器运行。事实上,大多数流行的AI开发框架和许多示例应用程序都可以作为来自Nvidia和其他公司的预打包容器映像提供。
流行的应用程序包括:
计算机视觉,例如图像分类、对象检测(在图像或视频中)、图像分割和图像恢复;
语音和自然语言处理、语音识别和语言翻译;
文本到语音合成;
基于先前的用户活动和参考提供评级和建议的个性化内容或产品的推荐系统;
内容分析、过滤和审核;和
模式识别和异常检测。
这些在各种行业中都有应用,例如:
金融服务公司的欺诈分析和自动交易系统;
在线零售个性化和产品推荐;
物理安全公司的监控系统;和
石油地质分析,用于天然气和采矿公司的资源开采。
一些应用程序,例如网络安全和IT运营自动化系统(AIOps)的异常检测,跨越多个行业,基于人工智能的功能被纳入各种管理和监控产品。
AI应用需要大量存储将有一个用于AI和ML模型训练的海量历史数据存储库,以及用于模型推理和预测分析的高速传入数据流。机器学习和人工智能的数据集可以达到数百TB到PB,通常是非结构化格式,如文本、图像、音频和视频,但包括半结构化内容,如Web点击流和系统日志。这使得这些数据集适用于对象存储或NAS文件系统。
AI要求和核心硬件元素机器和深度学习算法以数据为基础。数据选择、收集和预处理,例如过滤、分类和特征提取,是影响模型准确性和预测价值的主要因素。因此,数据聚合(整合来自多个来源的数据)和存储是影响硬件设计的AI应用程序的重要元素。
数据存储和AI计算所需的资源通常不会同步扩展。因此,大多数系统设计将两者解耦,在AI计算节点中使用本地存储设计为足够大且足够快以提供算法。
机器和深度学习算法需要大量的矩阵乘法和累加浮点运算。这些算法可以并行执行矩阵计算,这使得ML和DL类似于像素着色和光线跟踪等图形计算,这些计算由图形处理器单元(GPU)大大加速。
但是,与CGI图形和图像不同,ML和DL计算通常不需要双精度(64位)甚至单精度(32位)精度。这允许通过减少计算中使用的浮点位数来进一步提高性能。因此,尽管近十年来早期的深度学习研究使用了现成的GPU加速卡,但领先的GPU制造商英伟达已经建立了一条单独的数据中心GPU产品线,专为科学和人工智能工作负载量身定制。
电脑配置要求和硬件AI工作负载的典型服务器设计
对AI性能最关键的电脑组件配置如下:中央处理器: 负责操作VM或容器子系统,将代码分派到GPU并处理I/O。当前产品使用第二代XeonScalablePlatinum或Gold处理器,尽管使用第二代(罗马)AMDEpycCPU的系统正变得越来越流行。当前一代CPU增加了可显着加速ML和DL推理操作的功能,使其适用于利用先前使用GPU训练的模型的生产AI工作负载。
图形处理器: 处理ML或DL训练和(通常)推理,这是基于学习自动分类数据的能力,通常使用NvidiaP100(Pascal)、V100(Volta)或A100(Ampere)GPU进行训练,以及V100、A100或T4(图灵)进行推理。AMD的Instinct(Vega)GPU在系统供应商中的渗透率并不高。然而,一些OEM现在提供1U-4U或OpenComputeProject21英寸外形的产品。
内存: AI操作从GPU内存运行,因此系统内存通常不是瓶颈,服务器通常具有128到512GB的DRAM。当前的GPU使用嵌入式高带宽内存(HBM)模块(NvidiaV100为16或32GB,A100为40GB),它们比传统的DDR4或GDDR5DRAM快得多。因此,具有8个GPU的系统可能具有总计256GB或320GB的HBM用于AI操作。
网络: 由于AI系统通常聚集在一起以扩展性能,因此系统具有多个10gbps或更高的以太网接口。有些还包括用于集群内通信的InfiniBand或专用GPU(NVLink)接口。
存储IOPS:在存储和计算子系统之间移动数据是AI工作负载的另一个性能瓶颈。所以大多数系统使用本地NVMe驱动器而不是SATASSD。
总结GPU一直是大多数AI工作负载的主力,英伟达通过TensorCores、多实例GPU(并行运行多个进程和NVLinkGPU互连)等功能显着提高了它们的深度学习性能。然而,对速度和效率的日益增长的需求催生了大量新的人工智能处理器,如谷歌的TPU、英特尔Habana人工智能处理器、Tachyum通用处理器、WaveAISoC或基于现场可编程门阵列(FPGA)的解决方案,如MicrosoftBrainwave、云中人工智能的深度学习平台。