pytorch共享gpu和专用gpu有什么区别

1GPU：计算机图显核心
11 GPU：计算机图形显示核心
GPU基本概念：图形处理器（graphics processing unit，缩写GPU），又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备（如平板电脑、智能手机等）上做图像和图形相关运算工作的微处理器。
GPU是显卡的处理器：显卡全称显示适配卡，又称显示适配器，用于协助CPU进行图像处理，作用是将CPU送来的图像信号经过处理再输送到显示器上，由主板连接设备、监视器连接设备、处理器和内存组成，GPU即是显卡处理器。
12 GPU擅长大规模并发计算
GPU工作原理：GPU的工作通俗的来说就是完成3D图形的生成，将图形映射到相应的像素点上，对每个像素进行计算确定最终颜色并完成输出，一般分为顶点处理、光栅化计算、纹理贴图、像素处理、输出五个步骤。GPU采用流式并行计算模式，可对每个数据行独立的并行计算。
GPU与CPU区别：CPU基于低延时设计，由运算器（ALU）和控制器（CU），以及若干个寄存器和高速缓冲存储器组成，功能模块较多，擅长逻辑控制，串行运算。GPU基于大吞吐量设计，拥有更多的ALU用于数据处理，适合对密集数据进行并行处理，擅长大规模并发计算，因此GPU也被应用于AI训练等需要大规模并发计算场景。
13 GPU可分为独立GPU和集成GPU
独立GPU：独立GPU一般封装在独立的显卡电路板上，使用专用的显示存储器，独立显卡性能由GPU性能与显存带宽共同决定。一般来讲，独立GPU的性能更高，但因此系统功耗、发热量较大。
集成GPU：集成GPU常和CPU共用一个Die，共享系统内存。集成GPU的制作由CPU厂家完成，因此兼容性较强，并且功耗低、发热量小。但如果显卡运行需要占用大量内存，整个系统运行会受限，此外系统内存的频率通常比独立显卡的显存低很多，因此一般集成GPU的性能比独立GPU更低。
14 GPU广泛运用在图显和并行计算场景
GPU拥有单一的强大并行计算能力，所以用途往往是需要大规模并行计算的场景。早期GPU多被用于2D和3D图形的计算和处理，因为图形数据的处理往往涉及到大量的大型矩阵运算，计算量大但易于并行化。近年由于大数据、人工智能发展，GPU也常常被用于需要大量重复计算的数据挖掘领域，如机器学习，深度学习等。
GPU使用场景：GPU被广泛地运用于PC、服务器、移动等领域。其中服务器GPU可做专业图形处理、计算加速、深度学习等应用，以独立GPU为主；移动端GPU主要采用集成GPU；PC根据使用用途不同，既可以搭载独立GPU，也可以使用集成GPU。
15 全球GPU巨头：NVIDIA、AMD
NVIDIA（英伟达）：创立于1993年，1999年发明了GPU，最初专注PC图形，后来拓展到密集计算领域，Nvidia利用GPU创建了科学计算、人工智能、数据科学、自动驾驶汽车、机器人技术、AR和VR的平台。 Nvidia是目前全球最大的独立GPU供应商，2020年营收1668亿美元，2021Q2 Nvidia全球独立GPU市场份额达到83%。
AMD（超威半导体）：成立于1969年，目前业内稀缺的可以提供高性能CPU、高性能独立显卡GPU、主板芯片组三大组件的半导体公司。2020年AMD营收976亿美元，其中计算和图形（包括CPU、GPU、APU等）业务营收643亿美元，2021Q2 AMD全球独立GPU市场份额达到17%。
2GPU两大应用场景：图显、计算
21 2020全球GPU市场规模接近千亿美元
2020年全球GPU市场规模达到9991亿美元。3D图像显示、人工智能深度学习的需求支撑GPU市场持续增长，根据Verified Market Research数据，2020年全球GPU市场规模达到9991亿美元，预计2028年达到15816亿美元，CAGR为59%。
测算2020年中国大陆独立GPU市场规模约235亿美元。中国是全球GPU市场重要组成部分，2020年Nvidia、AMD在中国大陆收入占比分别为233%、239%，我们假设中国大陆独立GPU市场占全球235%，测算2020年中国大陆独立GPU市场规模约为235亿美元。
22 PC GPU：2020年全球出货394亿片
PC（个人电脑）是GPU重要应用场景，根据Jon Peddie Research（JPR）数据，2020年全球GPU出货394亿片，同比增长179%。
23 PC GPU：Nvidia和AMD占据独立GPU市场
Intel领导集成GPU市场。Intel（英特尔）是全球最大的CPU制造商，2021Q2占据全球775%的x86 CPU市场，集成GPU集成在CPU中，Intel凭借CPU市场地位，占据全球PC GPU大部分市场。根据JPR数据，2021Q2 Intel占据全球683%的PC GPU市场份额，Nvidia和AMD市场份额分别为152%、165%。
Nvidia和AMD占据独立GPU市场。在独立GPU领域，Nvidia具备明显的份额领先，2021Q2市占率达到83%。2006年AMD收购ATI，2010年放弃ATI品牌后推出AMD Radeon（镭龙）独立显卡系列，2021Q2 AMD独立PC GPU市场份额17%。
24 AI服务器与加速芯片
AI服务器：通常搭载GPU、FPGA、ASIC等加速芯片，利用CPU与加速芯片的组合可以满足高吞吐量互联的需求，为自然语言处理、计算机视觉、机器学习等AI应用场景提供强大的算力支持，支撑AI算法训练和推理过程。
AI加速芯片：由于CPU并不适合大规模并行计算，因此需要加速芯片执行AI算法，目前AI加速芯片主要包括图形处理器（graphics processing unit，GPU）、现场可编程门阵列（field-programmable gate array，FPGA）、专用集成电路（application specific integrated circuits，ASIC）、神经拟态芯片等。
25 GPU是AI服务器首选加速方案
服务器是AI核心基础设施。根据IDC数据，2020年中国AI基础设施市场规模为393亿美元，同比增长268%，并将在2024年达到780亿美元，其中2020年服务器市场规模占AI基础设施的87%以上，承担着最为重要的角色。
互联网行业是AI服务器最大采购行业。根据IDC数据，2020年上半年，互联网占整体加速计算服务器市场近60%的份额，同比增持超过100%；政府行业和服务业分别依次位居第二位和第三位。
GPU服务器是AI加速方案首选。IDC预计2021年中国GPU服务器占比919%左右的市场份额，是数据中心AI加速方案首选。根据IDC数据，2019年中国GPU服务器市场规模达到20亿美元，预计2024年将达到64亿美元。
26 AI服务器通常配置多个GPU芯片
GPU加速服务器能够提供优秀的浮点计算能力，从容应对高实时、高并发的海量计算场景，例如深度学习、科学计算、3D动画渲染、CAE等应用场景。
3NVIDIA：全球GPU巨头
31 全球GPU巨头
Nvidia成立于1993年，1999年上市，市值近10年增长超过83倍，近6年增长超过49倍。截至2021年11月5日，Nvidia总市值7438亿美元，总市值美股排名第七，是目前全球市值最大的半导体公司。（报告来源：未来智库）
32 三大因素推动地位提升
技术革新、场景拓展、外延并购，Nvidia引领全球GPU发展。
GPU架构：Nvidia坚持每2-3年推出一代新的GPU架构，持续保持技术领先，新的Ampere已经采用7nm工艺；应用场景：从最初图形处理到通用计算，再到AI深度学习和自动驾驶，Nvidia不断推动GPU应用场景的突破；外延并购：2000-2008年Nvidia密集收购额多家公司，涵盖显卡、图形处理、半导体等多个领域，2020年宣布计划收购ARM。
33 近年业绩高速增长
Nvidia产品主要分为两大类：图形处理、计算&网络。下游市场包括游戏、专业可视化、数据中心、汽车四大类。
2020年Nvidia营收1668亿美元（yoy+527%），净利润433亿美元（yoy+549%），其中图形处理业务营收983亿美元，计算&网络业务营收684亿美元。除去2019年游戏市场需求波动造成业绩下滑外，Nvidia近5年营收、利润均保持较快增长。
得益于基于Ampere架构新GPU产品带动游戏业务高增，以及数据中心对算力需求旺盛，2021上半年Nvidia营收、净利润快速增长。
34 游戏是最大市场，数据中心市场增速较快
Nvidia下游市场分为四类：游戏、专业可视化、数据中心、汽车，各市场重点产品如下：
游戏：GeForce RTX/GTX系列GPU（PCs）、GeForce NOW（云游戏）、SHIELD（游戏主机）；专业可视化：Quadro/RTX GPU（企业工作站）；数据中心：基于GPU的计算平台和系统，包括DGX（AI服务器）、HGX（超算）、EGX（边缘计算）、AGX（自动设备）；汽车：NVIDIA DRIVE计算平台，包括AGX Xavier（SoC芯片）、DRIVE AV（自动驾驶）、DRIVE IX（驾驶舱软件）、Constellation（仿真软件）。
35 计算业务驱动高成长
计算业务是Nvidia成长的主要驱动力：数据中心已成规模，智能汽车将进入收获期。
在数据中心市场，Nvidia拥有芯片、硬件、硬件的全栈布局。得益于全球AI应用场景的快速增加，对算力的需求飙升。是Nvidia成长最快的市场，2020年营收达到约6696亿美元，近4年CAGR达到685%，远高于游戏市场的176%。2020年Nvidia数据中心市场营收占比已经超过40%，预计未来仍将继续提升。
在智能汽车市场， Nvidia形成了全栈式自动驾驶解决方案。AGX Xavier芯片于2018年开始出货，下一代自动驾驶芯片Orin计划用于2022年量产，算力将达到254TOPS，目前已经获得蔚来、理想、沃尔沃、奔驰等多个整车厂定点项目。我们认为2022年高阶自动驾驶汽车或将集中落地，Nvidia自动驾驶将进入收获期。
36 中国大陆收入贡献提升
Nvidia中国大陆收入快速增长。2020年Nvidia来自中国大陆收入3886亿美元，同比增长423%，近4年CAGR达到314%，同期Nvidia整体营收CAGR为246%。
Nvidia中国大陆收入占比呈上升趋势。2020年Nvidia中国大陆收入占比达到233%，相比于2016年的189%提升44pct，2021上半年Nvidia中国大陆收入占比256%，上升趋势明显。
我们预计中国大陆占比仍将提升。图显业务层面，人均收入提升将带动PC需求增加；计算业务层面，目前中国大陆在AI算法、应用层面具有领先优势，自动驾驶场景也将率先得到释放。
4景嘉微：国产GPU领军
41 国内唯一商用GPU公司
景嘉微成立于2006年，公司主营业务分为图形显控、小型专用化雷达、GPU芯片三类。其中图显、雷达产品主要面向军用市场，GPU芯片产品包括JM5400、JM7200，其中JM5400主要应用于公司图显模块中，JM7200成功拓展了民用和信创市场。2021年9月，公司第三代GPU芯片JM9成功流片，目前正在进行性能测试。
42 两个系列、三款GPU量产应用
景嘉微已完成两个系列、三款GPU芯片量产应用。第一代GPU产品JM5400于2014年流片成功，主要支撑军用装备，已在国产军用飞机上实现了对ATI M9、M54、M72等芯片的替代；第二代产品JM7200于2018年8月流片成功，性能与 Nvidia的GT640显卡相近。在JM7200基础上，公司又推出

网络流量和日志服务器需求容量比例是根据访问量测算的，每天情况都有不同
网络服务器的安全策（dns,dhcp,apache,vsftp,nfs 等） Linux 网络防火墙的搭建 iptables 配置安全的透明代理服务器iptables+squid 安装配置 OpenSSH 服务器 Linux 网络环境下的 构建 Linux 下的网络扫描和嗅探 nmap sniffer Linux 下的网络流量监控 cati Linux 系统日志服务管理 syslog

楼主您好，一台服务器的价格是由机房规格、机房线路、网络质量、服务器型号、带宽大小、服务商规模等多方面综合决定的。，这些都是直接影响服务器价格的关键因素。目前国内机房的线路分为电信、联通、双线、多线。一般来说，单线机房比双线或多线便宜。但是你一定要对硬件非常了解，对自己买的服务器质量非常清楚，这样才能省点钱。但是如果你对服务器的硬件不太了解，建议你选择每年交产权，找正规的IDC服务商帮你更划算。
服务器的成本与你选择的机房电路、配置水平、带宽大小有关。没有固定的标准。拿一个普通的至强四核处理器来说。8G内存配置为例。网通和电信机房一般每年四五千。双线或BGP房间一般每年在六七千左右。这是一个大概的参考标准。希望能帮到你。
服务器的成本主要由硬件配置、带宽和防御组成。要求不太高的话，一般一年5000左右。如有特殊需要，价格另算。这里，我们讨论的是物理主机。如果想租低价的服务器，可以找深圳姬友网719416666，国内外都有，价格也不算太贵。
租用海外服务器一般有两种费用，一种是按配置收费，一种是按数据中心环境收费。1服务器CPU、内存、硬盘租用海外服务器按配置收费，根据业务需求选择。不同类型的业务或者同一类型的业务运营对服务器CPU、内存、硬盘的要求是不同的。正规的IDC机房都配备了硬件集群防火墙，可以有效防止网络攻击。对于特别容易受到DDOS攻击和CC攻击的金融行业和游戏行业，需要租用单机防御的服务器。防御越高，服务器租赁价格越高。HostEase为美国高防服务器提供了非常高的性价比。有兴趣的可以去了解一下。服务器的带宽大小和模式也影响着海外服务器的租赁价格。比如香港服务器分为本地带宽和国际带宽。两者价格不同，国际带宽比本地带宽贵很多。服务器的带宽越大，就越贵。第二，租用海外服务器是按照机房环境收费的。不同等级的数据中心、不同的网络设备(开关、恒温器)等。与所能提供的网络质量密切相关。自然等级越高，数据中心服务器的租赁价格越高。由于服务器是24小时运行的，在运行的过程中难免会遇到一些问题，所以需要专业的服务团队来解决问题。售后服务越好，用户租用海外服务器可能付出的价格就越高。但也有可能是售后服务很好的IDC厂商，但其收费并没有上调，比如RAKsmart美国服务器提供商，虽然他们24小时在线提供专业客服，但其收费并没有上调。

名思义，服务器电源就是指使用在服务器上的电源（POWER），它和PC（个人电脑）电源一样，都是一种开关电源。
服务器电源按照标准可以分为ATX电源和SSI电源两种。ATX标准使用较为普遍，主要用于台式机、工作站和低端服务器；而SSI标准是随着服务器技术的发展而产生的，适用于各种档次的服务器。
ATX标准
ATX标准是Intel在1997年推出的一个规范，输出功率一般在125瓦～350瓦之间。ATX电源通常采用20Pin(20针)的双排长方形插座给主板供电。随着Intel推出Pentium4处理器，电源规范也由ATX修改为ATX12V，和ATX电源相比，ATX12V电源主要增加了一个4Pin的12V电源输出端，以便更好地满足Pentium4的供电要求（2GHz主频的P4功耗达到524瓦）。
SSI标准
SSI（Server System Infrastructure）规范是Intel联合一些主要的IA架构服务器生产商推出的新型服务器电源规范，SSI规范的推出是为了规范服务器电源技术，降低开发成本，延长服务器的使用寿命而制定的，主要包括服务器电源规格、背板系统规格、服务器机箱系统规格和散热系统规格。
根据使用的环境和规模的不同，SSI规范又可以分为TPS、EPS、MPS、DPS四种子规范。
EPS规范（Entry Power Supply Specification）：主要为单电源供电的中低端服务器设计，设计中秉承了ATX电源的基本规格，但在电性能指标上存在一些差异。它适用于额定功率在300瓦～400瓦的电源，独立使用，不用于冗余方式。后来该规范发展到EPS12V（Version20），适用的额定功率达到450瓦～650瓦，它和ATX12V电源最直观的区别在于提供了24Pin的主板电源接口和8Pin的CPU电源接口。联想万全2200C/2400C就采用了EPS标准的电源，输出功率为300W，该电源输入电压宽范围为90～264V，功率因数大于095，由于选用了高规格的元器件，它的平均无故障时间（MTBF）大于150000小时。
TPS规范（Thin Power Supply Specification）：适用于180瓦～275瓦的系统，具有PFC(功率因数校正)、自动负载电流分配功能。电源系统最多可以实现4组电源并联冗余工作，由系统提供风扇散热。TPS电源对热插拔和电流均衡分配要求较高，它可用于N+1冗余工作，有冗余保护功能。
MPS规范（Midrange Power Supply Specification）：这种电源被定义为针对4路以上CPU的高端服务器系统。MPS电源适用于额定功率在375瓦～450瓦的电源，可单独使用，也可冗余使用。它具有PFC、自动负载电流分配等功能。采用这种电源元件电压、电流规格设计和半导体、电容、电感等器件工作温度的设计裕量超过15%。在环境温度25度以上、最大负载、冗余工作方式下MTBF可到150000小时。
DPS规范（Distributed Power Supply Specification）：电源是单48V直流电压输出的供电系统，提供的最小功率为800瓦，输出为+48V和+12VSB。DPS电源采用二次供电方式，输入交流电经过AC-DC转换电路后输出48V直流电，48VDC再经过DC-DC转换电路输出负载需要的+5V、+12V、+33V直流电。制定这一规范主要是为简化电信用户的供电方式，便于机房供电，使IA服务器电源与电信所采用的电源系统接轨。
虽然目前服务器电源存在ATX和SSI两种标准，但是随着SSI标准的更加规范化，SSI规范更能适合服务器的发展，以后的服务器电源也必将采用SSI规范。SSI规范有利于推动IA服务器的发展，将来可支持的CPU主频会越来越高，功耗将越来越大，硬盘容量和转速等也越来越大，可外挂高速设备越来越多。为了减少发热和节能，未来SSI服务器电源将朝着低压化、大功率化、高密度、高效率、分布式化等方向发展。服务器采用的配件相当多，支持的CPU可以达到4路甚至更多，挂载的硬盘能够达到4～10块不等，内存容量也可以扩展到10GB之多，这些配件都是消耗能量的大户，比如中高端工业标准服务器采用的是Xeon（至强）处理器，其功耗已经达到80多瓦特（W），而每块SCSI硬盘消耗的功率也在10瓦特(W)以上，所以服务器系统所需要的功率远远高于PC，一般PC只要200瓦电源就足够了，而服务器则需要300瓦以上直至上千瓦的大功率电源。在实际选择中，不同的应用对服务器电源的要求不同，像电信、证券和金融这样的行业，强调数据的安全性和系统的稳定性，因而服务器电源要具有很高的可靠性。目前高端服务器多采用冗余电源技术，它具有均流、故障切换等功能，可以有效避免电源故障对系统的影响，实现24×7的不停顿运行。冗余电源较为常见的是N+1冗余，可以保证一个电源发生故障的情况下系统不会瘫痪（同时出现两个以上电源故障的概率非常小）。冗余电源通常和热插拔技术配合，即热插拔冗余电源，它可以在系统运行时拔下出现故障的电源并换上一个完好的电源，从而大大提高了服务器系统的稳定性和可靠性。
在购买服务器时要注意一下本机电源，起码应该关注如下两点:
1电源的品质，包括输出功率、效率、纹波噪音、时序、保护电路等指标是否达标或者满足需要;
2注意电源生产厂家的信誉、规模和支持力度，信誉比较好、规模较大、支持及时的厂家，比如台达、全汉、新巨等等，一般质量较可靠，在性价比方面也会好很多。选购时具体可参考以下指标：
功率的选择：市场上常见的是300W和400W两种，对于个人用户来说选用300W的已经够用，而对于服务器来说，因为要面临升级以及不断增加的磁盘阵列，就需要更大的功率支持它，为此使用400W电源应该是比较合适的。
安规认证：只有严格地考虑到产品品质、消费者的安全、健康等因素，对产品按不同的标准进行严格的检测，才能通过国际合格认证，安规认证是我们选购电源的重要指标，这应该是我们选择电源时最重要的一点。因为它关系着我们的安全和健康。不好的电源噪声很大，对人的身体有影响。在这方面省下几百块钱是得不偿失的。现在的电源都要求通过3C认证。（3C认证是"中国国家强制性产品认证（China Compulsory Cerlification）"的简称。实际上是将CCEE（中国电子电工产品安全认证）、CCIB（中国进口电子产品安全认证）、EMC（电磁兼容性认证）三证合一，在2003年5月1日后强制执行3C认证。）
电压保持时间：对于这个参数主要是考虑UPS的问题，一般的电源都能满足需要，但是如果UPS质量不可靠的话，最好选一个电压保持时间长的电源。
冗余电源选择：这主要针对对系统稳定性要求比较高的服务器，冗余一般有二重冗余和三重冗余。
对主板的支持：这个因素看起来不重要，在家用PC也很少见，但在服务器中却存在这种现象，因此在选购时也要注意。

如果是测试网速最简单的方法是在服务器上面安装360或者电脑管家等软件自带有网速测试的工具如果是测试带宽大小可以在服务器上放一个压缩包文件做成FTP下载点然后发给多个朋友同一时间下载该文件下载的过程中打开服务器的任务管理器在联网选项中查看到带宽的使用情况
以上回答希望帮到你有服务器问题需要帮忙的可以找我

这个主要考虑的是你公司的行业和要展示的内容，为了长期发展，建议2g-5g，这样5-10年都不会出现服务器空间不够的问题，客户打开也不存在加载慢，卡顿的问题，给了客户良好的体验，也是在宣传公司实力。在浏览器搜索方面，网站的响应速度也有加分，在浏览器里排名也能上得去。

做网站要长久考虑，随便做一个自己公司内部看的建议就不用浪费时间了，成本都差不多，2g和5g现在价格也不高，基本就是1200以内，单独租赁除外。长久做的话建议做好一点，先把主菜单和内容列出来，前期做好规划，内容测算好。更新频率等都计算下。不做优化也没有效果，因此长期做还是建议直接做5g的。

---