人工智能对社会有益,但也会产生一些消极影响
通用人工智能的出现是一个转折点，但它也可能是危险的。
改变我们生活方式的技术一直受到质疑，特别是信息技术。当新技术取代了效率低下的方式与世界接轨时，鼓吹技术将如何对人类产生负面影响的末日宣言便甚嚣尘上。曾经甚至都有人说，印刷机是我们文化灭亡的预兆。然而，从长远来看，许多信息技术对现代世界做出了积极贡献。
人工智能尚处于起步阶段，因此从某种意义上说，人类对它的不信任与任何其他改变游戏规则的技术没有什么不同。在未来25到50年内，人工智能可能会重蹈印刷机、早期计算机或汽车的覆辙：初始应用将变得越来越强大。各界权威人士都会警告人们其巨大的潜力和潜在的灾难。而一旦争议平息，人工智能可能将为社会贡献净正增益。
需要明确的是，对狭义人工智能的短期视角认为它们只擅长于特定任务。今天的人工智能仍然很简陋，一般只擅长完成一件事。我认为狭义人工智能在未来十年能力已被高估，但我仍然相信我们将在不久的将来大受裨益。
通用人工智能能让事情变得更加有趣，但它也可能是危险的。那时我们会看到机器学习达到与人类旗鼓相当甚至超越人类的程度，那时的程序可以执行一系列认知任务，也可以做得比人类更好。通用人工智能的出现意味着以前的增产技术已不再重要，因为我们根本无法预测人工智能可以将产量提高多少。
即使人工智能在短期内对社会有益，但它也会产生一些消极影响。除非我们认真对待风险和收益，否则在我们的有生之年，可能将面临安全、信息和生存方面的威胁，因为人工智能变得更聪明。
不久的将来
迄今为止，人工智能的实际应用主要表现在在自然语言和图像处理上，而传统计算机很难做到这一点。狭义的人工智能能提高工作效率，否则这些完成这些任务的过程就会被减缓或使人类感到厌烦。所以如果能正确使用人工智能，将对商业产生全面的积极影响。
更重要的是，人工智能将在不久的将来带来两项重大进步，挽救数百万人的生命：自动驾驶汽车和人工智能驱动的医学。
每年全世界有超过100万人死于汽车事故，其中绝大多数是由于人为错误，包括酒驾。自动驾驶汽车可以使驾驶死亡率降低10倍。我们已经看到像Uber这样的公司在努力制止自动驾驶汽车上路(尽管它们投入了数十亿美元)，但即使从最悲观的角度看，自动驾驶汽车也将在未来20年内上路，供私人使用。
人工智能驱动的医学也能带来令人难以置信的潜在好处。人工智能在医疗领域的应用证明它将在医药工业中发挥革命性的作用。目前，将一种药物投放到美国市场的成本远远超过十亿美元。这迫使制药公司必须优先考虑大众药和所谓的救命药，因为消费者可能会想法设法为这些药物买单。人工智能可以预测哪些药物对某一特定疾病有效，这将大幅降低公药物研发成本和风险，同时还能减少在人类和动物身上进行药物测试。此外，人工智能引导的DNA分析可能会掀开个性化医疗时代的序幕。
怨恨与错误信息危机
随着技术的发展，挑战也将随之增加。第一个关键挑战在于，人们对人工智能越来越不满，因为它正在抢夺人类的工作，例如驾驶卡车或照顾病人。机器人正从人类身上抢饭碗，这并不是一个新的问题。这一负面作用的影响程度将取决于社会重新分配资源和调整工作岗位的能力。
第二个挑战是一个错误的信息生态系统，致使人类不可能对其做出正确的判断。当机器学习能创造更好、更细致的信息时，人类将需要数字验证信息是真实的——或者至少不是假的。但几乎可以肯定的是，它将变成一场猫鼠游戏：随着验证变得越来越严格，造假行为也会变得更完善。
我相信在我们的有生之年，人工智能驱动的错误信息危机有可能发生。人工智能已经可以令人信服地操纵图像和视频。如女明星的面孔被叠加在色情照片和视频上而难辨真假。世界各国领导人也正“被”说出荒谬或煽动性的言论。
假新闻只是其中一个例子。个人将面临声誉(伪造裸照发送给同事或网上发布的虚假的报复性色情照片)、财务(影响信用的伪造银行文件)和法律地位(虚假音频、视频或其他犯罪证据)上的风险。这并不是危言耸听，这很有可能成为常态。
如果人们无法分辨什么是真实的或什么是假的，那么个人责任就会被抛到九霄云外。即便在现在，战略人员也在使用人工智能创建的媒体作为躲避公众舆论的一种方式。例如，如果一个人被录下了带有性别歧视言论的录音带，他可以说这盘磁带是假的。当人工智能足够好时，那就很难证明他说的话了。在某种程度上，先进技术的简单存在将足以使人们对几乎任何信息产生怀疑。
除了对个人及其家人的风险外，人工智能还会构成全球安全隐患。人工智能创造的情报或媒体可用于制造一场政治风暴、引发骚乱，甚至掀起第三次世界大战。
长期来看：超级人工智能
到目前为止，最大的威胁是由通用人工智能构成的。像人类一样聪明的人工智能(或更高级)是否可能被创造出来也是一个问题。但是，除非我们找到证据证明人类无法弄清楚人类智能的产生方式，否则超级人工智能的开发只是时间问题。然而，尽管雷·库兹韦尔说过，但我不相信在我们的有生之年会创造出超人类的人工智能。
人工智能在大多数任务中达到甚至超多人类水平的合理时间线约为250年。任何历史上需要利用人类智慧来做的任何事情——建立机器、解决问题、做出重要决策——都将由机器更有效地处理。也许会有一些杰出的数学家来计算宇宙的方程式，但我们其余的人将无法给社会贡献太多。
在这个世界上，大多数人可能会依靠普遍基本收入。我们可以自由地与自己、朋友和家人一起学习和享受时光。但我认为这更可能使我们变得懒惰、无心向学，成为非理性的人，形成一层社会的外壳，就像在《美丽新世界》一样。对普遍基础收入的持续长期研究可能揭示这将如何影响我们。
我同意已故斯蒂芬·霍金的观点，他认为人工智能的诞生可能是“我们文明史上最糟糕的事件。”因为我们根本不知道创造超级人工智能的结果，我们需要对这种可能性保持高度谨慎，因为这可能是人类历史上最好或最糟糕的事件之一。
还有待观察的是，这种好处是否会超过人工智能和机器学习带来的负面影响。人工智能已经打开了通往可能由错误信息统治时代的大门。从伪造的银行对账单到世界领导人宣布虚假战争，人工智能创造的媒体将使我们对我们所读、所看和听到的东西产生怀疑。一旦我们深入研究这项技术的可能性，就会得出“人类会被机器取代”的结论。而这些也将是需要解决的大问题，能解决这些问题的公司也将是那些价值数百亿美元的巨头们。除了技术，我没有看到任何其他解决方案。
我们能做的最重要的事情就是开始讨论如何处理通用人工智能。我们需要了解，我们是否能够建立有效的保障措施，例如阿西莫夫的三大机器人法则，以控制任何可以想象的超级人工智能。
我希望我错了，但我是怀疑主义者。