反AI浪潮已起马斯克等上千人要求暂停人工智能实验
【CNMO新闻】3月29日，CNMO注意到，根据相关媒体的消息，未来生命研究所（FutureofLifeInstitute）于今日公布了一封公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。
马斯克
据悉，目前，辛顿、马库斯和马斯克等人均签署了这封公开信。未来生命研究所的这封公开信题为“暂停巨型AI实验：一封公开信”，于29日解封。未来生命研究所的公开信已有1079人签署。信中写道：广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，这一观点得到了顶级人工智能实验室的承认。
自从问世以来，OpenAI旗下的ChatGPT便引发了广泛的关注，人工智能技术的庞大潜力和应用场景得到了各行各业的认可，微软和谷歌等海外科技巨头均计划在人工智能领域投入更多的技术和资金，而国内的百度公司也在不久之前发布了和ChatGPT类似的文心一言产品。但是与此同时，不少人也非常担忧人工智能技术对于如今人类社会结构将会造成巨大的冲击，人工智能技术毁灭人类社会的未来将不会仅限于在科幻作品中上演。
值得一提的是，此次参与号召暂停巨型AI实验的马斯克，其本人是特斯拉、推特等多家公司的掌控者，也是OpenAI的创始人之一，但是在2018年，马斯克辞去了在OpenAI的职务。
马斯克难掩担忧：AI让我“压力山大”
常年与监管机构起冲突的马斯克表示，监管部门应该对人工智能（AI）领域进行监管，他在长达三个多小时的投资者日活动接近尾声时叹气道：AI让我感到压力山大。当地时间周三，特斯拉在奥斯汀超级工厂揭开了宏图第三篇章的神秘面纱，并公布了一段有关人形机器人Optimus的视频。打开网易新闻查看精彩图片视频来源：澎湃新闻从这段视频可以看到，Optimus比去年AI日上展示时相比，外形更加精致，动作更加灵活，还能协同组装自己的“同伴”。特斯拉其他高管介绍称，特斯拉将利用AI技术训练车辆自动驾驶，不过当一位分析师问及AI能否帮助特斯拉制造汽车时，马斯克的态度显然没有那么乐观。马斯克说：我不认为AI会很快帮助我们制造汽车。真到那个时候...我们都没有工作的必要了。作为一个“AI威胁论”支持者，马斯克对于AI一直深感担忧。去年12月，马斯克在推特上表示，ChatGPT“好的吓人，我们离危险的强人工智能不远了”。在刚刚结束的投资者日活动上，马斯克再次强调了他对AI的担忧。马斯克表示:我们需要某种类似监管机构之类的机构来监督AI的发展，确保它的运作符合公共利益。这是相当危险的技术，我担心自己可能做了一些事情来加速这一进程。面对AI技术的野蛮生长，监管机构确实正在摩拳擦掌，准备在适当的时间重拳出击。在美国，联邦贸易委员会正在密切关注使用人工智能算法非法收集用户数据的公司，国家标准和技术研究院今年1月公布了《人工智能风险管理框架》，指导企业在开发和部署AI系统时降低安全风险。欧盟将在今年夏天完成人工智能法案（AIAct）的最终版本。不过，比起对AI威胁人类的担忧，马斯克更加担心当下监管对特斯拉自动驾驶的调查。此前有消息称，美国证监会SEC正在对马斯克进行调查，SEC怀疑2016年10月特斯拉用来宣传其自动驾驶技术的视频是制作出来的，并不是特斯拉汽车真的在自动驾驶。另外，美国国家公路交通安全管理局（NHTSA）正在对特斯拉自动驾驶仪进行调查。但马斯克表示，特斯拉在汽车安全自动驾驶方面开发的AI技术显然是有用的。“我不知道。特斯拉在AI领域做得很好。”马斯克停顿了一下，然后叹了口气。“这件事让我压力很大。我不知道该说些什么。”值得一提的是，马斯克最近在AI领域似乎有了新的动作。有消息称，马斯克最近几周接触了人工智能研究人员，打算成立一个新的研究实验室，开发“网红”聊天机器人ChatGPT的替代品。近几周，ChatGPT版必应搜索引擎对用户胡说八道，向用户示爱，突然发脾气，遭到质疑时还会PUA用户，种种劣迹点燃了用户的怒火，也引来了马斯克的冷嘲热讽。马斯克要用人工智能对抗人工智能
关注文章下方公众号，即可免费获取AIGC最新学习资料
导读：马斯克对人工智能可能变得失控并“摧毁人类”的担忧促使他采取行动，发起了一个名为“TruthGPT”的项目。
本文字数：1400，阅读时长大约：9分钟
亿万富翁埃隆·马斯克在谈到人工智能（AI）的危险时，从他的虚构角色托尼·斯塔克那里得到了启示。
在漫威电影宇宙中，托尼·斯塔克创造了一个名为“奥创”的人工智能，作为全球防御机制，以保护世界免受即将到来的危险。然而，奥创最终发展出了一种扭曲的观点，认为人类是世界上的主要威胁，并发誓要将他们从地球上消灭。
许多人可能不知道，埃隆·马斯克实际上是OpenAI的创始人之一，该组织负责开发全球公认的ChatGPT，被广泛认为是最复杂的商业可用AI聊天机器人。
马斯克对人工智能可能变得失控并“摧毁人类”的担忧促使他采取行动，发起了一个名为“TruthGPT”的项目。
马斯克已经在今年2月通过一条推文提出了反对盈利型人工智能产品的对抗性人工智能的想法。事实上，他已经组建了自己的机器学习A团队一段时间了。但是，当这位亿万富翁在接受福克斯新闻电视主持人塔克·卡尔森（TuckerCarlson）的采访时讨论了人工智能的潜在危害时，这个想法又引起了公众的关注。
TruthGPT：马斯克再次尝试使AI安全
在采访中，埃隆·马斯克概述了威胁人工智能安全的许多危险，并强调了需要一种新的、更安全的开发方法。
他讨论的第一个风险是OpenAI转向盈利企业。这一举动显然与该组织最初成立的开源和非营利目标相矛盾。马斯克对自己参与OpenAI创立的表达了失望，因为该组织现在已经生产出一款经常产生幻觉、容易被黑客攻击的人工智能聊天机器人。
此外，OpenAI的行为已经发生了变化，如其决定保留有关其新的GPT-4大型语言模型（LLM）的关键信息。
第二个风险是缺乏人工智能政府监管机构。这使得人工智能战场没有强有力的竞争和道德规则。尽管行业对监管的需求正在增长，但缺乏监督机构会危及公众的安全。
第三个风险是埃隆·马斯克与谷歌联合创始人拉里·佩奇的互动。在采访中，马斯克明确表达了对佩奇的怀疑和失望，因为他明显对人工智能安全不感兴趣，并且对技术对人类的影响完全漠视。
当他坚持在人们雄心勃勃地推出超级智能人工智前应优先考虑人类安全时，他甚至被谷歌联合创始人所嘲笑。据马斯克称，佩奇嘲笑地称他为“物种主义者”，这指的是他对人类的关注。这是马斯克的“最后一根稻草”，促使他在人工智能安全方面发挥更积极的作用。
TruthGPT、X.AI和GPU
目前，“TruthGPT”仍然主要是一个概念，因为有关其开发的详细信息非常有限。但是，这位亿万富翁的另一个人工智能计划“X.AI”正在慢慢地形成，因为它已经在今年3月成立了。事实上，它已经有两个董事，马斯克（当然）和他家族办公室的主任贾里德·伯查尔。
马斯克在采访中强调了两个主要的人工智能风险：信息的复杂操纵和人类在奇点到来时的无知。
他认为，人工智能的先进算法和不断发展的能力很快就能够操纵公众的感知和决策。虽然它可能不像“终结者”级别的威胁那么可怕，但先进聊天机器人传播宣传和掩盖真相的能力可能会对我们的社会造成灾难性后果。
想象一下操纵公众反对特定宗教、拒绝和改变先前持有的价值观，甚至支持战争。这些只是人工智能未来可能行使的大规模操纵之一。
他强调的下一个威胁是人类在奇点最终实现时的无知。几千年来，人类一直是地球上最聪明的生物，这也成为了我们的定义特征。
但现在，我们创造了一个新生命体，它很快就能超越我们的集体智慧，并且比我们聪明得多，这是我们从未面对过的令人不安的情景。
最近的报道还表明，埃隆·马斯克已经购买了大量的图形处理器（GPU），这是基础性大型语言模型开发中至关重要的组件。此外，据报道，他还在寻求来自特斯拉和SpaceX投资者的资金，以为他的新公司配备急需的助推器。
AI洞察趋势，解读商业变革
免费获取AIGC最新学习资料
欢迎关注微信公众号