人工智能领域厉害人物 拉姆曼·乔杜里
原标题：人工智能领域厉害人物拉姆曼·乔杜里拉姆曼·乔杜里（RummannChowdhury）
ParityConsulting科学家
哈佛大学伯克曼·克莱因中心负责任的人工智能研究员
图片来源：COURTESYOFRUMMANCHOWDHURY
“很少有人提出这样的基本问题：人工智能本身应该存在吗?”
乔杜里在人工智能领域的职业生涯始于埃森哲（Accenture）负责任人工智能部门的负责人，她负责设计一种算法工具，用于识别和减少人工智能系统的偏见。她离职后创立了一家名为ParityAI的算法审计公司，该公司后来被推特（Twitter）收购。在那里，她领导了机器学习伦理、透明度和问责团队（这是一个由研究人员和工程师组成的团队，致力于减轻社交平台上算法带来的危害），她说，在埃隆·马斯克收购推特后，这项工作变得很有挑战性。
在8月举行的DEFCON31网络安全大会上，一群顶级人工智能开发者得到白宫的支持（她在其中起到了带头作用），将举办一场生成式人工智能“红队”测试活动，旨在通过评估Anthropic、谷歌、HuggingFace、OpenAI等公司的模型的异常和局限性来提高安全性。
作为监管方面的另一位人工智能专家，43岁的乔杜里最近在《连线》杂志上写道，应该建立生成式人工智能全球管理机构。她以脸书的监督委员会为例，说明该组织应如何组建。该委员会是一个跨学科的全球组织，专注于问责制。
乔杜里写道：“像这样的组织应该像国际原子能机构（IAEA）一样，持续通过专家咨询和合作来巩固其地位，而不是为其他从事全职工作的人提供副业。像脸书监督委员会一样，它应该接受来自行业的咨询意见和指导，但也有能力独立做出有约束力的决定，而各大公司必须遵守这些决定。”
她还推动在产品开发过程中进行她所谓的综合偏见评估和审计，这将允许对已经研发出的事物进行检查，但也可以在早期阶段就建立相关机制，以决定某些事物是否应该通过创意阶段的评估而走向下一阶段。
“很少有人提出这样的基本问题：人工智能本身应该存在吗?”她在一次关于负责任的人工智能的小组讨论中说。返回搜狐，查看更多
责任编辑：