发布时间:2025-07-31 16:26:49 浏览次数:4
新计划指示美国商务部修订人工智能风险管理框架,这可能会取消那些为了与联邦政府开展业务而被视为“觉醒”的保护措施。
特朗普政府于7月23日公布了其所谓的《人工智能行动计划》,代号为“赢得竞赛”。该计划强调通过放松管制来加速人工智能创新--承诺修订人工智能安全方面的联邦指导方针,支持开放模型的开发,并确保初创企业和研究机构能够获得大规模的计算能力。
尽管健康科技行业反复呼吁确保各州在人工智能监管方面保持一致,但政府在该行动计划中警告,联邦资金决策将考虑各州如何处理人工智能监管。一位专家表示,他预计会出现新一轮诉讼潮,作为回应,全国护士联盟和其他组织已签署协议,以制定一项“人民人工智能行动计划”。
更快的吸收与“高风险”考虑
该计划是唐纳德·特朗普总统在1月23日签署的关于人工智能的行政命令“消除美国在人工智能领域的领导障碍”的产物。该文件提出,人工智能有望带来“文艺复兴,包括在医学领域取得突破。
上周,当特朗普在华盛顿特区的AI峰会上登台宣传该计划时,他称赞了在场的科技领袖们,称他们为最具智慧的力量,是其中最强大的一股力量”。这位自诩为“交易瘾君子”的人将旨在推动AI主导地位的集体努力描述为“重新确立美国所应拥有的未来这一历史性行动”。
在新的《人工智能行动计划》中,拜登政府承诺将撤销一些由拜登政府制定的规定,这些规定旨在确保人工智能在包括医疗保健在内的各个领域的安全和可靠发展。
“美国许多至关重要的领域,如医疗保健,在采纳新技术方面尤其缓慢,这源于多种因素,包括对该技术的不信任或缺乏了解、复杂的监管环境,以及缺乏明确的治理和风险缓解标准,”政府表示。
将设立监管沙盒,以方便快速测试人工智能工具。还将启动特定领域的努力,以制定人工智能系统的国家标准
“协调的联邦努力将有助于在美国工业界建立一个动态的'先试后用’的文化。
该计划提到要理解人工智能系统,以便在“高风险环境中”安全应用,并强调进行严格评估对于评估人工智能系统的性能和可靠性至关重要。因此,它指示联邦机构起草相关指导方针以进行人工智能系统评估,并组织黑客松来测试人工智能系统的洞和有效性。
《人工智能行动计划》的主要目标是通过消除官僚障碍、构建强大的人工智能基础设施和为其提供动力的能源来源,以及确立美国的人工智能作为全球标准,来推动创新。
将国家置于防御状态
EHR协会赞扬了联邦政府对“推进安全、有效和创新的人工智能”的承诺。该健康技术供应商组织也在与《医疗保健IT新闻》分享的一份声明中重申了“呼吁采用统一的、基于风险的监管模式”
“碎片化的国家规定可能减缓创新并增加合规的复杂性,从而阻碍创新和采用,”Altera Digital Health的利·伯切尔表示,他是EHR协会执行委员会的主席。“我们期待与监管机构以及受影响的利益相关者合作,以确定实现《人工智能行动计划》目标的最佳前进路径。
虽然该计划要求联邦政府寻求企业的意见,以识别和消除监管障碍,但它也将在资金决策中考虑各州的AI监管环境
“首先要回答的问题将是透明度水平,以确定【联邦医疗保险和医疗补助服务中心】在人工智能使用方面是否符合或未符合州标准,这将是第一波诉讼,”波尔斯内利律师事务所的合伙人斯蒂芬·比特inger在周一的电子邮件中表示。
“第二个问题将基于医疗补助计划的权力分离。
比廷格表示,他看到在实施特朗普的人工智能行动计划时,医疗服务提供者将面临更多的动荡。
“提供商将需要克服不断变化的合规障碍,以正确采用和实施人工智能,这对报销纠纷、HIPPA 和网络安全等都有影响,”他说。
“这将归结为谁能以火对火--AI与AI之间的较量,”他周一通过电子邮件说。“因此,将会有大量的诉讼。
NIST的角色演变
建议采取的政策行动将使国家标准与技术研究院处于人工智能开发和测试的前沿,包括“人工智能测试平台,用于在安全、现实的环境中试运行人工智能系统””,特别针对医疗保健和其他几个领域。
特朗普上周还签署了一项行政命令,以“防止联邦政府中出现觉醒的人工智能”,而《人工智能行动计划》则呼吁设计出旨在保护言论自由并体现“美国价值观”的人工智能系统。
“美国政府只会与追求真理、公平和严格公正性的AI打交道,”特朗普在他的命令中说,以防止“觉醒的A!’。
“美国人民不希望在AI模型中看到觉醒的马克思主义疯话,”他在开幕式的讲台上说。
具体而言,该人工智能行动计划指示包含NIST的商务部修订人工智能风险管理框架,以消除意识形态偏见,并制定联邦采购指导方针,优先考虑那些确保人工智能系统客观性的开发方所获得的合同。
该计划还命令联邦政府修订人工智能安全方面的联邦指导方针,删除有关多样性、公平与包容、气候变化和错误信息的内容。
投资将优先考虑在教育与劳动力资金中发展人工智能技能,开发机器人与无人机的基础技术,并激励研究人员培育用于人工智能训练的高质量数据集。
安全措施包括为科学领域设定最低数据质量标准,创建安全计算环境以方便对联邦数据进行受控访问,以及采取其他防御措施。
这份冗长的计划还应对了日益增多的威胁,如深度伪造技术,要求 NIST制定评估深度伪造证据的正式指南,并承诺向相关机构提供指导,以在司法裁决中采用深度伪造标准。
增加更多联邦AI官员
特朗普的《人工智能行动计划》遵循了之前撤销先前人工智能规定的行政措施。1月21日,特朗普撤销了前总统乔·拜登于2023年发布的关于负责任的人工智能开发的行政命令,该命令要求卫生与公众服务部建立一个人工智能安全计划,并设立一个人工智能特别工作组,负责制定政策和框架,以“在卫生与公众服务部门中负责任地部署和使用人工智能和AI相关技术”。
去年,HHS重组了人工智能、网络安全和IT部门,并设立了一个首席人工智能官职位,由Komodo Health的前首席数据官梅根·迪尔克斯博士担任,负责制定整个部门的A!政策和战略。据PoliticoPro在4月的-篇报道,迪尔克斯随后被代理首席人工智能官彼得·鲍曼-戴维斯取代。鲍曼-戴维斯是耶鲁大学的学生,曾在风险投资公司安德森·霍洛维茨担任工程研究员。迪尔克斯在一系列社交媒体帖文中宣布了她离职的消息,并强调了该职位的持续重要性。
与此同时,特朗普政府发布了ALguidance,保留了来自拜登时代的某些政策,包括要求指定首席人工智能官及其跨部门委员会,并为某些应用建立专门的监督流程。
根据该备忘录,“在医疗保健领域,医疗设备的医疗相关功能:患者诊断、风险评估或治疗;公共保险背景下的护理分配或医疗保险费用的控制和承保”被认为是高影响力的用例。
特朗普的新人工智能行动计划呼吁更多个人在联邦层面监督人工智能的采用。该计划旨在建立一个首席人工智能官委员会,以协调各机构的人工智能采用工作,并授权员工使用人工智能工具。此外,该行动计划还呼吁设立一个人工智能信息共享与分析中心--AI-ISAC--以进行威胁情报共享。
呼吁人民的AI行动计划
“全国护士联盟”此前曾发布关于医疗AI开发的指导原则,并对可能导致“不恰当的护士与患者比例以及不可预测的排班安排”的急性患者AI表达了担忧。该联盟加入了“AI Now研究所”发起的呼吁,要求制定“人民AI行动计划”以对抗特朗普的举措。
这一倡议旨在对抗“那些一再牺牲普通民众利益以谋取自身利润的科技企业巨头”,并“致力于实现公众福祉、共享繁荣、可持续的未来以及所有人的安全
这个由政策智库Al NowInstitute组织的签名网站列出了一长串已经签名的组织,它们认为在面临特朗普政府的计划时,这样的计划是必要的。这些组织包括美国残疾人协会、美国消费者联盟、罗伯特·F·肯尼迪人权组织、TechEquity等等,不胜枚举。
该研究院在关于《人民人工智能行动计划》的在线呼吁中表示:“我们不能让大型科技企业和大型石油企业的说客以牺牲我们的自由和平等、劳动者的权益以及家庭的福祉为代价,来制定人工智能和经济的规则,甚至包括我们呼吸的空气和饮用的水--所有这些都会受到不受约束且无法问责的人工智能应用的严重影响。