很难确保AI系统的安全，它们本质上就是个“黑匣子”。（图片来源: LIONEL BONAVENTURE/AFP via Getty Images）
【看中国2023年6月21日讯】（看中国记者程帆综合报导）美国信息技术和创新基金会(Information Technology and Innovation Foundation)副主席卡斯托(Daniel Castro)警告，如果使用AI(人工智能)生成图像，它既能开发电子游戏，又可用来模拟战争运行。
为了能够识别并应对来自中国AI对美国国家安全构成的潜在威胁，近几个月来，白宫正在考虑采取新措施，以阻止美国公司(尤其是私募股权和风险投资公司)对中国尖端技术的投资及全面业务往来，例如AI、量子计算、5G和先进半导体等。
事实上，生成式AI技术的用途越来越广泛，对于华盛顿而言，清晰区分哪些是北京当局用做发展军事的，或哪些是企业用于商业目的，绝非易事。
据《华尔街日报》的报导，有研究人员举例说，为计算机编码设计的AI模型可以轻易被黑客拿来进行攻击活动，而原本是帮助设计药物的模型也会被利用生产新型化学武器。
乔治城大学(Georgetown University)研究人员近日发布了一份记录美国在华AI领域风险投资的报告，称美国半导体公司高通(Qualcomm)旗下的风投部门在2016年曾投资设立于北京的初创公司七鑫易维(7Invensun)，助其制造一种以AI驱动的眼球运动轨迹追踪工具。
该项技术可用于虚拟现实眼镜或其它消费领域产品，但也可能涉及军事或安全用途，比如红外面部识别相机、战斗机飞行员的培训等。
研究员指出，已披露的公开消息显示，七鑫易维同一家中共国防公司和空军航空大学均有合作。
报告发现，从2015到2021年间，来自美国的投资总额达到74.5亿美元，共参与了中国AI公司的401笔交易。
不过，想要禁止类似高通投资的行动，将会在表述与执行上颇为复杂。因为仅仅检查特定AI的代码未必就能确定它的性能和用途。而高端AI系统还可能涉及尤为繁复的计算过程，过程中会产生意想不到的结果，所以对系统输出进行限制比较困难。
新美国安全中心(Center for aNew American Security)研究员菲斯特(Tim Fist)认为，很难确保这些系统的安全，它们本质上就是个“黑匣子”。
美国国家安全委员会(National Security Council)一名发言人近日表示，白宫正在完善即将发布的相关行政命令的细节。他说，“这是一个相当复杂的过程，我们希望确保把事情做对，而这需要一些时间。”
据路透社和美国之音先前的报导，上月底，美国财政部负责投资安全的助理部长罗森(Paul Rosen)在参议院作证时曾提到，对外投资审查将会“专注于对中国的关键高科技领域进行投资的美国资金的管制。”“这些投资可能被我们关注的国家所利用，为其军方、情报能力和大规模监视服务。”所以我们将缩小范围，量身定制。
研究员韦恩斯坦则指出，“对中国的任何投资都可能构成风险。联邦政府需要决定的是他们能够承担多少风险，并在哪里画定界限。”
来源:看中国
短网址: 版权所有，任何形式转载需本站授权许可。 严禁建立镜像网站.
【诚征荣誉会员】溪流能够汇成大海，小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员：每位荣誉会员每年只需支付一份订阅费用，成为《看中国》网站的荣誉会员，就可以助力我们突破审查与封锁，向至少10000位中国大陆同胞奉上独立真实的关键资讯，在危难时刻向他们发出预警，救他们于大瘟疫与其它社会危难之中。
