产品图像是否是AI生成的？（图片来源: 公用领域 Vpnsrus via Wiki）
【看中国2023年5月29日讯】（看中国记者程帆编译综合报导）随着各式各样人工智能（AI）工具的出现，许多看起来似乎十分真实但实际却是假的图片和视频越来越普遍了。近日，微软公司总裁史密斯（Brad Smith）表示了对AI的最大忧虑，就是“深度造假”（Deep Fakes）的问题。
据路透社和《华尔街日报》的报导，上周在华盛顿的一次演讲中，史密斯呼吁人类需要采取行动，以阻止合法的内容被篡改，并确保人们能够判断照片或线上音像片段的真实性。
他还督促联邦政府设立新的监管机构，专门应对聊天机器人ChatGPT等生成式AI应用程序，承担起“保护安网络安全和国家安全的义务”。
从5月23日至25日在西雅图召开的Build 2023开发者会上，微软公司特别宣布计划在未来几个月内增加一项功能，让所有人都能识别由绘图工具Bing Image Creator（影像建立者）和Microsoft Designer（微软智能设计）生成的产品图像是否是AI生成的。
今年3月发布的Bing Image Creator允许用户，只需提供简单的文字就能创作艺术作品。而4月推出的Microsoft Designer可以让使用者，通过文字提示和AI模型来创建博客文章、网站等项目。
但为了防范和杜绝这些“假艺术品”会被恶意利用，导致虚假信息传播。微软采取了主动措施。这家科技巨头称，“新功能将使用密码学方法对AI合成的产品作出标记和签名，并附上有关其来源的元数据信息。”
前几日，由微软资助的ChatGPT开发商OpenAI公司首席执行官奥特曼（Sam Altman）也示警，“需要对AI进行监管！”他在美国参议院的AI听证会上指出，一旦AI技术出了问题，后果将相当严重，并可能影响明年的总统大选。
在接受美国CNBC采访时，奥特曼称，从长远来看，制定法规、标准及监管都是非常明智的。它将确保我们从AI技术中尽可能选取好的用处，同时尽量减少不利因素。
奥特曼也同时奔走于欧洲国家，呼吁各国政府在AI和安全合规方面进行全球合作。
事实上，除了微软外，谷歌在本月举行的年度大会上也表示，将确保该公司出产的每一张AI图片都内嵌水印。该水印无法以肉眼识别，但若用谷歌搜索引擎等软件就可以读取并显示出标签。
除了图片和视频恐被造假危害人类外，史密斯在5月25日发表的一篇博文中还提出，相关政府机构需要对那些用于控制电网、供水或其它关键基础设施的AI进行安全制动设置，以便人类能够随时驾驭这些工具。他指出，人类需要对AI所造成的任何问题负责。
目前，国会还考虑推出一些提案，避免AI不会被用于歧视或侵犯公民权利。
(文章仅代表作者个人立场和观点)
来源:看中国
短网址: 版权所有，任何形式转载需本站授权许可。 严禁建立镜像网站.
【诚征荣誉会员】溪流能够汇成大海，小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员：每位荣誉会员每年只需支付一份订阅费用，成为《看中国》网站的荣誉会员，就可以助力我们突破审查与封锁，向至少10000位中国大陆同胞奉上独立真实的关键资讯，在危难时刻向他们发出预警，救他们于大瘟疫与其它社会危难之中。
