OpenAI現任和前任16名員工發表公開信警告，世界領先的人工智慧（AI）公司缺乏必要的透明度和問責制，因此無法因應AI潛在風險。（圖片來源：STEFANO RELLANDINI/AFP via Getty Images）
【看中國2024年6月5日訊】（看中國記者楊天資編譯/綜合報導）人工智慧（AI）的無限制發展已威脅到人類的安全，ChatGPT開發商OpenAI現任和前任16名員工日前發表公開信警告，世界領先的人工智慧（AI）公司缺乏必要的透明度和問責制，因此無法因應AI潛在風險。
OpenAI員工警告：缺透明度無法因應AI風險 「AI系統失控可能造成人類滅絕」
法新社報導，OpenAI員工的公開信提出對AI安全風險的擔憂，「從進一步加深現有的不平等，到操縱和假消息，再到自主AI系統失控可能造成人類滅絕」。
16位連署人包含Google DeepMind的員工，他們警告，AI公司「有強烈的財務動機來避免有效的監督」，而公司的自我監管其實沒有太大幫助。
信中指出：「AI公司擁有大量關於其系統的能力和局限性、保護措施的充分性以及不同類型傷害風險的非公開資訊。」
「但他們目前沒什麼義務與政府分享其中一些資訊，也完全沒有和民間社會分享這些訊息，我們認為不能完全指望他們自願分享這些訊息。」
公開信還說，這一事實意味公司內部員工是唯一可以通知大眾的人，連署者呼籲制定更廣泛的吹哨者法律來保護他們。
根據「紐約時報」報導，OpenAI的4名現任員工匿名連署，因為擔心遭到公司報復。
連署人還包括AI研究先驅班吉歐（Yoshua Bengio）、辛頓（Geoffrey Hinton）、羅素（Stuart Russell），他們常被稱為AI「教父」，也曾批評大家對AI風險缺乏準備。
馬斯克起訴：OpenAI及其CEO奧特曼 違背科技造福人類的初衷
全球科技巨頭、特斯拉CEO埃隆．馬斯克（Elon Musk）今年2月29日，向舊金山高等法院提起訴訟，由洛杉磯的律師事務所Irell＆Manella代表，以違反合同為由起訴OpenAI及其CEO薩姆．奧特曼（Sam Altman）。
馬斯克（Elon Musk）在訴訟中表示，奧特曼和OpenAI違背了這家人工智慧研究公司成立時達成的一項協議，即開發技術以造福人類而不是利潤。
馬斯克聲稱OpenAI最近與科技巨頭微軟的關係損害了該公司致力於公共、開源的通用人工智慧的初衷。
法院文件顯示，馬斯克對OpenAI提出了包括違約、違反信託義務和不公平商業行為在內的指控，並要求該公司恢復開源。馬斯克還要求法院下達禁令，禁止OpenAI、其總裁格雷戈裡．布羅克曼和奧特曼（Sam Altman）（此案的共同被告）以及微軟從該公司的人工通用智能技術中獲利。
馬斯克說：「OpenAI已經轉變為世界上最大的科技公司微軟事實上的閉源子公司。在新董事會的領導下，它不僅是在開發，而且實際上是在完善AGI，以實現微軟的利潤最大化，而不是造福人類。」
BREAKING: Elon Musk has filed a lawsuit against Open AI and Sam Altman for breach of contract.
The lawsuit accuses Altman et al with having betrayed an agreement from Open AI's founding to remain as a non-profit company. pic.twitter.com/GPv8NFvsnt— X News Daily (@xDaily) March 1, 2024
馬斯克表示，AGI是一種被開發用於自主展現與人類相當認知水平的AI類型，其在OpenAI的GPT-4模型中得到了體現。馬斯克指出，於2023年3月發布的GPT-4與之前的版本相比仍是一個封閉模型，而這一舉措是出於商業考慮，而不是人類利益。
馬斯克是OpenAI的聯合創始人之一，但於2018年離開董事會。他表示，董事會與奧特曼之間的衝突源於GPT-4的開發和AGI技術可能出現的下一次迭代，馬斯克擔心這可能會危及公共安全。
已經去世的英國著名理論物理學家史蒂芬．霍金（Stephen Hawking）於2015年8月在美國Reddit網站上，首次提出對人工智慧的“威脅論”，他確信「優異的AI絕對會實現它的目標，因此當人類與它道不同時，絕對有間接或直接剷除人類的可能」。
後來又不斷地警告:「人工智能系统會自行啟動，並以前所未有的速度不斷的重新設計、自我改良。」
「研究人工智慧如同在召唤惡魔」
「全面性的開發人工智慧有一天可能會導致人類滅亡！」
英文報導：https://www.courthousenews.com/elon-musk-sues-openai-over-ai-threat/
来源:看中國
短网址: 版權所有，任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。
【誠徵榮譽會員】溪流能夠匯成大海，小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員：每位榮譽會員每年只需支付一份訂閱費用，成為《看中國》網站的榮譽會員，就可以助力我們突破審查與封鎖，向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊， 在危難時刻向他們發出預警，救他們於大瘟疫與其它社會危難之中。
