張介嶺 香港商報前董事總經理 太和智庫高級研究員

　當地時間5月4日，美國總統拜登和副總統賀錦麗在白宮會見了穀歌、微軟、OpenAI和Anthroic四家科技企業的CEO，討論了人工智慧可能對個人、社會和國家安全構成的現實和潛在風險;科技公司應如何更加透明地讓政策制定者、公眾和其他人了解其開發的人工智慧系統;具備能力評估、驗證人工智慧系統安全性和有效性的重要性，以及確保人工智慧系統免遭惡意攻擊的必要性等涉及人工智慧發展的關鍵問題。

　拜登在會上表示：「你們正在做的事情有巨大的潛力和巨大的風險」，希望與會企業家能「教育我們」如何保護和促進社會進步。賀錦麗在會後的一份聲明中強調，AI技術「有可能極大地增加對安全和安保的威脅，侵犯公民權利和隱私，並侵蝕公眾對民主的信任和信心」，企業有責任遵守現有法律，承擔「倫理、道德和法律責任」，「確保產品的安全性和可靠性。」

　當天，白宮還宣布了一系列新的舉措，包括美國國家科學基金會撥款 1.4 億美元成立 7家國家級人工智慧研究中心，制定政府機構使用 AI的指導原則，旨在加強政府與科技企業的合作，共同推動「美國在人工智慧上負責任的創新發展」，確保美國在人工智慧領域保持領先的同時，緩解人們對 AI 引發的道德、社會問題的擔憂，保障「美國人民的權利和安全」。

　迄今為止，由於缺乏規管，美國科技公司可以隨心所欲地推出新產品。隨着ChatGPT等生成式人工智慧工具的快速發展，AI技術是否安全成為社會各界關注的焦點。美國在人工智慧研發方面走到了世界的前列，拜登政府期望以之前頒布的《人工智慧權利法案》、《人工智慧風險管理框架》為基礎，制定國家人工智慧研究資源路線圖，更為有效地管理AI技術可能帶來的風險，約束科技公司「在向公眾提供產品之前，必須確保產品的安全性。」

　這也是業界的共識。 3月底，馬斯克和人工智慧專家、圖靈獎得主約書亞·本吉奧等人聯合上千名技術領袖和研究人員發表了一封公開信，以「對社會和人類構成潛在風險」

　為由，呼籲至少暫停6個月開發比GPT-4更強大的AI系統，在此之前應先確認其帶來影響是積極的、風險是可控的。如果不能能迅速實現暫停，聯邦政府應介入並採取措施。

　與此同時，AI實驗室和獨立專家應利用這次暫停共同制定一套用於高級AI設計和開發的共用安全協議，由獨立外部專家進行嚴格審計和監督，確保AI系統符合社會和人類的價值觀和利益。

　這封公開信還提出了人工智慧四大疑問：1. 是否應該讓機器用宣傳和謊言淹沒我們的資訊管道?2. 是否應該讓所有的工作自動化，包括那些令人滿意的工作?3. 是否應該發展最終可能在數量上超過我們、在智慧上超越我們、能夠淘汰並取代我們的非人類思維? 4. 我們應該冒著失去對我們文明控制的風險嗎?

　無獨有偶，5月1日，素有「人工智慧教父」美譽的科學家傑佛瑞·辛頓透露，他已于上周辭去穀歌副總裁兼工程研究員工作。他在接受《紐約時報》採訪時表示，「 我對自己畢生的工作，感到非常後悔。我用一個藉口來安慰自己，如果我沒有這麼做，還會有其他人。」

　辛頓擔心，儘管人工智慧目前仍「不比我們聰明」，但很快會超過人類，給世界帶來翻天覆地的變化：一是假照片、假視頻和假新聞之類的虛假東西將充斥世界，普通人會喪失辨別真假的能力，又苦於沒有良策防止壞人利用AI做壞事;二是人工智慧將導致未來出現大規模失業潮，目前ChatGPT已能取代律師助理、私人助理、翻譯和其他重複性高的文職人員;三是人工智慧可能對人類造成物理威脅，毀滅人類。

　值得注意的是，英國著名物理學家霍金同樣認為，從理論上來說，電腦可以類比並超越人類智慧。他警告，「成功創造了人工智慧，很可能是人類文明史上最偉大的事件。但如果我們不能學會如何避免風險，那麼我們會把自己置於絕境。」為此，「研究如何從人工智慧獲益並規避風險非常重要。」

　當今世界，人工智慧日益成為生活的重要組成部分，並將進一步滲透到醫療、工作、教育和科技等各個領域。且不論人工智慧會否終結人類文明，亦暫擱人工智慧將如何衝擊未來職場，也不糾結人工智慧在資訊戰中可能充當什麼角色，至少有一點是肯定的，諸如ChatGPT之類的生成式人工智慧在使人類生活變得更為便捷的同時，也帶來了諸如幻覺、深度偽造、資料隱私、版權和網絡安全等信任和安全方面的嚴重風險，甚至改變戰爭和威懾的地緣政治態勢。

　例如，人工智慧工具雖然很先進，但畢竟不是人類，仍需借助訓練和數據來為用戶提供答案，而訓練數據本身或會導致带有偏見、偏離基礎及錯誤的反應，可能會因為誤解你的提示或問題給出明顯錯誤的答案，產生所謂「幻覺」。當人們十分依賴AI機器人並對獲取的資訊深信不疑時，這些錯誤很難被發現，後果堪虞。

　再如，深偽技術，即使用生成式人工智慧來製作虛假的視頻、照片和錄音，攻擊名人和政要，傳播誤導性資訊，甚至創建虛假賬戶或侵入現有合法賬戶。不久前，天主教教宗方濟各一組頭戴小白帽，身穿全白羽絨外套的照片造成轟動，最終被證實系AI合成即是典型例子。深偽技術製作的假圖遲早將跨過虛擬和真實之間的鴻溝，給公序良俗帶來更為嚴峻的挑戰。

　毫無疑問，在人工智慧研發上，科技公司不能不計後果，你追我趕，盲目冒進，需要放慢腳步，與政府監管機構共同努力設立護欄，直至可以更好地理解新產品的特性及可能帶來的後果，以防人類成為自身文明的「掘墓人」。顯然，美方在規範AI技術的應用和發展方面的政策實踐值得關注和借鑒。