暫停人工智慧運動（）是一個要求暫停人工智慧發展的全球政治運動，運動最初是由荷蘭人喬普·梅因德茨馬在2023年發起。運動目的旨在暫停開發比現時（當時在GPT-4）更強大的人工智慧系統，直至可以證明人工智慧能確保民主與安全。
歷史
2022年，大型語言模型GPT-3問世，引發了「人工智慧熱潮」。期間，大型語言模型GPT-3及其功能更強大的後繼者GPT-4相繼問世，Midjourney和DALL-E等圖像生成模型也隨之發布。
這些進展引發了各界對於先進人工智慧風險的擔憂。生命未來研究所（Future of Life Institute）為此發布了一封公開信，呼籲「所有人工智慧實驗室應立即暫停開發比GPT-4更強大的系統，為期至少六個月」。該信件獲得了數千名人工智慧研究人員及業界執行長的簽署支持，其中包括約書亞·本希奧（Yoshua Bengio）、史都華·羅素（Stuart Russell）以及伊隆·馬斯克（Elon Musk）。
回響
在2024年5月13日，在峰會召開的前夕，有大量來自美國、英國、巴西、德國、澳洲和挪威在內的13個國家的示威者，舉行了一場抗議活動。抗議者梅因德特瑟瑪表示，參加高峰會的人，需要意識到，只有他們自己才有能力阻止這場競賽。舊金山的抗議者舉著寫有「猶豫不決時，暫停一下」(When in doubt, pause) 和「辭掉你在OpenAI的工作，相信你的良心」(Quit your job at OpenAI. Trust your conscience) 的標語 。 OpenAI「超級對齊」團隊負責人 兩天後辭職，因為他認為人工智能的安全文化和流程，讓位給「酷炫」的產品。
參考資料
參見
- 人工智慧法案
- 通用人工智能的生存风险
- 人工智能伦理
- 聊天機器人精神病
- 人工智能哲學
- 大型語言模型
- 推理語言模型
外部連結
*
评论 (0)