本帖最後由 manyiu 於 2023-4-14 10:57 AM 編輯 os.tvboxnow.com8 H, r [ a9 b* D1 G5 Q
: [6 X" z6 M3 B公仔箱論壇馬斯克等千人簽署 籲暫停巨型AI實驗!公仔箱論壇& U( F; R! z; }4 H5 `. a( N
7 a) @' U7 [! Z7 F
2023年3月29日週三 os.tvboxnow.com9 v( r* _/ J+ C N
( h$ {) G5 x/ y Q" a: _, X( wtvb now,tvbnow,bttvb
0 y+ W9 M6 Q) C4 d4 V; v: f公仔箱論壇馬斯克等千人簽署 籲暫停巨型AI實驗
" Z# I/ _! e4 H3 K O. U" ytvb now,tvbnow,bttvb) C1 V5 d H% l! Q
正當發展 AI 成為最新顯學時,另一批科技人卻是憂心忡忡,要求「暫停巨型 AI 實驗」。
6 K* ~; |% k/ h5 |TVBNOW 含有熱門話題,最新最快電視,軟體,遊戲,電影,動漫及日常生活及興趣交流等資訊。& p- f1 h+ x+ I0 ]. s
生命未來研究所 (Future of Life)3 月 22 日向全社會發佈了一封《暫停大型人工智慧研究》的公開信,呼籲所有人工智慧實驗室立即暫停比 GPT-4 更強大的人工智慧系統的訓練,暫停時間至少為 6 個月。公仔箱論壇+ Z: G/ P6 K" M1 E6 b6 W
! P! o! }, K Q6 p- I6 qos.tvboxnow.com這封信有 1100 多人簽名,其中不乏科技界名人,例如馬斯克 (Elon Musk)、蘋果聯合創辦人 Steve Wozniak、Stability AI 創辦人 Emad Mostaque 等知名人士。
# P0 _4 i$ e# z, b& o/ h) f& _; r l+ x
其中,馬斯克在 chatGPT 走紅之後,就不斷批評 OpenAI,並在 2 月份發推文稱,「OpenAI 是作為一個開源公司 (這就是我將其命名為「Open」AI 的原因) 創建的,是一家非營利性公司,旨在與 Google(GOOGL-US) 抗衡,但現在它已經 成為微軟 (MSFT-US) 有效控制的閉源、利潤最大化的公司。」他認為,這家公司完全違背了當初成立的初衷。
9 ~ q# d9 ^5 \6 ?5 v公仔箱論壇
3 [: ~4 \2 W7 K生命未來研究所在信中呼籲,所有人工智慧實驗室立即暫停對比 GPT-4 更強大的人工智能系統的訓練,為期至少 6 個月。這種暫停應該是公開的和可驗證的,並且包括所有關鍵參與者。如果不能迅速實施這種暫停,政府應介入並暫停。0 w. p' @& \0 g
' V( ~5 C) Y: u: }& b公仔箱論壇信中強調,人工智慧研究和開發應該重新聚焦於使當今強大的、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。tvb now,tvbnow,bttvb5 E# d9 k/ }0 O% G+ I* m* H
os.tvboxnow.com+ m7 p, q* L0 r* W9 ]- `) t8 I
在此之前,OpenAI CEO Sam Altman 在與 MIT 研究科學家 Lex Fridman 的最新對話中指出,AI 已經出現其無法解釋的推理能力,同時承認「AI 殺死人類」並非完全不可能。tvb now,tvbnow,bttvb: s9 d$ V! M D# `5 b
os.tvboxnow.com5 n& \9 l3 r' x4 g6 b5 v
上個月,在微軟發布 Bing 聊天機器人之後,一份名為「立即拔掉邪惡的 AI」的請願書在 change.org 上流傳開來。
) Q$ d" ~% t+ I/ T公仔箱論壇8 P! g- b6 Z% h g' J1 `
Future of Life Institute 是一家非營利組織,其使命是降低核戰爭的風險並改善 AI 治理。 著名物理學家 Max Tegmark 是其總裁,這家機構的網站中,將馬斯克列為外部顧問。 |