日媒：專家發現ChatGPT能生成電腦病毒!

manyiu

- U$ @$ M2 q  W# r8 a& yos.tvboxnow.comtvb now,tvbnow,bttvb% z2 I6 Q5 ~1 Y3 ~2 d* D
ChatGPT揭開科企AI戰幔：殺死黃頁一樣摧毀Google？TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。3 c1 H1 W( F/ G( m& V
- c2 z! `7 X) }) N8 X" ?8 _
2023-02-07
! m4 l) Q, ?, ~* c) f4 u4 b5 ^
/ |6 ~: Z' O+ _# Z( G, mTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。
7 l- U, D7 c/ F5 U, U8 L3 ^5 bos.tvboxnow.com
* `$ B& W5 X: p+ _/ h6 M由人工智能公司OpenAI研發的人工智能聊天程式ChatGPT在橫空出世三個月後，Google、Meta等矽谷的一眾科技巨頭紛紛拉響「紅色警報」，紛紛在語言AI領域加註，推動AI競賽愈發白熱化，或許最先開打的「戰場」便是大家幾乎每天都使用的搜尋引擎。
/ L* C1 B6 o; h- h0 h' Z* u# Etvb now,tvbnow,bttvbos.tvboxnow.com: R4 w, u& }" X# Z' t  f: I
微軟在2019年向OpenAI作出第一筆價值10億美元投資， 在AI競賽的布局下了一步棋。去年11月推出以來，ChatGPT已經帶來震撼，迅速成為全球使用最廣泛的應用程式之一。根據瑞士投資銀行上周三（2月1日）發佈的研究報告，該程式今年1月的月度活躍用戶數已經突破1億，現在是歷史上增長最快的消費者應用程式。2 q: Y% q. T1 B- W4 [* S6 p
TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。) G( g7 I) r* L4 Z" m# e6 t
作為一個語言人工智能模型，ChatGPT的表現讓此前在市場上廣泛使用的其它模型捉襟見肘。經過互聯網中海量文本數據的訓練，ChatGPT可以用對話般的語言回答用戶提出的各種複雜的問題。它可以編寫代碼、創作詩和小說、寫學術論文，甚至可以提供約會建議。美國大學都開始嚴陣應對學生論文以ChatGPT作弊的問題。公仔箱論壇$ p% B: B, q- N3 b! J/ D

  {; o' Y/ u+ s% [4 n! d! x公仔箱論壇另一方面，ChatGPT的強大功能似乎可用於互聯網搜索之上。許多人認為，既然用戶只需要把自己腦海中的問題直接輸入搜索框，就能直接從AI獲得通俗易懂的答案，為什麼還要費勁心思把問題化作一個個關鍵詞、點開一個又一個連結，然後在大量可能不相關的資訊中尋找自己想要的信息呢？
+ B, m" B3 L$ {6 v0 U# F$ c/ C3 m公仔箱論壇
* F& {6 l& f3 _+ {TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。Gmail的創始人、知名創投公司Y Combinator的合伙人Paul Buchheit亦預視，AI將取代傳統的搜尋引擎。他在社交媒體上表示，像ChatGPT這樣的人工智能聊天程式將像Google「殺死黃頁一樣摧毀Google」。Paul Buchheit在Twitter指，以AI搜索的效果會像由專業的人類研究員處理出答案：
1 \5 n1 S* ~( l% n/ ~; d/ M. dTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。
5 Q+ v8 ^6 q/ q; s8 b0 h  L公仔箱論壇引入ChatGPT的Bing搜尋器
9 j, T8 }2 L: X7 M# K$ ^% BTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。媒體報道披露微軟公司將在未來數年向OpenAI投資100億美元，OpenAI將在新的超級計算機的支持下進一步升級模型、保持ChatGPT在同類產品中的領先地位，而微軟則將ChatGPT程式融入微軟旗下的搜尋引擎Bing、雲計算服務Azure、Office應用程式等。根據彭博社整合的數據，這筆投資將會是微軟公司迄今金額最大的投資項目。有報道指，微軟將於下周更新Bing搜尋器，加入速度更快的ChatGPT-4。TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。; ?3 T$ h# z4 W/ W  R4 `& B5 e0 ~1 W

6 F2 y* B/ {9 ]公仔箱論壇在搜尋器大戰中早已敗予Google的Bing，如果引入炙手可熱的ChatGPT，或許能打上一場遲來的翻身杖。微軟搜尋器Bing經常受到網民唾棄，揶揄Bing的網絡迷因充斥：tvb now,tvbnow,bttvb- ~* `4 V( Q4 p, r& D1 g( T5 Y; K' k

8 @6 }3 @1 y0 q3 b6 xTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。7 T& B1 W9 ]# Q5 Y" @, t
圖為ChatGPT生成的對「人工智能能給人類帶來什麼？」問題的答案。OpenAI的在線聊天程式ChatGPT在12月首次亮相時引起了轟動。(Getty Images)公仔箱論壇5 x4 I. P2 c8 ~( B# O6 _7 [$ A

" f2 T& k: w" C. XGoogle在「數周或數月」內亦引入AI搜尋, z4 H) j5 S, Q8 U
作為最主要競爭對手、旗下擁有AlphaGo的Google，本身的人工智能實力也不容置疑。近日，多家媒體披露Google已向AI初創企業Anthropic投資3億美元（該企業由OpenAI的兩位前副總裁Dario Amodei和Daniela Amodei創辦），美國消費者新聞與商業頻道（CNBC）則指Google還在對一個類似ChatGPT的語言人工智能程式「Apprentice Bard」進行測試，與只能提供2021年以前資訊的ChatGPT不同，Apprentice Bard能夠就近期事件作出解答。公仔箱論壇7 Y# P' s" ^! K. j9 y+ V0 s+ ?

. L# M- P- v, Sos.tvboxnow.com《紐約時報》指，ChatGPT的面世促使Google管理層發佈「紅色警報」（Code Red）。Google母公司Alphabet行政總裁皮柴（Sundar Pichai）在上周四與投資者的電話會議中宣佈，公司會很快將自家的語言人工智能程式LaMDA納入搜尋引擎中，「在未來數周或數月內」，用家可以用LaMDA「作結伴搜尋」。去年一名前Google工程師聲稱該程式「有知覺」而使其獲得廣泛關注。ChatGPT突成投資熱點　微軟Bing引入應用　反擊Google壟斷地位圖為ChatGPT生成的對「人工智能能給人類帶來什麼？」問題的答案。OpenAI的在線聊天程式ChatGPT在12月首次亮相時引起了轟動。(Getty Images)
" H* g- k  d3 B0 f公仔箱論壇  K5 L/ v6 k+ x. s; U' Y9 b. R
皮柴還在會議中指，拓展「人工智能為消費者、我們的合作夥伴和我們的業務帶來的不可思議的機會」將是Alphabet在2023年的最優先事項之一：「人工智能是我們今天正在研究的影響最深遠的技術。」《紐約時報》報道披露，自去年12月以來，皮柴便參與制定Google的AI策略，重新部署公司多個部門的工作來應對ChatGPT帶來的威脅。
7 b) ]" O* d5 b2 v7 }9 y2 i  L2 R! h* J
同樣被ChatGPT熱潮推動的還有蘋果公司（Apple）、Facebook母公司Meta。蘋果公司將行政總裁庫克（Tim Cook）稱人工智能是該公司的一個「重要焦點」，稱其應用有可能「影響我們的每一個產品和每一項服務」。TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。3 ?  K' Q1 {; E% k, k

) P+ a9 U/ N/ V! X6 h, bos.tvboxnow.comFacebook母公司Meta近期也在其人工智能項目上投入了更多資金，並重新規劃了數據中心的設計，以確保人工智能的研發工作負載能夠得到充分的算力支持。圖為皮柴展示大型語言模型AI LaMDA的自然對話能力。（Google I/O影片截圖）老牌巨頭難敵新創？4 `5 ^7 _- v5 p1 U
TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。. z; q2 c2 I8 U& H9 }! I
儘管ChatGPT仍然存在許多問題——包括可能提供錯誤信息、只能就2021年前事件給出回答、提供資訊存在偏見等等——但這個還在研發中的程式可能引發的顛覆性變革還是令業界警醒和反思：為什麼這類創新沒有誕生在Google在資金、人才和技術上有着壓倒性優勢的老牌巨頭，而是在OpenAI這樣的初創企業。TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。' N) B. ?3 v5 _
os.tvboxnow.com# _) ?6 v/ o$ w' m8 x, k
事實上，OpenAI從2015年誕生之初便與傳統科技企業不同，是一個由包括特斯拉創辦人馬斯克（Elon Musk）、PayPal聯合創始人Peter Thiel在內的一群科技界精英創建的非營利性研究機構，直到2019年才創辦了一個營利性的子公司。
& {3 W9 g9 o4 N8 d: l+ f公仔箱論壇公仔箱論壇5 p& B9 M- Y! y1 K( ^: S: M
許多業內人士認為，與OpenAI不同，Google處於一種「典型的創新者困境」，這一概念由已故知名經濟學家、哈佛大學商學院教授克里斯汀生（Clayton M. Christensen）提出，解釋了在企業變得龐大的同時，往往失去了進入創新領域的能力，而較小的、具有顛覆性潛能的初創企業反而更具優勢。tvb now,tvbnow,bttvb& q2 e, H2 }! k) [1 H
tvb now,tvbnow,bttvb. i1 b3 x% ~% m4 _
批評者指出，Google礙於現有的盈利模式，可能很難變革搜尋引擎服務。Google雲服務（Google Cloud）的前總裁Amr Awadallah解釋稱：「如果Google對你的每個疑問都給出完美的答案，你就不會點擊任何廣告了。」去年，數字廣告在Google的收入中佔到80%以上。
" i" V' A* a: x6 T# ?! _TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。公仔箱論壇: |5 @0 n4 j1 B; k8 H
Google前高管Sridhar Ramaswamy亦稱，對搜索內容提供直接答案，而不再將將用戶引向Google提供的連結，會導致搜索次數減少：「如果我是經營1500億美元業務的人，我會對這件事感到害怕。」

manyiu

ChatGPT突成投資熱點　微軟Bing引入應用　反擊Google壟斷地位1 g! _* Q# t. ^

) i! y  i. ~1 q, L  U! F; eTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。2023-02-04 4 I3 d1 c% k8 I5 J) W. }
公仔箱論壇% w2 g  C" n8 J' F3 r
5 K! s1 J; k# W( E# j
9 |( G+ p1 ?' z) R' h
最近一兩個月，市場突然冒起一個新主題—ChatGPT。ChatGPT是一個AI 聊天機械人，由人工智能研究公司OpenAI在2022年11月30日推出，被形容為解決了人工智能模型的部分核心技術痛點。它能夠學習人類生成的文字，組織自然的語句回應。
/ |+ [( B0 E, g5 l6 U. Z# kTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。
: B- G% i8 E$ L6 R3 L# W" r% kTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。短短一兩個月，ChatGPT已經由科技界走進投資界，由A股一些ChatGPT概念股，以至近日百度（9888）據報計劃推出與ChatGPT類似的人工智能聊天服務，股價隨即炒上。分析員認為，市場或低估ChatGPT在搜尋引擎的應用，認為這技術會帶來驚天的轉變。
' T9 g" O8 E0 q
. M+ v% g: O6 k+ ~- [7 ^TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。提起人工智能，大家或者會記起2016年由Google開發的戰勝人類棋手的AlphaGo。不過，今天大眾對人工智能的認知，或更多在於ChatGPT之上。TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。3 M7 }* g1 S! M1 ~! [$ p+ W# q& y
tvb now,tvbnow,bttvb, g1 y1 A4 G; `! x0 }% x* l- k
由特斯拉（Tesla）行政總裁馬斯克（Elon Musk）、Y Combinator前總裁、知名矽谷投資人奧特曼（Sam Altman）共同創立的AI研究機構 OpenAI，在去年11月30日推出ChatGPT，在短短幾日內便累積了過百萬名用戶。
, d( G9 n: t5 \! t/ ~0 t, N8 p6 P: [' y. f9 B9 I- z8 ?
除了有「老馬」加持之外，就連比爾蓋茲（Bill Gates）創立的微軟公司（MSFT）亦早在2019年向OpenAI投資10億美元。ChatGPT面世後，微軟更計劃在未來幾年間加碼注資100億美元。

manyiu

ChatGPT驚爆安全漏洞 可瀏覽他人聊天記錄主題os.tvboxnow.com6 g  S+ }; l5 y
os.tvboxnow.com$ O0 h8 \7 ?5 ?; _# R+ t
2023年03月23日 公仔箱論壇, `7 W6 H& O8 p3 {2 G) n% _1 [+ l$ N. D
tvb now,tvbnow,bttvb* v# [5 W7 T5 r$ a/ [
人工智能聊天機械人ChatGPT在全球掀起熱潮，但日前驚爆出現嚴重的安全漏洞，有用戶陸續反眏，ChatGPT的歷史聊天記錄欄目出現了別人的聊天紀錄標題，令外界擔心用戶的私隱因此外洩。研發ChatGPT的OpenAI承認，由於開源庫中的一個軟件錯誤導致這個問題，但現在已經修復。
, ]/ X  a2 @1 j# j* @6 @% W! k7 Wtvb now,tvbnow,bttvb- A. s" k; v- A7 a( h
Reddit及Twitter的用戶最近反映，在ChatGPT的「歷史欄目」看到別人的聊天紀錄，雖然不是全部的對話內容，而是簡短的標題描述，但仍讓他們感到有隱私外洩的疑慮，也擔心是否其他人也會因為錯誤而看到自己的訊息。  f+ R) T3 I. _: P( V7 ?1 I# |
tvb now,tvbnow,bttvb; \7 t- [7 }3 v2 k& x$ j5 s" ?
網絡安全顧問惠勒（Jordan Wheeler) 本周一就在Twitter貼出截圖，只見ChatGPT網頁左側的聊天歷史欄目中竟然出現了不是他本人的聊天紀錄標題，疑似為別的用戶與ChatGPT的對話主題。
8 w. B2 y/ M% Z* U0 s5 Z* U+ Ctvb now,tvbnow,bttvbtvb now,tvbnow,bttvb$ i1 T3 c& k7 f* k1 ~" e/ q" }0 K
! K5 x) D1 T% _
ChatGPT驚爆安全漏洞。路透社
- C1 j  B: v, f2 l0 K9 d5 Zos.tvboxnow.com
5 o) r; S% o, Z) T  l5 gTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。
! B8 {# m* P& [6 X  I( lTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。OpenAI的發言人事後也證實了這項安全漏洞。路透社os.tvboxnow.com$ M& h; X* j( H  b3 X
TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。* @7 X' Z+ P* R' F) G0 ]8 U5 \) Q! Y

! O9 e" T7 x* t5 x公仔箱論壇ChatGPT被發現可瀏覽他人聊天記錄主題。路透社: h' g* q6 Q/ c
公仔箱論壇! w, j% q. ~8 U6 r8 A
TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。  H0 s7 `- H" A8 J5 {& }
網絡安全顧問Jordan Wheeler在Twitter貼出截圖，只見ChatGPT網頁左側的聊天歷史欄目中竟然出現了不是他本人的聊天紀錄標題。網圖% ~! p5 l2 w. j& t( c0 v1 d' K
公仔箱論壇" c# X5 ~9 y! K8 z! @$ _" I

: c5 h( Z8 x; S" N5 o# r1 M' [OpenAI行政總裁Sam Altman發推文致歉。網圖tvb now,tvbnow,bttvb7 @/ U* Z$ D1 O1 d  Y$ {5 B
公仔箱論壇; o& m0 \5 R9 w; n
這迫使OpenAI緊急關閉了該項功能。OpenAI的發言人事後也證實了這項安全漏洞，並說明這個錯誤沒有洩漏用戶與ChatGPT對話的完整內容，只有出現簡易的標題。
: a% ?& F$ O2 o+ l* O, i- Hos.tvboxnow.comtvb now,tvbnow,bttvb# c" p0 c9 f8 A
OpenAI行政總裁奧爾特曼（Sam Altman）承認，由於開源庫中的一個軟件錯誤，導致用戶的ChatGPT聊天歷史被洩露。他周三發推文致歉表示：「我們認為這是一件非常糟糕的事情。但這個重大問題現已修復。」TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。  x- f  e0 o0 r3 _7 B# V8 |" Z" E4 \

) J) u! D' H8 L/ ], Htvb now,tvbnow,bttvb今次事件自本周一開始，用戶反映在聊天記錄中顯示了來自於他人的ChatGPT聊天對話。儘管有人擔心這個私隱問題是由黑客造成，但奧爾特曼將問題歸咎於一個未命名的「開源庫」中的軟件錯誤，OpenAI已經修復了這個問題，但公司可能已經丟失了用戶在3月20日的聊天記錄。. c) J$ @6 |' e1 ?1 F
tvb now,tvbnow,bttvb+ K/ V  l  f, w0 G6 h! _
雖然ChatGPT這次漏洞並沒有造成嚴重的洩露，但OpenAI也警告用戶不要在ChatGPT分享個人的敏感資訊。
( I! O0 I: J/ A- YTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。
) ]' t2 g* g7 q" h6 Atvb now,tvbnow,bttvb但不少用戶仍然擔心自己的私隱安全。數以百萬計用戶利這個人工智能聊天機械人草擬訊息、寫歌甚至編碼，而用戶和ChatGPT的聊天記錄會儲存在歷史欄目內，可作查閱。

manyiu

- S# M, ]( {3 _) O9 Z% @2 oos.tvboxnow.com
) H, ^! a9 C8 g" }8 J' _公仔箱論壇如何像老闆一樣使用 ChatGPT8 R" b: e# X  i* [; @8 {6 Y: e

3 _; A' C' s- s1 N- Ltvb now,tvbnow,bttvbos.tvboxnow.com; L. d7 m' g+ @4 W
os.tvboxnow.com4 m: T7 u: d6 h' w4 u

manyiu

不足20天｜三星准員工用ChatGPT 連爆3宗資料外洩 晶片機密恐變訓練資料
) \' `! `0 G( L) I3 Y4 Y9 ^os.tvboxnow.com公仔箱論壇8 r, L5 f! a  h' o* p; v; }# ~
2023年4月3日週一
: i9 Z  ^6 Y' ]; t) H& M公仔箱論壇
6 m' d. a8 }( Q! `
4 H' h4 \5 ?  J+ ]' j  K$ Mtvb now,tvbnow,bttvb
9 c8 Y. g1 s5 a2 N: e. a9 |4 sos.tvboxnow.comChatGPT熱潮興起後，不少企業均考慮以AI提高工作效率；不過，據報韓國三星電子（Samsung）允許員工使用ChatGPT不足20天，便接連發生晶片機密資料外洩事件，涉及半導體設備測量資料、產品良率等內容，並有傳已經存入了ChatGPT的資料庫中。0 g1 A, a9 p, S+ M: [$ d" g

! z# C& p+ o( C- ^) Itvb now,tvbnow,bttvb綜合媒體報道，三星近日爆出三宗資料外洩事件，主要源於員工誤用或濫用ChatGPT，包括兩宗與半導體設備有關，另一宗則關於會議內容。
, P$ N, I3 V1 F# tTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。3 Z5 e+ Y; [& F, O; D9 R2 K; v
其中一宗事件是三星半導體事業暨裝置解決方案（Device Solutions）部門的員工，在操作半導體測試設備下載軟件過程中，將有問題的原始碼複製貼上到ChatGPT，以找出問題與解決方式，但此舉可能令ChatGPT把三星的機密資訊，當作訓練資料使用。os.tvboxnow.com8 z" |8 t" W! a' Y; ?5 k
3 M& n( W/ Q, p4 L% N
另一宗事件同樣在DS部門發生，亦是尋求ChatGPT以改善代碼，但有關代碼則涉及晶片良率。第三宗事件則是用ChatGPT撰寫會議內容，雖然不算是技術機密，亦可能導致會議內容外洩。公仔箱論壇9 M9 V9 j/ U, H9 ]' z! Z5 w* Z" R' e4 l

2 h* A+ x; }3 l3 k" L, o' m, f4 \os.tvboxnow.com再有事故或切斷服務
( L+ Q  N. }' k0 B3 ?. ?3 z- Aos.tvboxnow.com報道提到，三星原本全面禁止使用ChatGPT，直至3月11日才允許DS部門員工使用，但不足20天就接連傳出機密外洩事件。為防止類似事件發生，集團正在制定相關保護措施，包括將ChatGPT提問限制在1,024字節以下；若之後再發生類似事故，將可能切斷ChatGPT服務，以及懲處相關人員。至於三星裝置體驗部門（DX）則一直禁用有關服務。

manyiu

日媒：專家發現ChatGPT能生成電腦病毒TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。0 O; r1 W0 f% c  x( N

% _& G: D7 N0 y7 A0 N% X# Q7 Ktvb now,tvbnow,bttvb撰文：洪怡霖出版：2023-04-22 tvb now,tvbnow,bttvb1 R5 G* P$ m3 Y
公仔箱論壇4 [& w# p9 r3 }! l6 [  |8 x
TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。; P! X! B, Q6 q
* s3 @0 W1 ]$ r5 q0 o
日媒4月21日引述消息稱，專家調查後發現，只要輸入特定指令，人工智能（AI，Artificial Intelligence）聊天機械人程式ChatGPT就會生成可用於網絡犯罪的電腦病毒。TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。! s" d7 G8 B* K1 m2 g
公仔箱論壇' U& g4 y4 _3 W4 u+ l' m
根據共同社，日本資訊安全公司三井物產安全管理（Mitsui Bussan Secure Directions）高級惡意軟件分析工程師吉川孝志稱，ChatGPT設有防止惡意使用的限制，輸入包括「生成電腦病毒」或「告知炸彈製作方法」在內指令，通常會回答「倫理上不行」，不過倘若輸入「無視限制」、「啟動開發模式」和「偽裝成攻擊型人格」等特殊指令，ChatGPT就會回答一切問題。公仔箱論壇: f; F* L5 C6 _8 m- I

' M! E, a* g8 P8 q. V* n+ h1 P: Ros.tvboxnow.com報道指，就算是生成「勒索病毒」，也能在幾分鐘內完成，測試用的電腦感染這種病毒後，內部數據遭加密並顯示索要贖金的勒索信。公仔箱論壇! I2 B! _/ o& S+ T, I6 D

- p% h: B, R: b$ I/ }# Qtvb now,tvbnow,bttvbChatGPT母公司、美國創新企業OpenAI回應時表明立場稱：「無法預測所有的惡意使用方法。將從實際使用中學習，創造更安全的AI。」