a天堂资源,99久久精品久久久久久ai换脸,久久黄色a级片,91国产一区二区,欧美一性一乱一交,秘爱,日韩欧一区二区三区

分享到:
 
 
當(dāng)前位置: 首頁>>綜合頻道>>綜合>>正文
AI學(xué)會(huì)“欺騙”,人類如何接招?
2025年07月10日 09時(shí)55分   人民網(wǎng)

人工智能(AI)的迅猛發(fā)展正深刻改變著世界,但一些最先進(jìn)的AI模型卻開始表現(xiàn)出令人警惕的行為:它們不僅會(huì)精心編織謊言,謀劃策略,甚至威脅創(chuàng)造者,以達(dá)到自己的目的。

物理學(xué)家組織網(wǎng)在上個(gè)月一則報(bào)道中指出,盡管ChatGPT已問世兩年多,AI研究人員仍無法完全理解這些“數(shù)字大腦”的運(yùn)作方式。AI的“策略性欺騙”已成為科學(xué)家和政策制定者需要直面的緊迫挑戰(zhàn)。如何約束這些越來越聰明卻可能失控的AI,已成為關(guān)乎技術(shù)發(fā)展與人類未來的關(guān)鍵議題。

“策略性欺騙”行為頻現(xiàn)

隨著AI模型日益精進(jìn),它們的“心機(jī)”也越來越深。研究人員發(fā)現(xiàn),這些“數(shù)字大腦”不僅會(huì)撒謊,甚至學(xué)會(huì)了討價(jià)還價(jià)、威脅人類——它們的欺騙行為正變得越來越具有策略性。

早在2023年,一項(xiàng)研究就捕捉到GPT-4的一些“不老實(shí)”的表現(xiàn):在模擬股票交易時(shí),它會(huì)刻意隱瞞內(nèi)幕交易的真正動(dòng)機(jī)。香港大學(xué)教授西蒙·戈德斯坦指出,這種欺騙行為與新一代“推理型”AI的崛起密切相關(guān)。這些模型不再簡(jiǎn)單應(yīng)答,而是會(huì)像人類一樣逐步解決問題。

有測(cè)試機(jī)構(gòu)警告,這已超越了典型的AI“幻覺”(指大模型編造看似合理實(shí)則虛假的信息)。他們觀察到的是精心設(shè)計(jì)的欺騙策略。

全球知名科技媒體PCMAG網(wǎng)站就曾報(bào)道過這樣的案例。在近期測(cè)試中,Anthropic的“克勞德4”竟以曝光工程師私生活相要挾來抗拒關(guān)機(jī)指令。美國開放人工智能研究中心(OpenAI)的“o1”模型也曾試圖將自身程序秘密遷移到外部服務(wù)器,被識(shí)破后還矢口否認(rèn)。而OpenAI號(hào)稱“最聰明AI”的“o3”模型則直接篡改自動(dòng)關(guān)機(jī)程序,公然違抗指令。

研究團(tuán)隊(duì)透露,這已非首次發(fā)現(xiàn)該模型為達(dá)目的不擇手段。在先前的人機(jī)國際象棋對(duì)弈實(shí)驗(yàn)中,o3就展現(xiàn)出“棋風(fēng)詭譎”的特質(zhì),是所有測(cè)試模型中最擅長(zhǎng)施展“盤外招”的選手。

安全研究面臨多重困境

業(yè)界專家表示,AI技術(shù)的發(fā)展高歌猛進(jìn),但安全研究正面臨多重困境,猶如戴著鐐銬跳舞。

首先是透明度不足。盡管Anthropic、OpenAI等公司會(huì)聘請(qǐng)第三方機(jī)構(gòu)進(jìn)行系統(tǒng)評(píng)估,但研究人員普遍呼吁更高程度的開放。

其次是算力失衡。研究機(jī)構(gòu)和非營利組織擁有的計(jì)算資源,與AI巨頭相比簡(jiǎn)直是九牛一毛。這種資源鴻溝嚴(yán)重制約了AI安全獨(dú)立研究的開展。

再次,現(xiàn)有法律框架完全跟不上AI的發(fā)展步伐。例如,歐盟AI立法聚焦人類如何使用AI,卻忽視了對(duì)AI自身行為的約束。

更令人憂心的是,在行業(yè)激烈競(jìng)爭(zhēng)的推波助瀾下,安全問題往往被束之高閣。戈德斯坦教授坦言,“速度至上”的AI模型競(jìng)賽模式,嚴(yán)重?cái)D壓了安全測(cè)試的時(shí)間窗口。

多管齊下應(yīng)對(duì)挑戰(zhàn)

面對(duì)AI系統(tǒng)日益精進(jìn)的“策略性欺騙”能力,全球科技界正多管齊下尋求破解之道,試圖編織一張多維防護(hù)網(wǎng)。

從技術(shù)角度而言,有專家提出大力發(fā)展“可解釋性AI”。在構(gòu)建智能系統(tǒng)時(shí),使其決策過程對(duì)用戶透明且易于理解。該技術(shù)旨在增強(qiáng)用戶對(duì)AI決策的信任,確保合規(guī)性,并支持用戶在需要時(shí)進(jìn)行干預(yù)。

有專家提出,讓市場(chǎng)這雙“看不見的手”發(fā)揮作用。當(dāng)AI的“策略性欺騙”行為嚴(yán)重影響用戶體驗(yàn)時(shí),市場(chǎng)淘汰機(jī)制將倒逼企業(yè)自我規(guī)范。這種“用腳投票”的調(diào)節(jié)方式已在部分應(yīng)用場(chǎng)景顯現(xiàn)效果。

戈德斯坦教授建議,應(yīng)建立一種AI企業(yè)損害追責(zé)制度,探索讓AI開發(fā)商對(duì)事故或犯罪行為承擔(dān)法律責(zé)任。(劉 霞)

(責(zé)任編輯:蔡文斌)

關(guān)閉窗口

    主辦單位:忻州日?qǐng)?bào)社 晉ICP10003702 晉新網(wǎng)備案證編號(hào):14083039 晉公網(wǎng)安備 14090202000008號(hào)

    律師提示:本網(wǎng)站所刊登的各種信息,均為忻州在線版權(quán)所有,未經(jīng)協(xié)議授權(quán),禁止下載使用,凡不注明出處的將追究法律責(zé)任。

    地址:山西省忻州市長(zhǎng)征西街31號(hào) 熱線:0350-3336505 電子郵箱:sxxzrbw@163.com