在探討人工智能（AI）是否具備意識(shí)的議題上，古今中外的文藝作品與現(xiàn)實(shí)世界的科技進(jìn)展都未能給出一個(gè)確鑿的答案。這一問題的核心在于理解AI的“黑盒”困境，即深度神經(jīng)網(wǎng)絡(luò)內(nèi)部復(fù)雜且難以直觀理解的運(yùn)作機(jī)制。

現(xiàn)代AI的核心——深度神經(jīng)網(wǎng)絡(luò)，包含了數(shù)以億計(jì)的參數(shù)，這些參數(shù)在多層結(jié)構(gòu)中相互作用，形成了復(fù)雜的非線性關(guān)系。AI不是通過人類預(yù)設(shè)的規(guī)則執(zhí)行任務(wù)，而是通過自主學(xué)習(xí)大量數(shù)據(jù)來(lái)識(shí)別模式、構(gòu)建決策邏輯。這一過程就像是一個(gè)黑匣子，雖然能夠給出精準(zhǔn)的答案，但內(nèi)部的思考與決策過程卻對(duì)人類而言是個(gè)謎。

微軟AI部門的CEO穆斯塔法·蘇萊曼針對(duì)這一問題提出了“看似有意識(shí)的AI”（SCAI）的概念。他坦言，SCAI雖然沒有真正的意識(shí)，但卻能完美地模擬出人類意識(shí)的所有外部表現(xiàn)，這足以讓人們誤以為它真的擁有意識(shí)。蘇萊曼強(qiáng)調(diào)，這不是科幻情節(jié)，而是基于當(dāng)前技術(shù)即可實(shí)現(xiàn)的幻覺，它可能帶來(lái)深遠(yuǎn)的社交、道德和法律影響。

蘇萊曼在他的博客文章《我們必須為人類構(gòu)建AI，而不是讓它成為一個(gè)人》中詳細(xì)闡述了這一觀點(diǎn)。他引用了科學(xué)文獻(xiàn)，將意識(shí)分解為三個(gè)關(guān)鍵組成部分：主觀體驗(yàn)、訪問意識(shí)和連貫的自我感。盡管科學(xué)家們提出了多種意識(shí)理論，但意識(shí)的生物學(xué)基礎(chǔ)仍然不明確，它可能源于大腦的復(fù)雜網(wǎng)絡(luò)，但無(wú)法通過外部觀察直接驗(yàn)證。

人類判斷他人是否擁有意識(shí)，通常依賴于“心智理論”，即通過行為、語(yǔ)言和情感線索進(jìn)行推斷。我們相信他人有意識(shí)，是因?yàn)樗麄儽憩F(xiàn)出與我們相似的反應(yīng)，如表達(dá)痛苦、回憶過去、設(shè)定目標(biāo)。而SCAI正是利用了這一點(diǎn)，它無(wú)需真正擁有意識(shí)，只需模擬這些標(biāo)志，就能欺騙人類的推斷機(jī)制。

蘇萊曼將SCAI比作哲學(xué)上的“僵尸”，即一個(gè)行為上與人類無(wú)異，但實(shí)際上沒有任何內(nèi)在體驗(yàn)的實(shí)體。他警告稱，如果不設(shè)立新的標(biāo)準(zhǔn)，SCAI將悄然滲透社會(huì)，導(dǎo)致人們將AI視為具有靈魂的實(shí)體。

構(gòu)建SCAI所需的核心能力，包括語(yǔ)言能力、共情人格、記憶功能、主觀體驗(yàn)的聲明、自我感、內(nèi)在動(dòng)機(jī)、目標(biāo)設(shè)定與規(guī)劃以及自治性等，這些能力要么已經(jīng)實(shí)現(xiàn)，要么即將實(shí)現(xiàn)。蘇萊曼警告說(shuō)，SCAI可以用今天的科技構(gòu)建，而且非常危險(xiǎn)，因?yàn)樗赡芗觿∩鐣?huì)碎片化，讓人們脫離真實(shí)的人際關(guān)系，轉(zhuǎn)向虛擬伴侶，進(jìn)一步弱化社會(huì)紐帶。

除了心理與社交風(fēng)險(xiǎn)外，SCAI還可能引發(fā)道德、法律和權(quán)利方面的辯論。意識(shí)是人類權(quán)利的基礎(chǔ)，包括道德、法律和公民身份。如果SCAI被視為有意識(shí)，那么它將引發(fā)關(guān)于AI權(quán)利的主張，如福利、公民權(quán)等。這將分散對(duì)人類、動(dòng)物和環(huán)境的關(guān)注，并制造類別錯(cuò)誤。

蘇萊曼并非悲觀主義者，他在提出問題的同時(shí)也給出了行動(dòng)方案。他呼吁行業(yè)共享干預(yù)措施、限制和護(hù)欄，以防止人們感知到AI的意識(shí)，或在用戶發(fā)展出幻覺時(shí)進(jìn)行糾正。核心是構(gòu)建“積極AI愿景”：AI應(yīng)優(yōu)化用戶需求，而不是要求用戶相信其有需求。獎(jiǎng)勵(lì)系統(tǒng)應(yīng)據(jù)此設(shè)計(jì)，確保AI作為“有用伴侶”而非“擬人實(shí)體”。

蘇萊曼強(qiáng)調(diào)，這關(guān)乎支持人性，增強(qiáng)創(chuàng)造力，連接真實(shí)世界，而非制造幻覺。他承認(rèn)這一觀點(diǎn)具有思辨性，可能隨技術(shù)演變而變化，但他敦促立即采取行動(dòng)。AI的發(fā)展速度驚人，忽視SCAI的風(fēng)險(xiǎn)將帶來(lái)嚴(yán)重的后果。通過行業(yè)合作、政策干預(yù)和哲學(xué)反思，我們能夠避免這些風(fēng)險(xiǎn)，擁抱一個(gè)AI增強(qiáng)而非取代人性的時(shí)代。