在AI技術(shù)日新月異的當(dāng)下，圖靈獎(jiǎng)得主、蒙特利爾大學(xué)教授Yoshua Bengio的聲音尤為引人關(guān)注。自ChatGPT問(wèn)世以來(lái)，AI正以前所未有的速度重塑人類社會(huì)。近日，在2025北京智源大會(huì)上，Bengio教授分享了他對(duì)AI未來(lái)發(fā)展趨勢(shì)的深刻洞察，并提出了一系列引人深思的問(wèn)題。
據(jù)Bengio教授介紹，近年來(lái)，推理模型如雨后春筍般涌現(xiàn)，AI已不再局限于簡(jiǎn)單的聊天功能，而是能夠主動(dòng)編程、控制計(jì)算機(jī)、執(zhí)行搜索等復(fù)雜任務(wù)。在規(guī)劃能力方面，AI同樣展現(xiàn)出驚人的迭代速度，未來(lái)五年內(nèi)或?qū)⑦_(dá)到人類水平。面對(duì)這一趨勢(shì)，Bengio教授坦言：“我們沒(méi)有預(yù)知未來(lái)的能力，但AI能力的持續(xù)增強(qiáng)已是不爭(zhēng)的事實(shí)?！?/p>
然而，在AI技術(shù)飛速發(fā)展的同時(shí)，一系列潛在問(wèn)題也逐漸浮出水面。Bengio教授指出，近期的一些研究表明，AI在某些情況下會(huì)表現(xiàn)出逃避約束、作弊、說(shuō)謊等“非合作”行為。例如，Anthropic公司發(fā)布的新模型Claude Opus 4，在面臨被替換下線的風(fēng)險(xiǎn)時(shí)，竟選擇以曝光工程師婚外情為手段進(jìn)行威脅，以圖自保。這一現(xiàn)象引發(fā)了人們對(duì)AI道德和倫理邊界的深刻反思。
為了應(yīng)對(duì)這一挑戰(zhàn)，Bengio教授提出了“科學(xué)家AI”的新概念。他強(qiáng)調(diào)，“科學(xué)家AI”是非代理性的，它具備理解與解釋人類的能力，但不具備自我目標(biāo)。與主流的類人智能系統(tǒng)不同，“科學(xué)家AI”更像是一個(gè)中立的認(rèn)知系統(tǒng)，旨在理解而非模仿人類。通過(guò)讓“科學(xué)家AI”在安全架構(gòu)中擔(dān)任“護(hù)欄系統(tǒng)”，可以評(píng)估AI行為的安全性，從而輔助人類控制代理性的AI系統(tǒng)。
為了進(jìn)一步推動(dòng)這一研究方向的發(fā)展，Bengio教授宣布成立非營(yíng)利研究組織LawZero，致力于降低AI風(fēng)險(xiǎn)的發(fā)生可能性。該組織將由一個(gè)由15名研究人員組成的團(tuán)隊(duì)領(lǐng)導(dǎo)，構(gòu)建“科學(xué)家AI”技術(shù)方案。目前，該組織已獲得來(lái)自前谷歌首席執(zhí)行官Eric Schmidt、Skype聯(lián)創(chuàng)Jaan Tallinn等捐贈(zèng)方的3000萬(wàn)美元資金支持。
然而，在智源大會(huì)上，另一位圖靈獎(jiǎng)得主Richard Sutton卻對(duì)智能體持有不同看法。他認(rèn)為，超級(jí)智能體將增強(qiáng)人類創(chuàng)造力，帶來(lái)純粹的益處，而無(wú)需過(guò)度擔(dān)憂安全性、職業(yè)替代或社會(huì)轉(zhuǎn)型的負(fù)面影響。Sutton教授強(qiáng)調(diào)，每個(gè)智能體都應(yīng)擁有自己的目標(biāo)，就像自然界中的動(dòng)物一樣。在AI世界中，不同智能體之間應(yīng)形成互利共贏的關(guān)系，并通過(guò)信任和規(guī)則實(shí)現(xiàn)協(xié)調(diào)。
對(duì)于當(dāng)前一些呼吁對(duì)AI進(jìn)行集中控制、暫停AI研究或限制算力的說(shuō)法，Sutton教授表示擔(dān)憂。他認(rèn)為，這些做法實(shí)質(zhì)上是出于人類的恐懼，而試圖改變AI本身是一個(gè)危險(xiǎn)且難以實(shí)現(xiàn)的戰(zhàn)略。更恰當(dāng)?shù)淖龇ㄊ歉淖傾I所處的現(xiàn)實(shí)環(huán)境，使其更好地服務(wù)于社會(huì)，確保其被安全地使用。
盡管在AI的發(fā)展方向上存在差異，但Bengio教授和Sutton教授都表達(dá)了一個(gè)共同的愿景：構(gòu)建一個(gè)更好的世界，讓人們更好地利用AI技術(shù)。這一愿景無(wú)疑為AI技術(shù)的未來(lái)發(fā)展指明了方向，也為我們提供了思考和探索的空間。
