（聚焦博鰲）AI迅猛發(fā)展，人類能否穩(wěn)控“方向盤”
為何人類必須掌控AI“方向盤”
AI近年來的快速發(fā)展既令人振奮，又暗藏隱憂。上海科學(xué)智能研究院首席戰(zhàn)略官、復(fù)旦大學(xué)經(jīng)濟學(xué)教授楊燕青指出，AI可能是人類歷史上最強大的通用技術(shù)。“與蒸汽機、電力等增強人類體力的技術(shù)不同，AI直接賦能人類大腦，涉及計算與認(rèn)知的深度融合。”楊燕青將AI特性描述為“類人”，這使得AI既能帶來生產(chǎn)力提升，也可能引發(fā)威脅人類生存的風(fēng)險。
中國工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長張亞勤介紹，2025年人工智能發(fā)展呈現(xiàn)三大趨勢：從生成式大模型邁向智能體，從預(yù)訓(xùn)練走向推理，從信息智能走向物理智能和具身智能。
隨著AI的快速迭代，一個令人不安的場景或從科幻電影中走向現(xiàn)實：本應(yīng)協(xié)助人類的AI，可能因為算法偏差或外部操縱，做出違背倫理、危及人類利益的決策。
人類如何掌控AI“方向盤”
面對未知的AI風(fēng)險，人類如何應(yīng)對？中國科學(xué)院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構(gòu)專家曾毅主張，將倫理安全融入AI開發(fā)的底層設(shè)計，視其為“第一性原則”，不可刪除、不可違背。他強調(diào)，AI的倫理安全應(yīng)成為技術(shù)發(fā)展的基因，確保其與人類價值觀保持一致。
張亞勤進(jìn)一步將AI風(fēng)險分解為可信度與可控性兩個層面。可信度要求AI在執(zhí)行任務(wù)時遵循人類期望、倫理規(guī)范和社會法律，不產(chǎn)生誤導(dǎo)性、有害或不公平的結(jié)果；可控性則確保人類能有效監(jiān)控、干預(yù)和糾正AI行為，避免失控或不可預(yù)測的后果。他提出，設(shè)定技術(shù)紅線與邊界是關(guān)鍵，如限制智能體自我復(fù)制，以降低失控風(fēng)險。
在具體實踐上，國際社會已采取行動。歐盟《人工智能法案》于2024年實施，對高風(fēng)險AI系統(tǒng)設(shè)定了嚴(yán)格的透明度和問責(zé)要求；中國2023年發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》則明確要求企業(yè)對AI輸出內(nèi)容負(fù)責(zé)。這些技術(shù)與倫理并重的措施，旨在確保人類腳踩AI超速的“剎車片”，手握AI發(fā)展的“方向盤”。
平衡AI：發(fā)展與治理的共生之道
有人擔(dān)憂，給AI“裝上剎車片”會削弱其競爭力。曾毅介紹，其所在的團(tuán)隊通過對大模型進(jìn)行微調(diào)，可以將安全能力提升20%至30%，對其性能幾乎沒有負(fù)面影響。這一發(fā)現(xiàn)證明，安全治理與技術(shù)發(fā)展可以并行不悖。
當(dāng)天在博鰲的討論最終匯聚成共識：AI治理需要構(gòu)建一個多元、立體的全方位治理體系。這一體系如同一個精密的生態(tài)系統(tǒng)，既有自上而下的宏觀規(guī)劃，也有自下而上的微觀參與，涵蓋技術(shù)、社會、經(jīng)濟等多元維度。
“我們怎么和人工智能共處？如何讓人工智能使得整個世界變得更好，人類應(yīng)有更大的責(zé)任。”楊燕青認(rèn)為，AI治理是每個人的使命。社會大眾應(yīng)保持自身的價值觀和創(chuàng)新力，在多元的理念中把握好自己的“方向盤”。
標(biāo)簽：
搶先讀
- （聚焦博鰲）AI迅猛發(fā)展，人類能否穩(wěn)控“方向盤”
- 陜西鎮(zhèn)巴至四川廣安高速公路白馬渠江特大橋貫通
- 中國網(wǎng)絡(luò)視聽用戶近11億
- 商務(wù)部：有序擴大單方面免簽國家范圍
- 國內(nèi)自研最大直徑盾構(gòu)機“滄淵號”成功下線
- 鄭永年：解決國家間貧富差距應(yīng)“達(dá)則兼濟天下”
- （聚焦博鰲）博鰲亞洲論壇全球健康論壇2025年北京會議將于7月召開
- 商務(wù)部：有序擴大單方面免簽國家范圍
- 水泥填縫的方法是什么？水泥填縫多久可以擦？
- “新時代網(wǎng)紅生態(tài)發(fā)展工程”簽約儀式在京舉行
- 首驅(qū)（Sky Motor）震撼發(fā)布，開啟智能兩輪出行新紀(jì)元
- 龍永圖：只要科學(xué)技術(shù)發(fā)展不停止，全球化就不可能停止
- 洗衣機中途暫停了如何打開鎖？洗衣機不脫水了是什么原因？
- （經(jīng)濟觀察）中式茶飲掀境外上市熱，背后有何“生意經(jīng)”？
- （經(jīng)濟觀察）中式茶飲掀境外上市熱，背后有何“生意經(jīng)”？
- 紅西鳳升級版價值解讀：“文化基因+非遺工藝+品質(zhì)密碼”引領(lǐng)高端鳳香新境界
- （聚焦博鰲）遲福林：要高度重視RCEP在促進(jìn)亞洲經(jīng)濟一體化中的作用
- （聚焦博鰲）遲福林：要高度重視RCEP在促進(jìn)亞洲經(jīng)濟一體化中的作用
- 全系標(biāo)配高階智駕+高階智艙，比亞迪海獅05EV正式上市 售價11.78萬元-13.78萬元
- 張軍：亞洲發(fā)展中國家多 綠色轉(zhuǎn)型卻走在世界前列
- 比亞迪發(fā)布2024年ESG報告 以技術(shù)創(chuàng)新驅(qū)動可持續(xù)發(fā)展
- （聚焦博鰲）周小川建言海南自貿(mào)港：打造中國服務(wù)業(yè)開放高地
- （聚焦博鰲）周小川建言海南自貿(mào)港：打造中國服務(wù)業(yè)開放高地
- 3月26日人民幣對美元中間價報7.1754元 上調(diào)34個基點
- 透過1秒、1天、1年看中國快遞有多強
- AI醫(yī)生看病靠譜嗎
- 銷量破百萬 一“冠”難求 文創(chuàng)產(chǎn)業(yè)還藏著哪些“出圈”密碼？
- 個頭更大 價格更優(yōu) 大個頭藍(lán)莓藏著哪些科技秘密？
- 專業(yè)跟著產(chǎn)業(yè)走 河南高校專業(yè)花樣“上新”
- 透過1秒、1天、1年看中國快遞有多強
- 專業(yè)跟著產(chǎn)業(yè)走 河南高校專業(yè)花樣“上新”
- 專業(yè)跟著產(chǎn)業(yè)走 河南高校專業(yè)花樣“上新”
- 這座川西北高原小城，人均擁有梨樹19棵！
- 農(nóng)民增收新思路 設(shè)置“帶薪釣魚”崗位有何用意
- 重慶：3D打印技術(shù)助力飛機維修
- 手機賬戶資金莫名被盜刷 “免密支付”風(fēng)險怎樣防范
- 昆明打造機床產(chǎn)業(yè)聚集區(qū) 力爭3年產(chǎn)值破百億元
- “文景口”輪將首航 為中國新能源汽車出口提供全鏈路保障
- 重慶：3D打印技術(shù)助力飛機維修
- 滬蘇湖高鐵加速長三角農(nóng)文旅融合步伐
- 蘭州明確出入境限定區(qū)域
- 昆明打造機床產(chǎn)業(yè)聚集區(qū) 力爭3年產(chǎn)值破百億元
- 浙江單批次商品車裝箱出運量紀(jì)錄刷新
- 江西累計引進(jìn)臺資項目4067個 實際進(jìn)資197.56億美元
- 湖北荊州觀音寺長江大橋公安側(cè)主塔封頂
- （聚焦博鰲）聯(lián)合國官員：博鰲亞洲論壇為南南合作提供更多參考
- 滬蘇湖高鐵加速長三角農(nóng)文旅融合步伐
- （聚焦博鰲）國際經(jīng)貿(mào)合作：海南自貿(mào)港注入新動力
- 滬蘇湖高鐵加速長三角農(nóng)文旅融合步伐
- （聚焦博鰲）國際經(jīng)貿(mào)合作：海南自貿(mào)港注入新動力
- 在博鰲感受開放的中國
- （經(jīng)濟觀察）中國運營商加碼算力基礎(chǔ)設(shè)施投資
- （聚焦博鰲）海南博鰲零碳示范區(qū)實現(xiàn)全域零碳運行
- （聚焦博鰲）黃奇帆：“中國制造”并非閉門造車，外資起橋梁作用
- “德國制造”與“東方魯爾”再燃新火花：賀利氏石英沈陽新工廠落成
- “德國制造”與“東方魯爾”再燃新火花：賀利氏石英沈陽新工廠落成
- （聚焦博鰲）海南博鰲零碳示范區(qū)實現(xiàn)全域零碳運行
- 天津創(chuàng)建首批4家未來產(chǎn)業(yè)先導(dǎo)區(qū) 推動創(chuàng)新資源集聚
- 渝昆高鐵云南段“四電”工程開工
- 以舊換新加力擴圍 “煥”出消費新動能
- 股票超跌反彈的應(yīng)用有哪些？股票漲停時為何不選擇賣出？
- 周小川：海南自貿(mào)港在服務(wù)貿(mào)易、綠色發(fā)展領(lǐng)域大有可為
- 周小川：海南自貿(mào)港在服務(wù)貿(mào)易、綠色發(fā)展領(lǐng)域大有可為
- 黑龍江同江：6年培育大麻哈魚苗260萬尾
- 守護(hù)數(shù)字原住民：《蛋仔派對》的未成年人保護(hù)與公益創(chuàng)新之路
- 黑龍江同江：6年培育大麻哈魚苗260萬尾
- 個險改革新探索：大家人壽創(chuàng)新保險代理模式
- 今年以來中國電動自行車以舊換新超220萬輛
- 2月中國銷售彩票同比增15.3%
- 個險改革新探索：大家人壽創(chuàng)新保險代理模式
- 2月中國銷售彩票同比增15.3%
- 個險改革新探索：大家人壽創(chuàng)新保險代理模式
- 第20屆SIUF中國國際品牌內(nèi)衣展開幕 勾勒時尚畫卷
- 第20屆SIUF中國國際品牌內(nèi)衣展開幕 勾勒時尚畫卷
- 73.1℃！湖北咸寧刷新中深層地?zé)峋疁囟刃赂?/a>
- 廣西發(fā)布住房公積金業(yè)務(wù)標(biāo)準(zhǔn) 利于更多的靈活就業(yè)人員
- 廣西發(fā)布住房公積金業(yè)務(wù)標(biāo)準(zhǔn) 利于更多的靈活就業(yè)人員
- 以金融溫度助力消費升溫 中信銀行信用卡深耕“食住行娛購”
- 數(shù)百萬外賣騎手“工傷保險”擴圍在即，美團(tuán)近三年已投入14億元
- 數(shù)百萬外賣騎手“工傷保險”擴圍在即，美團(tuán)近三年已投入14億元
- 以金融溫度助力消費升溫 中信銀行信用卡深耕“食住行娛購”
- 糖酒會吹“減糖”風(fēng) “體重管理”助力健康經(jīng)濟
- 糖酒會吹“減糖”風(fēng) “體重管理”助力健康經(jīng)濟
- 廣西發(fā)布住房公積金業(yè)務(wù)標(biāo)準(zhǔn) 利于更多的靈活就業(yè)人員
- 全國城市巡回招聘寧夏站在銀川舉辦 吸引約1.5萬名求職者
- 湖北啟動實施知識價值信用貸 助科技型企業(yè)發(fā)展
- 基金后面加倉怎么算持有天數(shù)？基金漲了加倉還是跌了加倉？
- 基金加倉的兩大方法是什么？基金加倉凈值怎么算？
- 安利全球CEO邁克爾·尼爾森：5年投資21億元 持續(xù)加碼中國
- （聚焦博鰲）報告稱亞洲經(jīng)濟2025年將增長4.5%
- 中國工程院院士孫寶國蒞臨西鳳股份公司助力風(fēng)味科學(xué)研究
- 種業(yè)發(fā)展筑牢創(chuàng)新底座
- 十月稻田發(fā)布2024年業(yè)績報告，穩(wěn)中增效提質(zhì)能力凸顯
- 免密支付存隱患 如非必要莫開啟
- 北京市首家“名特優(yōu)新”個體工商戶孵化服務(wù)站成立
- 西鳳酒10萬噸優(yōu)質(zhì)基酒及配套生產(chǎn)項目制酒工藝方案通過專家評審
- 商務(wù)部：加快落實各項擴消費政策措施
- 專項行動持續(xù)深化 央企加速“擁抱”人工智能
- 歐美企業(yè)高管齊聚北京，用實際行動反駁“脫鉤論”
- 新品密集發(fā)布 人形機器人加速產(chǎn)業(yè)“進(jìn)化”