中新網上海9月12日電 (姜煜 高志苗)以“AI向善·安全發(fā)展——大模型在嚴謹行業(yè)應用中的倫理與治理”為主題的外灘大會分論壇，12日在上?！?025外灘大會”現場舉辦，專家學者在論壇上熱議醫(yī)療AI應用。
“在醫(yī)療行業(yè)，AI的決策直接關乎生命健康與社會公平，數據濫用、算法偏見、責任模糊等問題亟待解決?！敝袊ヂ摼W協(xié)會副理事長黃澄清在論壇致辭中表示，構建可信、可靠、可追溯的AI治理體系已成為技術發(fā)展的內在要求，也是社會責任的必然選擇。
“醫(yī)療大模型的發(fā)展，我覺得對社會最大的貢獻是有可能促進醫(yī)療公平公正?！睆偷┐髮W哲學學院教授王國豫說，AI在醫(yī)療領域的應用是偏遠地區(qū)醫(yī)生的好助手，為優(yōu)勢醫(yī)療資源難以觸達和覆蓋的病患群體帶去了期望和福音。
上海交通大學醫(yī)學院附屬瑞金醫(yī)院信息中心主任趙艷認為，AI的出現讓患者不僅在診前就能對自身情況進行較科學的基礎了解，也在診中和診后促進了患者對醫(yī)生診療方案的依從性，從而可以提升配合治療的效果。
中國工程院院士、同濟大學黨委書記鄭慶華指出，AI與人類的“價值對齊”問題是確保人工智能科技向善的根本，要通過強化學習讓大模型學習人類的價值和偏好，以此讓人工智能對齊人類價值，創(chuàng)建安全、符合倫理的人工智能系統(tǒng)，同時人類也要對齊AI，核心是確保人們負責任地應用AI。
“全球的人工智能治理正走向促發(fā)展和柔性監(jiān)管的方向，即建立一個敏捷的治理體系，以政策指引促進產業(yè)主動自律，以包容審慎的態(tài)度來構建負責任的人工智能安全體系。”中國信息通信研究院副院長魏亮說。據他介紹，2025年7月，中國信息通信研究院聯合多家企事業(yè)單位，共同發(fā)布了《人工智能安全承諾》，形成了20條實踐標簽、43條安全案例，不僅推動我國人工智能安全治理邁入體系化、透明化、實操化的新階段，也為全球貢獻了“以人為本、智能向善”的中國方案。
企業(yè)界代表、螞蟻集團資深副總裁及科技倫理委員會聯席主席周志峰說：“我們還是希望通過預警、測試、修復這樣的動態(tài)機制來提升AI的風險防控能力?！彼谡搲辖榻B了螞蟻集團在AI大模型領域的研發(fā)進展以及倫理方面的思考。(完)