近日，人工智能領(lǐng)域第一批科技倫理審查機構(gòu)登記證書頒發(fā)儀式在湖南舉行，湖南省科技廳廳長朱皖為6家獲人工智能科技倫理審查機構(gòu)登記備案的企業(yè)頒發(fā)證書，“智慧眼”獲批在列。
科技倫理是開展科學(xué)研究、技術(shù)開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范。隨著人工智能賦能的日益廣泛，人工智能所帶來的隱私泄漏、偏見歧視、責(zé)權(quán)歸屬、技術(shù)濫用等倫理問題也在不斷擴大，給社會治理帶來全新挑戰(zhàn)，迫切需要建立健全科技倫理治理體系。
朱皖廳長表示，希望首批獲登記備案的機構(gòu)充分發(fā)揮示范帶動作用，在推動全省人工智能倫理治理，促進創(chuàng)新和倫理治理相統(tǒng)一上立好標(biāo)、打好樣，為加快培育發(fā)展新質(zhì)生產(chǎn)力增添新動能。
在生成式人工智能的產(chǎn)業(yè)浪潮下，如何讓科技更“向善”，堅守倫理道德邊界是每個科技企業(yè)都需要承擔(dān)的社會責(zé)任。智慧眼作為一家領(lǐng)先的醫(yī)療人工智能企業(yè)，既要做好科技創(chuàng)新的攻堅者，也要做好技術(shù)向善的守門人，目前公司已初步建立起人工智能倫理治理體系，力求實現(xiàn)從理論到實踐、從研發(fā)到產(chǎn)品的全生命周期的多維度閉環(huán)，構(gòu)建一個負責(zé)任的AI生態(tài)系統(tǒng)。
智慧眼人工智能科技倫理審查委員會負責(zé)人表示：“智慧眼專門設(shè)立AI技術(shù)委員會，關(guān)注領(lǐng)域包括但不限于AI大模型、自然語言處理(NLP)、深度學(xué)習(xí)訓(xùn)練和推理等。此外，在相關(guān)規(guī)范中也加強數(shù)據(jù)安全、模型透明度、算法可解釋性和用戶隱私等關(guān)鍵等方面的技術(shù)研究，我們將堅守安全合規(guī)原則，確保應(yīng)用和服務(wù)在最大程度上減少歧視、偏見，以促進人工智能健康高質(zhì)量發(fā)展。‘’
在“AI+醫(yī)療”領(lǐng)域，智慧眼砭石大模型倫理方面做了重點考量，一方面，采用知識圖譜與大模型相結(jié)合的技術(shù)路線，通過在訓(xùn)練過程中加入知識圖譜對訓(xùn)練過程進行知識增強，結(jié)合RLHF技術(shù)，在500億參數(shù)條件下比單純使用大模型技術(shù)，醫(yī)學(xué)問題回答準(zhǔn)確度提升近40%。另一方面，隱私計算條件下的大模型聯(lián)邦訓(xùn)練，保證了數(shù)據(jù)的多樣化和高質(zhì)量，充分釋放數(shù)據(jù)要素價值，真正做到數(shù)據(jù)的“可用不可見”、“數(shù)據(jù)不出域”。此外，砭石醫(yī)療大模型能夠支持醫(yī)療領(lǐng)域多模態(tài)的輸入，包括醫(yī)療領(lǐng)域文本、圖像、視頻和音頻形式，可以有機整合不同的信息，相比單模態(tài)信息更加全面，讓AI充分施展拳腳，方便醫(yī)藥機構(gòu)使用。
關(guān)于未來在倫理問題的治理路徑，智慧眼人工智能科技倫理審查委員會將重點著手風(fēng)險能力建設(shè)和技術(shù)能力建設(shè)。風(fēng)險能力建設(shè)，包括建設(shè)算法評估、風(fēng)險檢測、干預(yù)機制的全生命周期風(fēng)險管理流程，以及技術(shù)安全性、魯棒性、公平性、可解釋與可干預(yù)性等科技倫理審查和治理工具。技術(shù)能力建設(shè)，包括增加在隱私保護、安全可靠、可信可控等關(guān)鍵方向前沿技術(shù)的布局和探索。
智慧眼希望通過技術(shù)創(chuàng)新與治理創(chuàng)新，構(gòu)建負責(zé)任、可信賴的大模型發(fā)展生態(tài)，進一步推動大模型在各個領(lǐng)域、行業(yè)的深度應(yīng)用，使其真正造福社會。
湘ICP備20003263號-1