人工智能應(yīng)用的廣度和深度不斷拓展，成為了數(shù)字經(jīng)濟(jì)發(fā)展的重要驅(qū)動(dòng)力量，但在此過(guò)程中，也暴露出一些風(fēng)險(xiǎn)隱患，主要體現(xiàn)在數(shù)據(jù)濫用導(dǎo)致隱私泄露風(fēng)險(xiǎn)、黑箱模型導(dǎo)致算法不透明、算法安全導(dǎo)致的應(yīng)用風(fēng)險(xiǎn)等方面。
可信AI嵌入研發(fā)流程
數(shù)據(jù)與算法模型是人工智能系統(tǒng)防御能力提升的兩個(gè)重要方向。數(shù)字化時(shí)代，人工智能的發(fā)展需要大量的數(shù)據(jù)來(lái)訓(xùn)練，而數(shù)據(jù)的流轉(zhuǎn)過(guò)程涉及到用戶的隱私保護(hù)，因此，建立完善的數(shù)據(jù)管理機(jī)制至關(guān)重要。
智慧眼全方位融合了多方安全計(jì)算（MPC）、聯(lián)邦學(xué)習(xí)（FL）、可信執(zhí)行環(huán)境（TEE）等多種技術(shù)，利用區(qū)塊鏈、可信計(jì)算技術(shù)，打造數(shù)據(jù)安全可信共享的基礎(chǔ)設(shè)施，通過(guò)透明可信分布式架構(gòu)，端到端的應(yīng)用閉環(huán)，在保證數(shù)據(jù)安全和隱私保護(hù)的前提下，實(shí)現(xiàn)多參與方數(shù)據(jù)可信共享、協(xié)同計(jì)算，實(shí)現(xiàn)數(shù)據(jù)的“可用不可見(jiàn)”。
在算法模型防御方面，智慧眼引入了魯棒性評(píng)測(cè)、對(duì)抗測(cè)評(píng)、對(duì)抗訓(xùn)練、模型加密等技術(shù)，幫助客戶提升模型的安全性。其中運(yùn)用對(duì)抗攻擊的訓(xùn)練方法能提高模型魯棒性，也就是它在異常和危險(xiǎn)情況下系統(tǒng)生存的能力，極大地解決假樣本的攻擊。
通過(guò)對(duì)抗學(xué)習(xí)攻擊方案，并基于樣本本身的多樣性，不斷提升樣本的遷移能力，以此來(lái)考察業(yè)務(wù)當(dāng)中數(shù)據(jù)鏈路層安全，增強(qiáng)抗打擊能力，從而帶來(lái)業(yè)務(wù)效果的提升。在產(chǎn)品的運(yùn)營(yíng)使用階段，智慧眼持續(xù)開(kāi)展人工智能風(fēng)險(xiǎn)監(jiān)測(cè)，建立用戶反饋渠道，及時(shí)收集用戶的真實(shí)意見(jiàn)，并對(duì)整個(gè)系統(tǒng)進(jìn)行優(yōu)化和迭代，對(duì)實(shí)際使用過(guò)程中的各種風(fēng)險(xiǎn)，不斷監(jiān)督完善。
積極參與可信生態(tài)建設(shè)
打造可信的人工智能體系已經(jīng)成為行業(yè)的焦點(diǎn)和努力的方向，智慧眼在做好企業(yè)自身個(gè)人信息和隱私保護(hù)工作的同時(shí)，也積極參與各項(xiàng)重要行業(yè)工作，促進(jìn)和引導(dǎo)行業(yè)共同進(jìn)步和良性發(fā)展。
2021年，中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所倡議發(fā)起的“可信人臉識(shí)別守護(hù)計(jì)劃”第一批成員單位誕生，智慧眼成功通過(guò)審核。智慧眼作為中國(guó)信通院首批“護(hù)臉計(jì)劃”成員單位，自“護(hù)臉計(jì)劃”啟動(dòng)以來(lái)，積極參與相關(guān)標(biāo)準(zhǔn)建設(shè)和實(shí)踐工作，深受相關(guān)行業(yè)部門認(rèn)可，有效支撐了產(chǎn)業(yè)各層面開(kāi)展人臉身份核驗(yàn)安全、合規(guī)工作。
ISO/IEC 27701:2019是全球首個(gè)隱私管理體系標(biāo)準(zhǔn)，也是目前國(guó)內(nèi)外業(yè)界公認(rèn)最具權(quán)威性、被廣泛接受并應(yīng)用的隱私信息管理體系，智慧眼是國(guó)內(nèi)率先通過(guò)該認(rèn)證的人工智能企業(yè)。
同時(shí)，智慧眼在軟件開(kāi)發(fā)、集成、系統(tǒng)運(yùn)維等方面均獲得了信息系統(tǒng)安全等級(jí)保護(hù)證書，作為中國(guó)權(quán)威的信息產(chǎn)品安全等級(jí)資格認(rèn)證，智慧眼在信息安全、風(fēng)險(xiǎn)控制和系統(tǒng)整體化建設(shè)方面獲得了權(quán)威認(rèn)可，也再次印證了智慧眼一直以來(lái)為客戶提供安全、可靠的信息安全環(huán)境的決心。
此外，智慧眼是國(guó)際FIDO聯(lián)盟成員單位，并全面參與國(guó)家信標(biāo)委和各行業(yè)人工智能、大數(shù)據(jù)、生物特征識(shí)別、行為識(shí)別、區(qū)塊鏈和行業(yè)頂層設(shè)計(jì)等方面的標(biāo)準(zhǔn)制定，在提高安全性、保護(hù)隱私及簡(jiǎn)化用戶體驗(yàn)方面，為其提供技術(shù)支持，積極推動(dòng)AI治理和可持續(xù)發(fā)展。
以人為本，技術(shù)向善。智慧眼將持續(xù)聚焦可信人工智能技術(shù)、產(chǎn)業(yè)和行業(yè)實(shí)踐，提供安全可信的行業(yè)智能化解決方案，讓更多用戶能夠享受安心、可信的AI服務(wù)，并將與業(yè)內(nèi)共建技術(shù)、社會(huì)、文化、價(jià)值融合共生的健康有序發(fā)展生態(tài)。
湘ICP備20003263號(hào)-1