随着人工智能（AI）应用广度和深度的不断和拓展，诸如算法安全、数据歧视、数据滥用等诸多问题，这些风险与隐患也不断的显露出来，引发了人们对人工智能信任问题的思考。

对于金融机构而言，如果传统数据传输和共享无法对数据进行有效保护，不同金融机构之间的数据将难以实现互联互通，这将制约防范风险、反欺诈、反洗钱等领域的多方协作。

产学研界寻求的破题之策是——基于多方计算、联邦学习等“可信AI”技术体系，通过“原始数据不出域”、“数据可用不可见”等技术，实现在数据合作中兼顾隐私安全的“价值安全共享”。

在采访中，记者发现，国内“可信AI”落地正在进行中，诸多产业场景应用如雨后春笋；另一方面，也有着亟待建立行业标准等新挑战。

“可信AI”落地进行时

“寻找人工智能时代隐私保护、政府监管、商业诉求的平衡点，已成为产学研各界迫切需要解决的问题。”科技部高技术研究发展中心研究员、ACM中国理事会常务理事嵇智源认为，在此背景下，“可信AI”的理念逐渐成为全球共识，也成为未来人工智能产业健康发展的必由之路。

共识之下，“可信AI”体系已有诸多项目落地。证券时报记者以“可信AI”技术中的“知识联邦、联邦学习、隐私计算”几大关键词，在启信宝上搜索相关企业信息时显示，当前相关存续企业数量达174家（不含大学），包括国家电网、华为、腾讯、中国移动、平安科技、百度网讯、字节跳动、支付宝（杭州）信息、工商银行、中国银行、微众银行等都有涉及。

同盾科技合伙人、人工智能研究院院长，同时也是知识联邦产学研联盟理事长的李晓林告诉证券时报记者，他的团队基于联邦学习自主研发的工业级产品“智邦平台”，过去一年已经广泛触达了金融、保险、政企、互联网、智慧城市等行业，尤其在金融风控、反欺诈、精准营销等场景已有落地。

今年6月，蚂蚁集团首次向外界发布了蚂蚁“可信AI”技术架构体系。近日，蚂蚁集团副总裁、首席AI科学家漆远在公开分享中透露，当前，“可信AI”技术已在蚂蚁集团多个风控场景中落地，这些场景包括反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护等。

漆远告诉记者，继“隐私计算”（即基于“数据不动模型动、数据可用不可见”特性的“可信AI”技术），和“图学习”技术取得实践成果后，蚂蚁集团在“可信AI”技术体系中的又一项重要技术“智能对抗”技术已正式上线部署。通俗地讲，该项技术就是在人工智能模型算法中融入经济学“博弈理论”，类似于金庸小说里的“双手互博”，用更智能的“攻”，实现更安全的“防”。该项技术主要应用于账户安全、反欺诈、交易安全等风控场景。

“未来的风控将不再是人和人的斗争，而是AI与AI的博弈。”漆远称，“在支付宝上，每天上亿笔交易背后，发起攻击的早已不是个人，而是专业的黑产团伙。”

亟需行业标准

当“可信AI”不再是理论和畅想，已全面开始在应用和实践，行业正呈现百花齐放之态。

启信宝数据显示，上述174家企业的注册地分布中，有46家在北京，家数最多；紧随其后的分别是深圳34家、上海25家、杭州20家、南京15家，这些大城市企业数量占比总数超过了九成。从资本实力看，注册规模在1亿元以上的企业有46家，1000万元至1亿元之间的有60家，在500万元至1000万元的企业30家，小微型科创企业并不是这个需要规模实力和研发能力领域的主流玩家。

“现在还属于‘战国时代’，我们同行不是冤家，现在是属于跑马圈地野蛮生长的状态，大家还没有到竞争的时候，而是合作。这个市场还没有完全成熟，每一个人的贡献都是对整个行业的贡献。”李晓林说。

但毫无疑问，大家都意识到这是个重要的机会。以“可信AI”中的隐私技术走向来看，业界普遍认为，发展趋势从以单节点部署模式走向分布式架构模式，未来支撑更大规模、更大量级的建模对技术要求将非常高，这一点要在数据量庞大的金融领域实现应用也更加明显。

工行大数据与人工智能实验室资深经理强锋和团队在开展业务中，常遇到的问题是：工行总行和各地分行提供隐私计算、联邦学习、联合建模的解决方案，常遇到营销类、风控类、信贷类、审批申请判断类模型。“这一方面要怎样合法合规引入到外部数据，另外一方面是通过可信技术，更好把数据价值赋能给业务方向，比如银行业务、内监管平台建设等。”

这些需要不同协议层面平台的打通，技术硬件层面的互通，比如产学研联盟实现开源的互联互通等。“联盟内，通过开放协议、开放标准来确保各种任务进程和安全合规。”李晓林称。

这背后也涉及到业务场景不断变化，数据获取方式和要素的演化，数库科技创始人、总裁沈鑫认为，数据智能发展到今天，数据串联变成了基础，量、准、质已经是三大关键标准，“没有办法把数据的质量提升，算法再强，数据的数字化应用场景效果也未必会好；生产力不仅仅取决于算法和算力，还取决与数据要素本身。”

这也是欧洲科学院外籍院士、悉尼大学教授陶大程提出的问题，具备可解释性，人工智能才能有更广泛的场景应用和赋能。