(资料图片)

上证报中国证券网讯（王玉晴 记者 卢梦匀）11月10日，互联网大会乌镇峰会举行人工智能与数字伦理分论坛。蚂蚁集团首席技术官倪行军在论坛演讲中讨论了智能服务在面向个人用户和企业用户时分别面临的信任问题。

倪行军介绍，蚂蚁集团研究院和人民大学、对外经贸大学共同开展的一项大规模算法调研发现，八成用户希望有个性化推荐，但同时有六成用户担心个性化推荐侵犯个人隐私。多数用户表示希望有关闭选项，可以自己确定或者排除某些标签。

“这表明，智能服务虽好，但目前用户用得不够放心、不够安心。未来需要进一步回应用户关切，更好地保护用户隐私，并让用户更便捷地行使知情权和自主权。”倪行军说。

他还提到，随着智能化的发展，人工智能等科技系统的可信安全问题成为了新的议题。“新一代人工智能是机器的自我学习，而不只是依赖于人为信息和知识的输入，这就可能带来系统的不可解释、不够可靠等问题。特别在诸如医疗、制造、金融等与社会生活息息相关的领域，机器学习模型做出错误预测的后果往往是难以接受的。”

倪行军说，从2015年起蚂蚁集团开始投入可信AI的技术研究，集成1000多件可信AI专利，打造了业内首个面向工业场景全数据类型的AI安全检测平台“蚁鉴”。它用于帮助开发者实现不同场景下AI算法的系统化和自动化评测，有助于行业打造更安全可靠的AI产品。

“未来，我们将和行业继续一起努力，从算法技术、知识体系、可信评估等多个维度，系统性地去保障AI的可信安全问题。”倪行军说道。

关键词： 人工智能 安全问题 数据类型