“只不过上网搜索几个关键词，就会接到一连串的推销电话。当你好不容易挂断电话，讲得口干舌燥，想要点杯奶茶时，又弹出这样的信息：亲，开通会员立享外卖满减大红包哦！看到这条消息的你一顿操作猛如虎，开心省下三块五。但是十分钟后你发现隔壁小王同款奶茶没有开通会员反而便宜三毛。”北京互联网法院综合审判二庭法官封瑜在北京互联网法院举办的春藤·法官讲坛上介绍，“上述场景体现了AI法律地位、个人信息泄露、算法歧视和算法滥用等议题，背后隐藏着大数据时代的AI伦理问题。”
封瑜指出，目前，司法界对AI的态度是“拥抱科技，谨慎怀疑”。以AI领域先行者美国举例，在美国，AI技术与司法审判的融合由来已久，是最早将数据库、司法评判系统等工具引入司法领域的，虽然一直将AI定位于协助者，但在2013年美国威斯康星州诉卢米斯一案中，法官以COMPAS系统评估报告为依据指导定罪量刑，被告卢米斯盗窃一部二手普通家用汽车就被这个软件判定8.5年刑期，且从未有机会被事先告知并检查它的AI算法，由此，卢米斯提起了上诉，但他的上诉被驳回。据悉，案件中，帮助法官做出判断的AI项目内容是通过向被测试人询问137个问题后，经过设定的一套复杂算法，最后得出被测试人的“危险指数”，即未来再次犯罪的可能性。但是随后引发的一系列争议话题，使得COMPAS软件广受质疑。
这也引发一个问题：AI与司法审判融合的度在哪里？AI是否可以取代法官行使审判权？
“事实上，不管在发展AI技术的同时加强对伦理规则的制定，还是针对已经被世人警觉的各种纠纷和科技巨头间在算法数据和应用领域的不正当竞争，各国司法领域都给出了各自的回应。”封瑜强调，一是基于算法黑箱、算法歧视这些无可避免的问题，司法审判权不可放手交付AI，以避免裁判结果受操控，导致出现无可察觉、无可纠正的恶果。二是互联网司法被称为面向未来的司法，新技术带来的许多前沿性挑战，无先例可循。法官只能在现有法律框架内，结合新的社会情况解释法律并作出司法裁判，积极回应社会发展提出的新问题。三是司法实践需要先还原事实，再适用法律，而适用的法律又会反过来决定哪些事实是需要被还原的。案件只是表象，价值判断和人性取舍是蕴含在其中发挥作用的底层能量，司法领域凝结了人类最错综复杂的利益冲突，绝不是仅仅用棋谱即可培养出AI的围棋领域可以比较的。无从理解人类情感，难以解释现实场景，又无法拥有司法意识的AI，在司法界只能作为辅助工具而不可操纵法槌本身。此外，我们必须警惕技术对人类的反向驯化作用。
