|
|
|
| Risks of AI-Embedded Investigative Interrogations and Regulatory Frameworks |
| Zhan Jianhong, Qiu Yuxin |
| Law School, Zhongnan University of Economics and Law, Wuhan 430073, China |
|
|
|
|
Abstract The application and development of artificial intelligence (AI) technology have brought revolutionary changes to various industries while providing robust technical support for the national legal system development. The integration of AI systems, represented by intelligent case-handling assistance systems, with criminal litigation mechanisms has become an inevitable trend in the evolution of China’s future criminal justice system, particularly during the case filing and investigation stages of criminal proceedings. For instance, during case filing, AI-driven technologies such as intelligent retrieval and analysis of criminal intelligence enable automated classification, retrieval, in-depth mining, and analytical evaluation of crime-related information. In the investigation phase, the analysis of digital video stands as one of the most widely utilized AI technologies, encompassing video/image content recognition, intelligent identification of human and mechanical traces, and other physical evidences. During pursuit operations, AI-powered geospatial analysis and the construction of a “four-dimensional operational framework” can effectively transform traditional two-dimensional investigative activities into a three-dimensional model integrating aerial and ground forces, significantly enhancing the efficiency of tracking and intercepting suspects. As interrogation constitutes a critical component of criminal litigation, embedding AI into this process is imperative. The adoption of emerging technologies—such as multimodal emotion analysis, intelligent transcription systems, and automated evidence review—directly impacts the quality of investigative outcomes.The rise of judicial AI also poses substantial challenges to traditional criminal justice practices. These challenges not only trigger profound shifts in the operational mechanisms of criminal justice activities but also disrupt established judicial philosophies. Current applications of AI in investigative processes face technical limitations, including insufficient, unreliable, or unstructured legal data, as well as issues such as the “black-box effect”, algorithmic bias, and potential rights infringements. These shortcomings jeopardize the legitimacy of interrogation activities. Consequently, it is essential to identify and evaluate the risks associated with AI integration into interrogations and devise regulatory pathways to ensure the lawful exercise of investigative authority while safeguarding the procedural rights of the accused. This paper aims at delineating specific application scenarios of AI in investigative interrogations, articulate its value in this context, and expose associated risks throughout the interrogation process, thereby proposing countermeasures to inform the institutional design of AI-embedded interrogation systems.In an era where AI technologies serve as investigative aids and deepen their integration, outright rejection or resistance is impractical. To mitigate the “double-edged sword” effect of AI, a balanced approach harmonizing technology and law must prioritize pluralistic values. While leveraging AI’s auxiliary role in interrogations, legal frameworks must guide and regulate its use to prevent the expansion and misuse of investigative power under data-driven models. Concurrently, legislative, judicial, and administrative collaboration should promote the deep integration of AI with interrogation practices, aligning technological advancement with legal principles to realize the vision of “technology for good” in criminal justice.
|
|
Received: 15 August 2024
|
|
|
|
1 严剑漪：《揭秘“206”：法院未来的人工智能图景——上海刑事案件智能辅助办案系统164天研发实录》，《人民法治》2018年第2期，第38-43页。
2 任惠华、金浩波：《人工智能侦查的实践应用与制度构建》，《河北法学》2018年第6期，第46-54页。
3 左卫民：《关于法律人工智能在中国运用前景的若干思考》，《清华法学》2018年第2期，第108-124页。
4 金益锋、马忠红：《刑事侦查中人工智能的应用：实践样态、风险挑战与发展策略》，《科技导报》2023年第7期，第15-27页。
5 庄东哲：《侦查讯问中的行为科学技术方法》，《中国人民公安大学学报（社会科学版）》2014年第3期，第95-101页。
6 李长庭、赵印、毕惜茜：《多模态智能审讯技术的原理与实战化应用路径研究》，《中国人民公安大学学报（社会科学版）》2024年第2期，第22-29页。
7 张兆端：《关于公安大数据建设的战略思考》，《中国人民公安大学学报（社会科学版）》2014年第4期，第17-23页。
8 胡向阳、张巍：《基于大数据的侦查讯问文本数据挖掘与分析》，《中国人民公安大学学报（社会科学版）》2019年第6期，第35-43页。
9 英］维克托·迈尔-舍恩伯格、［英］肯尼思·库克耶：《大数据时代：生活、工作与思维的大变革》，盛杨燕、周涛译，杭州：浙江人民出版社，2013年。
10 纵博：《人工智能在刑事证据判断中的运用问题探析》，《法律科学（西北政法大学学报）》2019年第1期，第61-69页。
11 谢登科、周鸿飞：《司法人工智能在证据审查中的功能定位与风险规制》，《吉林大学社会科学学报》2024年第3期，第61-72，235-236页。
12 詹建红、崔玮：《我国侦查权程序性控制研究》，北京：人民出版社，2021年。
13 毕惜茜：《侦查讯问中引导的心理策略》，《中国人民公安大学学报（社会科学版）》2005年第1期，第86-90页。
14 栗峥：《人工智能与事实认定》，《法学研究》2020第1期，第117-133页。
15 吴椒军、郭婉儿：《人工智能时代算法黑箱的法治化治理》，《科技与法律（中英文）》2021年第1期，第19-28页。
16 唐要家、唐春晖：《基于风险的人工智能监管治理》，《社会科学辑刊》2022年第1期，第114-124，209页。
17 马方、唐娜：《大数据视域下侦查预测性思维的运行路径》，《甘肃政法大学学报》2024年第1期，第30-40页。
18 左卫民：《如何通过人工智能实现类案类判》，《中国法律评论》2018年第2期，第26-32页。
19 魏斌：《司法人工智能融入司法改革的难题与路径》，《现代法学》2021年第3期，第3-23页。
20 裴炜：《个人信息大数据与刑事正当程序的冲突及其调和》，《法学研究》2018年第2期，第42-61页。
21 郑曦：《作为刑事诉讼权利的个人信息权》，《政法论坛》2020年第5期，第133-144页。
22 于阳、魏俊斌：《冲突与弥合：大数据侦查监控模式下的个人信息保护》，《情报杂志》2018年第12期，第147-155页。
23 郑曦：《司法人工智能运用背景下的被追诉人权利保障问题》，《厦门大学学报（哲学社会科学版）》2023年第6期，第41-53页。
24 陈刚：《解释与规制：程序法定主义下的大数据侦查》，《法学杂志》2020年第12期，第1-17页。
25 毕惜茜：《审讯中人工智能的应用与思考》，《中国人民公安大学学报（社会科学版）》2020年第3期，第30-36页。
26 商瀑：《人工智能时代的侦查变革及其法治图景》，《中国人民公安大学学报（社会科学版）》2019年第6期，第65-72页。
27 郭传凯：《人工智能风险规制的困境与出路》，《法学论坛》2019年第6期，第107-117页。
28 张迪：《刑事证明中人工智能的应用：精准定位、理念反思与路径优化》，《华中科技大学学报（社会科学版）》2022年第4期，第64-73页。
29 陈姿含：《人工智能算法中的法律主体性危机》，《法律科学（西北政法大学学报）》2019年第4期，第40-47页。
30 黄云波：《论人工智能时代的刑事责任主体：误区、立场与类型》，《中国应用法学》2019年第2期，第163-175页。
31 程龙：《人工智能体刑事诉讼被追诉人地位审思》，《学术交流》2020年第7期，第79-93页。
32 齐延平：《论人工智能时代法律场景的变迁》，《法律科学（西北政法大学学报）》2018年第4期，第37-46页。
33 郑戈：《人工智能与法律的未来》，《探索与争鸣》2017年第10期，第78-84页。
34 张晓华：《数智时代预测性侦查的算法规制研究》，《中国人民公安大学学报（社会科学版）》2022年第4期，第65-74页。
35 金哲、张引、吴飞等：《数据驱动与知识引导结合下人工智能算法模型》，《电子与信息学报》2023年第7期，第2580-2594页。
36 凡友荣、杨涛、孔华锋等：《基于知识图谱的电信欺诈通联特征挖掘方法》，《计算机应用与软件》2019年第11期，第182-187页。
37 吴汉东：《人工智能时代的制度安排与法律规制》，《法律科学（西北政法大学学报）》2017年第5期，第128-136页。
38 梁坤、陈易璨：《数字化时代侦查学术研究的发展与前瞻：2016—2020年》，《中国人民公安大学学报（社会科学版）》2021第2期，第61-70页。
39 郭林生：《论算法伦理》，《华中科技大学学报（社会科学版）》2018年第2期，第40-45页。
40 唐皇凤：《数字利维坦的内在风险与数据治理》，《探索与争鸣》2018年第5期，第42-45页。
41 韩春梅、邱文康、杨宏基：《人工智能技术嵌入智慧警务的潜在风险与规避》，《中国人民公安大学学报（社会科学版）》2020年第2期，第78-86页。
42 陈瑞华：《程序性制裁理论》，北京：中国法制出版社，2010年。
43 谢登科：《非法电子数据排除的理论基点与制度建构：以数字权利的程序性救济为视角》，《上海政法学院学报（法治论丛）》2023年第3期，第62-80页。
44 陆克斌、王娅莉、金成林主编：《管理学原理与实践》，北京：国防工业出版社，2014年。 |
|
|
|
2025, Vol. 55 
