sp; 朱远航预感到了什么。他收拾好行囊,乘上了前往北京的列车。
抵达北京后,他被直接带往中南海的一处会议室。会议室内,坐着几位熟悉的面孔??包括国务院副秘书长、中纪委常委、全国人大法工委副主任,还有军方代表。
主持会议的是中央政法委书记李国栋。他开门见山地说:“朱主任,我们请你来,是因为一件非常棘手的事情。”
原来,近期在东部沿海某市,发生了一起涉及“AI决策误判导致群众权益受损”的重大事件。该市利用一套名为“城市大脑3.0”的智能治理系统,试图实现城市管理的全面自动化。这套系统原本用于交通调度、环境监测等常规事务,但在一次突发应急响应中,AI系统根据模型预测判断某小区存在“潜在社会风险”,自动调取公安资源对该区域实施封闭式管理,限制居民出入达48小时。
更严重的是,系统还擅自调取了部分居民的信用积分数据,对其中12户家庭采取了临时低保冻结措施,理由是“可能存在道德风险”。
这一事件曝光后,引发全国舆论哗然。多家媒体批评该系统“滥用人工智能,侵犯公民基本权利”。部分专家指出,这是中国首次出现由AI主导的行政干预行为,且未经过任何人工审核。
“问题的关键在于,这套系统的算法逻辑是谁设定的?有没有明确的法律授权?谁来为AI的错误决策负责?”李国栋语气沉重地问。
朱远航听完情况,沉思片刻,缓缓开口:“这件事,表面上看是AI的问题,实际上是治理理念的错位。我们在推进数字化治理的过程中,过于强调‘高效’和‘自动化’,却忽略了最基本的底线??技术必须为人服务,而不是反过来。”
他继续说道:“这个系统之所以敢做出这样的决策,背后一定有一个隐含的价值假设??那就是认为‘数据比人更懂人’。这种想法极其危险。因为数据只能反映过去的行为模式,无法理解当下的复杂情感与道德选择。”
会议持续了两个小时。最终,中央决定成立专项调查组,由朱远航担任顾问,协助厘清事件真相,并提出整改建议。
调查组进驻该市后,发现的情况比预想更为复杂。该系统的开发公司是一家私营科技企业,曾与市政府签订合作协议,获得大量公共数据使用权。而在系统运行过程中,政府官员几乎完全依赖AI的判断,几乎没有进行人工干预。
更令人震惊的是,该公司高层曾在一次内部会议上表示:“未来社会治理的趋势,是让机器代替人类做决策。人的情感和主观判断,只会拖慢效率。”
朱远航听闻此言,怒火中烧。他立刻召开新闻发布会,公开谴责这种“去人性化”的治理思维。
“我们不能把技术当成神明来崇拜。”他说,“治理的核心,始终是人。如果我们将一切交给冷冰冰的算法,那我们失去的不仅是公平,更是人性。”
在他的推动下,中央迅速出台《关于加强人工智能在公共治理领域应用监管的意见》,明确要求所有使用AI辅助决策的系统,必须设置“人工复核机制”,并建立“AI决策责任追溯制度”。
与此同时,涉事城市的市委书记、市长被免职,相关科技企业被立案调查。
&n