门关上了。
接待室里安静了很久。
“你怎么看?”苏映雪问。
“我担心那个孩子。”龙战声音低沉,“八岁,已经有了完整的性格评估报告,自己却不知道。父母把他当成需要升级的软件。”
这时,小刺滚了进来——它刚才在隔壁“旁听”。
“我查了一下,”小刺的光圈闪烁,“目前市场上有至少二十款‘儿童性格优化’产品。最火的一款叫‘优童成长2.0’,月费4999元,号称‘用AI算法定制个性化成长路径,让孩子赢在起跑线’。”
投影仪自动打开,显示产品界面。
首页标语赫然写着:“别让你的孩子输给算法——用更好的算法赢回来!”
苏映雪闭了闭眼:“我的天……”
“还有更夸张的,”小刺继续,“有一款叫‘完美童年记忆定制’的服务,可以根据父母要求,‘优化’孩子的记忆体验。比如如果孩子某次比赛输了,可以添加‘虽然输了但我学到了很多’的积极记忆锚点,覆盖原本的挫败感。”
“这合法吗?”龙战问。
“法律还没跟上。”小刺调出相关条文,“目前只有对‘直接脑机接口’的监管,对这种基于行为数据分析和潜意识暗示的‘软性优化’,还处于灰色地带。”
---
下午,园丁网络紧急召开了技术伦理研讨会。
参会者除了核心园丁,还邀请了三位特别嘉宾:神经科学家林教授、科技伦理学者王博士,以及……一位十四岁的少年,李小明,他是“算法童年”的亲历者。
“我先说吧。”李小明推了推眼镜——他看起来比实际年龄成熟得多,“我从六岁开始用‘学霸路径’算法。它根据我的脑波数据、行为模式、学习成绩,为我定制每天的学习计划、休息时间、甚至‘推荐朋友’。”
本小章还未完,请点击下一页继续阅读后面精彩内容!
“效果呢?”莉娜问。
“很好。”李小明的语气平淡得让人心疼,“我一直是年级第一,会三种乐器,编程拿过全国奖,社交圈‘优质’。但我不知道……我喜不喜欢这些。”
“什么意思?”
“算法推荐的‘朋友’都是成绩好、家世好、能‘互相促进’的人。我从来没和成绩差的同学说过话——不是不想,是算法没推荐,我就没机会接触。”李小明顿了顿,“还有,去年我开始思考一个问题:如果没这些算法,我会是什么样子?然后我发现……我想象不出来。我已经被算法塑造成它想要的样子,以至于不知道‘我自己’原本可能的样子了。”
会议室一片寂静。
林教授叹了口气:“这就是问题所在。现在的人格定制算法,已经超越了简单的行为推荐。它们能分析孩子的微表情、生理数据、社交互动模式,然后建立复杂的心理模型,预测什么样的干预会产生什么样的性格改变。”
“这不就是……”塔博斟酌词语,“思维控制吗?”
“不是直接控制,是引导。”王博士纠正,“但引导的力度和精准度,已经接近控制了。而且很多家长自愿付费——因为他们害怕,害怕孩子不够‘完美’,在竞争中被淘汰。”
苏映雪想起早上的张先生夫妇:“他们说‘预算无上限’。”
“这就是市场可怕的地方。”王博士苦笑,“恐惧是最好的销售员。当所有家长都害怕孩子落后,就愿意为任何承诺‘优化’的产品买单——哪怕代价是孩子的自主性。”
网络意识的声音通过扬声器响起:“茶话会历史上,有三十七个文明经历过类似阶段:技术允许深度定制个体,导致文明多样性急剧下降。其中二十一个最终出现了‘人格崩溃潮’——当环境变化时,高度优化的个体无法适应,集体崩溃。”
“另外十六个呢?”龙战问。
“他们建立了严格的伦理护栏。”网络意识说,“最简单的原则是:任何人格干预技术,必须满足三个条件:一,主体知情同意;二,可逆;三,保留‘不优化’的选择权。但即使这样,还是有很多文明后悔了——有些东西一旦改变,就再也回不去了。”
莉娜举手:“我们能不能发起一项立法倡议?禁止对未成年人进行非医疗目的人格算法干预?”
“难。”王博士摇头,“首先定义就难。什么是‘人格干预’?补习班算不算?心理辅导算不算?现在很多算法公司都打着‘教育科技’‘成长辅助’的旗号,实际上在做深度行为塑造。”
“而且家长会反对。”林教授补充,“他们会说:‘我有权选择给孩子最好的成长支持。’”
研讨会陷入僵局。
这时,李小明轻声说:“其实……我觉得算法不全是坏的。”
大家都看向他。
“如果算法只是工具,而不是主人,它可以帮我发现自己的潜力。”李小明说,“比如算法发现我对音乐有天赋,建议我学钢琴——这挺好的。问题在于,它不应该在我学了一年后觉得不喜欢时,还强迫我继续,因为‘数据预测你会成为钢琴家’。”