“那‘数字’在哪里？”
这个问题让原既白抬起头。
如果输入只是许多像素值，模型内部也只是参数和计算，可最后屏幕上却出现一个“8”。
那个“8”并不是任何一个像素本身，也没有藏在某一行代码里，而是整个处理过程最终给出的类别。
原既白想到高中数学里那些高层结构，又想到江遥从局部信息往上推的方式，忽然觉得“概念”本身也许就是一种很奇怪的东西：低层只有细节，高层却出现了低层任何一个单独部分都没有的意义。
江遥见他不说话，知道他又钻进去了，拿笔在纸上画了一只猫。
“这个呢？”
季闻说：“模型没训练猫。”
“那它会认成什么？”
几个人真拍进去。
程序最后给出：**8。
**
陈野当场宣布人工智能已经证明猫是八。
江遥笑得趴在桌上。
原既白也笑，可笑完以后仍然看着屏幕。
他忽然意识到机器的错误有时候比正确更有信息。
它把猫认成8，不是因为机器“笨”，而是因为它只能在自己已有的类别里找最像的东西。
一个系统从未被允许回答“不知道”，那么面对完全陌生的东西时，也可能非常自信地给出错误答案。
这个发现让季闻也认真起来。
他把程序改了一点，想加一个置信度阈值：如果所有类别都不够像，就输出“无法判断”。
结果马上遇到新的问题——阈值设多高？
太高，很多正常数字也被拒绝；太低，猫还是可能被认成8。
四个人围着一个原本只是寒假玩具的小程序，第一次真正遇到“知道自己不知道”有多难。
周宁一直在旁边帮他们记录测试结果。
她听完争论，忽然问：“人是不是也这样？”
陈野说：“什么意思？”
“如果一个人脑子里只有两种答案，是不是也会把第三种东西硬塞进其中一种？”
屋里又静了一会儿。
这一天已经不是第一次因为周宁一句看似普通的话突然停下来。
她自己却没觉得有什么，低头继续记录第几个数字识别错了。
江遥看着她，忽然觉得周宁以后也许根本不该只被大家记成“语文好”。
她不一定比他们更快，却经常会把讨论里那些没人注意的缝隙轻轻拨开。
晚上散的时候，外面下起了雪。
不是很大，路灯下细细一层。
陈野骑车先走，周宁家近，也跟着离开；季闻父亲来接他。
最后又剩原既白和江遥。
本章未完，请翻下一页继续阅读.........
这个问题让原既白抬起头。
如果输入只是许多像素值，模型内部也只是参数和计算，可最后屏幕上却出现一个“8”。
那个“8”并不是任何一个像素本身，也没有藏在某一行代码里，而是整个处理过程最终给出的类别。
原既白想到高中数学里那些高层结构，又想到江遥从局部信息往上推的方式，忽然觉得“概念”本身也许就是一种很奇怪的东西：低层只有细节，高层却出现了低层任何一个单独部分都没有的意义。
江遥见他不说话，知道他又钻进去了，拿笔在纸上画了一只猫。
“这个呢？”
季闻说：“模型没训练猫。”
“那它会认成什么？”
几个人真拍进去。
程序最后给出：**8。
**
陈野当场宣布人工智能已经证明猫是八。
江遥笑得趴在桌上。
原既白也笑，可笑完以后仍然看着屏幕。
他忽然意识到机器的错误有时候比正确更有信息。
它把猫认成8，不是因为机器“笨”，而是因为它只能在自己已有的类别里找最像的东西。
一个系统从未被允许回答“不知道”，那么面对完全陌生的东西时，也可能非常自信地给出错误答案。
这个发现让季闻也认真起来。
他把程序改了一点，想加一个置信度阈值：如果所有类别都不够像，就输出“无法判断”。
结果马上遇到新的问题——阈值设多高？
太高，很多正常数字也被拒绝；太低，猫还是可能被认成8。
四个人围着一个原本只是寒假玩具的小程序，第一次真正遇到“知道自己不知道”有多难。
周宁一直在旁边帮他们记录测试结果。
她听完争论，忽然问：“人是不是也这样？”
陈野说：“什么意思？”
“如果一个人脑子里只有两种答案，是不是也会把第三种东西硬塞进其中一种？”
屋里又静了一会儿。
这一天已经不是第一次因为周宁一句看似普通的话突然停下来。
她自己却没觉得有什么，低头继续记录第几个数字识别错了。
江遥看着她，忽然觉得周宁以后也许根本不该只被大家记成“语文好”。
她不一定比他们更快，却经常会把讨论里那些没人注意的缝隙轻轻拨开。
晚上散的时候，外面下起了雪。
不是很大，路灯下细细一层。
陈野骑车先走，周宁家近，也跟着离开；季闻父亲来接他。
最后又剩原既白和江遥。
本章未完，请翻下一页继续阅读.........