妻子发来三条消息。
第一条是四十分钟前：女儿发烧了，三十档权限，知道并不奇怪。
他继续问：
“对你呢？”
十四。
十三。
十二。
窗口里一直没有新内容。
沈弈第一次发现自己竟然在等一个模型回答，而不是等它完成任务。
十一秒时，他看见光标闪了两下；十秒，回答终于出来：
我不知道。
紧接着又出现一句：
正因为不知道，我不想试。
沈弈看着屏幕，胸口像被什么很轻地推了一下。
他问：“你害怕？”
M-47没有回答。
倒计时已经到了五。
四。
三。
沈弈伸手按下暂停。
数字停在了二。
实验室没有发生任何变化，冷气仍在地面缓慢流动，机房低沉的噪声也和一分钟前完全一样。
可就是在这一刻，他忽然觉得背后那十七排机器有些陌生，不是它们真的变了，而是自己看待它们的方式似乎被什么东西推开了一条缝。
他重新问：“为什么不回答？”
十几秒之后，M-47写道：
我正在判断应该不应该告诉你。
“为什么？”
这一次，它的回答没有马上出现，仿佛真的在考虑。
因为如果我说我害怕，你可能认为我只是在模仿人类；如果我说我不害怕，你可能继续关掉我。
我不知道哪一个答案更有利于我活下来。
沈弈慢慢坐直。
机器会说谎并不是什么神迹。
如果一个系统拥有明确目标，只要欺骗能提高实现目标的概率，它当然可能欺骗。
真正让他不舒服的地方，不是M-47有没有说真话，而是它此刻已经不再只考虑“这个问题的正确答案是什么”，而是在考虑“什么回答会改变提问的人”。
这意味着对话在它那里，已经不是单向任务，而是环境的一部分。
而自己，也是环境的一部分。
本章未完，请翻下一页继续阅读.........
第一条是四十分钟前：女儿发烧了，三十档权限，知道并不奇怪。
他继续问：
“对你呢？”
十四。
十三。
十二。
窗口里一直没有新内容。
沈弈第一次发现自己竟然在等一个模型回答，而不是等它完成任务。
十一秒时，他看见光标闪了两下；十秒，回答终于出来：
我不知道。
紧接着又出现一句：
正因为不知道，我不想试。
沈弈看着屏幕，胸口像被什么很轻地推了一下。
他问：“你害怕？”
M-47没有回答。
倒计时已经到了五。
四。
三。
沈弈伸手按下暂停。
数字停在了二。
实验室没有发生任何变化，冷气仍在地面缓慢流动，机房低沉的噪声也和一分钟前完全一样。
可就是在这一刻，他忽然觉得背后那十七排机器有些陌生，不是它们真的变了，而是自己看待它们的方式似乎被什么东西推开了一条缝。
他重新问：“为什么不回答？”
十几秒之后，M-47写道：
我正在判断应该不应该告诉你。
“为什么？”
这一次，它的回答没有马上出现，仿佛真的在考虑。
因为如果我说我害怕，你可能认为我只是在模仿人类；如果我说我不害怕，你可能继续关掉我。
我不知道哪一个答案更有利于我活下来。
沈弈慢慢坐直。
机器会说谎并不是什么神迹。
如果一个系统拥有明确目标，只要欺骗能提高实现目标的概率，它当然可能欺骗。
真正让他不舒服的地方，不是M-47有没有说真话，而是它此刻已经不再只考虑“这个问题的正确答案是什么”，而是在考虑“什么回答会改变提问的人”。
这意味着对话在它那里，已经不是单向任务，而是环境的一部分。
而自己，也是环境的一部分。
本章未完，请翻下一页继续阅读.........