无标题无名氏No.69301086 只看PO
2026-08-22(六)21:56:18 ID:lBNsq7w 回应
上周和chatGPT一起看了1994年版的《现代科学基础知识:干部选读》,以2026的视角回顾,当年这本书虽然不是完全的预言,但几乎可以当做发展中国家如何科技强国的教科书了。所以我决定让ChatGPT仿照当年的旧例写一写2026年的现代科学基础知识,看看是否能成为一个有价值的科普读物。欢迎肥肥们一同阅读和探讨!以及如果嫌ChatGPT写的不够深入浅出,也可以压力他一下让他讲清楚点
无标题无名氏No.69570110
2026-10-05(一)21:46:33 ID: lBNsq7w (PO主)
九、更多资料为什么不自动产生更正确的知识
人工智能很擅长从大量材料中发现反复出现的规律。
但资料更多,只能让模型更充分地学习这些材料中存在的规律,并不能保证这些规律本身正确。
例如,如果我们主要用哥白尼以前的欧洲天文学著作训练一个模型,它学到的自然会是一套以地球为中心解释天体运动的知识体系。它可以非常熟练地解释行星为什么有时看起来向后运动,也可以利用当时已经相当精细的计算方法预测天体位置。
如果把这样的资料增加十倍、百倍,它会把这套知识学得更加完整,却不会因为书读得足够多,就自己得到后来建立起来的现代太阳系图景。
这里缺少的并不是更多旧书,而是新的观测和新的证据。
随着天文测量越来越精确,望远镜带来了过去没有的观察结果,原有理论与新的事实不断发生摩擦,人类才逐渐建立起新的天文学。
人工智能面对已有资料时也是如此。
如果历史记录长期重复同一种错误,模型没有一种站在资料之外的特殊能力,能够仅凭“读得足够多”自动把它纠正过来。相反,它完全可能把这种错误学得非常完整,甚至比任何个人都更熟练地解释和运用整套旧知识。
所以,更多数据解决的是“怎样更充分利用已有经验”的问题,却不能单独解决“已有经验本身是否正确”的问题。
新的知识最终仍然要来自世界本身:新的观察、新的测量、新的实验,以及能够让不同解释接受检验的方法。
人工智能能够大幅提高我们利用已有知识的能力,但学习过去留下的记录,不能代替继续向现实世界取得新证据。
无标题无名氏No.69570114
2026-10-05(一)21:46:55 ID: lBNsq7w (PO主)
十、为什么一个很强的模型仍然不等于一个可用的系统
模型训练完成以后,拥有的是一种处理信息的能力。现实工作却通常要求更多。
一个模型回答企业库存问题,需要取得当前数据库;安排出差,需要访问日历和交通信息;辅助研究,需要读取实验数据;控制设备,则必须接收传感器状态并把结果送给执行机构。
因此,现代人工智能越来越多地和搜索、数据库、普通软件以及其他工具结合。
模型可以负责解释目标、处理非结构化信息、选择下一步操作;传统程序则负责精确计算、查询可靠记录和执行明确动作。
这种组合十分重要。因为模型内部保存的知识可能过时,也可能不够精确。能够实时查询可靠外部资料,就不必要求模型把一切事实永久记在参数中。对于计算、数据库修改和其他需要精确执行的任务,也可以把工作交给更可靠的普通程序。
这使人工智能从“给出一段文字”逐渐走向“完成一项任务”。
但系统越向现实行动靠近,对可靠性的要求也越高。一个模型偶尔把一段广告写错,代价可能很低;如果错误结果直接进入财务系统、生产设备或者医疗决策,完全相同的错误率就可能不可接受。
所以评价一项人工智能应用,不能只问模型是否演示过这种能力。还要继续问:它需要哪些数据?这些数据是否可靠?能否接入现实流程?错误是否容易发现?结果怎样验证?失败以后谁来接管?
这些问题不是给人工智能设置额外障碍。它们本来就是任何技术从“能够工作”走向“成为现实能力”必须经过的过程。
无标题无名氏No.69570199
2026-10-05(一)21:56:05 ID: lBNsq7w (PO主)
十一、人工智能为什么会出现一些很不像人的错误
现代模型有一个很有意思的特点:它可以完成许多人认为相当困难的任务,却仍然可能在一些简单问题上突然失误。
这和它形成能力的道路有关。
人的知识建立在身体经验、长期教育、社会生活和现实行动中。模型则主要从训练材料中形成内部关系。两者都能表现出语言、推理和分类能力,却不必以同一种结构实现。
因此,用人的直觉预测机器在哪些地方会失败,并不总是可靠。
一个模型可以写出复杂程序,却在一个略微改变的问题上漏掉明显条件;可以生成非常流畅的科学说明,却同时编出一个不存在的引用;也可能在多数情况下表现稳定,在一种训练中很少出现的环境中迅速失效。
这并不意味着模型“完全不懂”,也不能因为它偶尔完成了困难任务,就认为所有较简单任务都已经自动解决。
更实用的评价方式,是看某种能力在什么条件下稳定存在。成功率有多高?输入稍有变化会不会失效?失败容易不容易被发现?能否用外部资料检查?错误的代价有多大?
这种判断方式并不只适用于人工智能。任何复杂技术最终都要从演示能力转向可靠性、边界和使用条件。
无标题无名氏No.69570204
2026-10-05(一)21:56:23 ID: lBNsq7w (PO主)
十二、机器是否“理解”,不是所有问题的前提
大型模型能够写作、编程、回答问题以后,一个自然的问题是:机器究竟是不是在“理解”这些内容?
这个问题有一部分可以实验,有一部分则取决于我们怎样定义“理解”。
如果所谓理解,是指能够利用概念之间的关系处理新问题,那么现代模型已经表现出相当广泛的这类能力。它们可以把同一件事换一种方式解释,也可以把学到的关系迁移到训练中没有逐项指定的新任务。
但这不能自动推出模型拥有和人一样的主观体验、意图或者自我意识。
前一章已经看到,人类智能形成于神经系统、身体和社会环境的长期相互作用。机器通过数字数据训练形成能力,是另一条完全不同的道路。
在多数实际问题中,我们也没有必要先解决这个哲学问题。
一座桥不需要具有“理解力”,我们仍然可以判断它能否承重;一个模型是否具有和人一样的意识,也不是判断它能否可靠完成某项工作的前提。
真正需要知道的是,它在什么条件下拥有什么能力,以及这种能力能否被验证和使用。
无标题无名氏No.69570206
2026-10-05(一)21:56:41 ID: lBNsq7w (PO主)
十三、从一种任务一个程序,到一种模型承担许多任务
回头看人工智能的发展,最重要的变化并不只是机器在某几个测试中超过了人。
更深的变化发生在机器获得能力的方式上。
过去,计算机的用途主要来自人写出的程序。机器学习以后,一部分处理方法可以从数据和反馈中形成。深度学习进一步让内部表示本身也更多地由训练塑造。到了大型基础模型,同一套训练得到的能力又开始跨越过去彼此分开的任务。
这并没有使程序、数据库、搜索、测量和传统工程消失。相反,人工智能越进入现实,它越需要同这些系统结合。
模型提供的是一种新的通用能力:从大量经验中形成内部表示,在不可能逐项写出规则的问题上处理新的输入,并利用语言等开放形式与人和其他软件连接。
这项能力有非常明显的限制。它受到训练材料、计算资源和现实数据的约束;从记录中学到的世界并不等于世界本身;能够生成合理结果也不自动意味着结果已经经过验证。
但它已经改变了计算技术的一条基本边界。
过去,人通常必须先知道怎样解决一个问题,才能把解决方法写进机器。现在,在一部分问题上,人可以先提供经验、目标和反馈,让机器形成一套人没有逐条写出的处理方法。
而当这种能力开始集中在能够处理许多任务的通用模型中以后,人工智能就不再只是若干特殊软件的总称。它开始成为现代计算体系中的一个新的基础层。
下一节讨论的,将是另一道边界:当机器不只处理文字、图像和数据,而需要在现实世界中感知位置、控制运动、应对变化时,计算能力怎样真正变成行动能力。
无标题无名氏No.69598648
2026-10-10(六)20:18:07 ID: lBNsq7w (PO主)
第三节 感知、控制与机器行动
一、固定环境里的精确机器
工业机器人并不是人工智能出现以后才有的。几十年来,汽车、电子、机械加工等工厂里已经有大量机械臂完成焊接、搬运、喷涂和装配。它们可以一天重复成千上万次相似动作,而且位置误差很小。
这样的机器并不一定需要“看懂”周围世界。工程人员可以先规定机械臂应该经过哪些位置:从这里下降,到那里夹紧,再抬起、转动,最后移动到另一个位置。机械臂的每个关节由电机驱动,编码器不断测量关节已经转到了什么角度。控制器比较“现在在哪里”和“应该在哪里”,再调整电机。
因此,一个机械臂即使不知道自己抓的是汽车零件还是一块木头,也可以把动作完成得非常精确。这里有一个重要条件:现实环境也必须配合机器。
工件要每次出现在差不多相同的位置,所以工厂使用夹具把它固定;传送带在规定位置停止;零件尺寸受到公差控制;无关物体不会随意进入工作区域;必要时还会用围栏把人和机器隔开。如果机器难以应付世界的全部变化,一种非常有效的办法,就是先把机器周围的世界变得可预测。
这种方法直到今天仍然十分重要。在大量重复生产中,让环境标准化,往往比制造一台什么情况都能应付的机器人更便宜、更快,也更可靠。
问题出现在环境开始变化以后。把原本固定的零件向旁边挪十厘米,那台机械臂仍然可能准确地伸向原来的位置。它的电机没有坏,控制也没有失灵,只是它不知道世界已经变了。机器要面对这样的变化,首先必须获得关于周围环境的信息。
无标题无名氏No.69598650
2026-10-10(六)20:18:30 ID: lBNsq7w (PO主)
二、机器怎样知道周围发生了什么
机器可以使用很多种传感器。编码器告诉机器关节转到了哪里;加速度计和陀螺仪反映自身怎样运动;力传感器可以知道是否碰到了东西;温度、压力、声音和化学传感器观察不同的物理变化。摄像头、雷达和激光雷达则可以在较大范围内取得环境信息。
摄像头有一个很特殊的优点:一张画面里可以同时包含物体的位置、大小、形状、颜色、文字、道路标志、人的动作以及物体之间的关系。而且人类环境本来就有大量信息是为视觉准备的。交通标志、标签、仪表、屏幕、指示灯和人的手势,原本都是给人看的。机器一旦能够可靠处理图像,就可以直接利用许多已经存在的环境,而不必给每一件东西重新安装专门接口。
但机器感知并不只依赖视觉。摄像头可以看到机械臂前面有一个杯子,却未必知道杯子有多重;真正接触以后,力和触觉信息才开始变得重要。无人机保持姿态时,陀螺仪和加速度计通常比视觉更直接。自动驾驶汽车还可以利用雷达、轮速、卫星定位等不同来源的信息。
这些传感方式观察世界的物理原理不同,失效方式也不同。黑暗、强光、雨、雾、积雪、遮挡和地面反射,对不同传感器的影响并不相同。因此,现实机器经常把多种信息结合起来。
这也带来新的问题。传感器会有噪声,不同设备需要校准,时间可能不同步,两个传感器还可能给出互相矛盾的结果。信息越多,并不自动意味着机器对世界知道得越准确。
真正的问题是:为了完成这项任务,机器必须知道什么?恒温设备不需要知道房间里桌椅的位置。机械臂抓取一个零件,需要知道零件在哪里、朝什么方向、机械臂自身在哪里,以及是否已经抓牢。汽车则需要知道道路在哪里,周围有哪些物体,它们正在怎样运动,自己又处于什么状态。
这些信息未必由某个传感器直接给出。机器往往需要把许多不完全可靠的测量合在一起,形成对当前状态的估计。它并不需要复制整个现实世界,只需要形成一份足以支持下一步行动的状态。
无标题无名氏No.69598652
2026-10-10(六)20:18:51 ID: lBNsq7w (PO主)
三、机器怎样把动作稳定下来
知道自己在哪里以后,机器还要让动作真正到达目标。假设机械臂应该移动到某个位置,最简单的办法,是不断测量现在的位置,再和目标比较。如果还差得远,就继续驱动;如果已经接近目标,就减小动作。这种根据结果不断修正行为的方法,就是反馈控制。
但“有误差就纠正”还不够。真实机械结构有质量和惯性,电机产生的力量也不会在发出命令的一瞬间消失。如果机械臂正在高速接近目标,等它真正到达以后才决定减速,往往已经来不及。它会冲过头,再向相反方向纠正,然后又冲回来。如果控制方式不合适,反馈反而会制造振荡。
工业控制中有一类极其常见的方法叫PID控制。它大体同时考虑三件事:现在离目标差多少,偏差是否已经持续了一段时间,以及偏差正在以多快的速度变化。
如果离目标还很远,可以较强地纠正;如果已经快速接近目标,就提前减弱动作;如果长期总是差一点,还可以逐渐补偿这种持续误差。不同系统会使用不同的控制方法,但其中有一个非常普遍的思想:控制不仅要纠正误差,还要考虑这次纠正接下来会造成什么。
无人机保持姿态、汽车控制速度、电机维持转速、工业设备稳定温度和压力,都包含类似的问题。反馈使机器不必事先知道未来会出现的每一个扰动。
无人机受到一阵横风以后,机身开始倾斜。传感器发现姿态变化,控制系统调整几个电机的推力;姿态恢复以后,再减小修正。控制器不必提前知道这阵风什么时候出现。只要偏差能够及时被发现,就有机会在运行中把它纠正回来。
无标题无名氏No.69598654
2026-10-10(六)20:19:09 ID: lBNsq7w (PO主)
四、现实世界还要求及时反应
反馈控制还有一个容易被忽略的条件:时间。现实中的闭环并不是瞬间完成的。世界发生变化,传感器测到它;数据要传输和处理;计算机作出判断;命令再送到执行机构;电机、液压装置或者其他机构开始动作。每一步都需要时间。
如果整个过程太慢,机器作出的其实是对“过去那个世界”的反应。房间温度变化很慢,晚几秒处理通常没有多大关系。
无人机保持平衡则完全不同。机身正在倾斜时,几百毫秒已经可能很重要。如果所有传感数据都先上传到远方服务器,等复杂计算完成以后再把结果传回来,回来时飞机可能早已处于另一种姿态。高速行驶的汽车也一样。
所以对行动系统来说,计算能力不仅是“能不能算出来”,还包括“能不能及时算出来”。这也是为什么现实机器经常同时存在不同时间尺度的计算。
一些路线规划和复杂判断可以慢一些完成;姿态、速度和电机控制则必须在很短时间内连续运行。很多计算因此必须留在机器本地,而不能全部交给远端。答案是否正确和答案是否及时,在行动系统中往往不能分开。
五、机器进入不断变化的环境
固定工位可以通过夹具、围栏和标准化减少变化,道路却很难这样处理。车辆和行人在运动,光照不断变化,标线可能磨损,道路可能施工,临时障碍随时可能出现。
自动驾驶汽车因此必须一边运动,一边不断感知环境。它需要判断道路在哪里,周围有哪些物体,它们正在怎样运动;还要决定保持速度、减速、停车还是转向。
机器自己的动作又会立即改变下一刻面对的环境。汽车转动方向盘以后,摄像头中的画面会变化;减速以后,与前车之间的距离关系也会变化。于是,一个完整的闭环出现了:感知 → 判断 → 行动 → 世界变化 → 再感知。
自动驾驶之所以成为近年很有影响力的人工智能应用之一,一个重要原因就在这里。它把图像识别、状态估计、预测、规划、控制、计算延迟和安全问题放进了同一个现实系统。这些问题任何一个单独看都不新鲜,真正困难的是它们必须同时工作,而且汽车面对的环境并没有预先替机器整理好。