写作绅士,读作丧尸 X岛揭示板
顺猴者昌 逆猴者亡 首页版规 |用户系统 |移动客户端下载 | 丧尸路标 | | 常用图串及路标 | 请关注 官方公众号:【X岛揭示板】 官方微博: 【@X岛极速版】| 人,是会思考的芦苇
常用串:·豆知识·跑团板聊天室·公告汇总串·X岛路标

No.69552333 - 无标题 - 综合版1


回应模式
No.69552333
名 称
E-mail
标题
颜文字
正文
附加图片
• 重新出发
• 关于X岛与A岛关系的说明:>>No.50000002置顶串
• 上手前建议您阅读:>>No.50000001【全岛总版规】
• 我们建议您开串时抛弃任何非必要性的身份标签,直接进入话题,否则您可能将面临不友善态度
• 综合版为综合性版块,请优先选择各关联性强分版。
• 工作考试及投资相关请至社畜(校园)版,好物推荐/购物拼团请转买买买版,手机及装机咨询请转数码版,无公众讨论意义及记录请转日记版
• 全岛禁止违法违规话题以及晒交配,请尊重他人的同时尊重自己。
• 特殊事务可于版务版块发串,私信官方微博@X岛揭示板,或邮件联系help@nmbxd.com • 客户端下载地址:https://app.nmbxd.com

无标题 无名氏 2026-10-02(五)19:18:20 ID:2K5IAxQ [举报] [订阅] [只看PO] No.69552333 [回应] 管理
(|||゚д゚)我看到好多那种搞生物科技的那种相关的发展,就是用一团被培养的那种人脑细胞去打乒乓球的那种,我感觉真的好惊悚好吓人啊,我本能的受不了。

硬要说人的大脑也只是一团神经细胞而已,我们认为人类有灵魂,所以这样一团神经细胞,如果有灵魂的尊严的话,就不应该被用在这样的途径上。所谓不这样做会阻碍科学,那就阻碍吧。这样科学不发展起来也没关系,我们用矿物进行一些符号主义操作同样可以做到这些事情,没必要用人类的意识这样的东西去赌在上面
…
Tips 无名氏 2099-01-01 00:00:01 ID:Tips超级公民 [举报] No.9999999 管理
(;´Д`)医生!你说话啊!
…
无标题 无名氏 2026-10-07(三)07:05:55 ID:1Y0VL93 [举报] No.69576948 管理
卧槽这串我看不懂
…
无标题 无名氏 2026-10-07(三)07:05:59 ID:2K5IAxQ (PO主) [举报] No.69576949 管理
回:人脑不也是机器?生命不都是机器?就算生命是机器,也不推出可以任意对待。

人体也是物理系统,痛苦也是物理过程,但伦理并没有因此消失。

“机器”这个词只是在描述因果机制,不是在取消道德地位。

如果一台机器能感受痛苦,那么它就不只是工具。

问题不是它是不是机器,而是它是不是会疼、会怕、会有主观体验。
…
无标题 无名氏 2026-10-07(三)07:06:27 ID:2K5IAxQ (PO主) [举报] No.69576953 管理
回:神灭论早就驳倒灵魂了。

范缜《神灭论》反驳的是脱离形体独立存在的不灭灵魂。

我并没有主张那种灵魂。

相反,如果按“形存则神存,形谢则神灭”,那更应该重视神经组织本身的状态,因为精神依赖形体。

如果我们人工制造了某种足够复杂的“形”,就不能轻率断言其中绝无“神”。

所以《神灭论》不是反对我的,反而支持一个基本点:意识与物质组织相关,改变和制造这种组织就涉及伦理风险。
…
无标题 无名氏 2026-10-07(三)07:06:52 ID:2K5IAxQ (PO主) [举报] No.69576955 管理
回:高中政治学了物质决定意识。

物质决定意识不等于意识没有伦理意义。

正因为意识依赖物质,所以当我们人工制造接近意识产生条件的物质系统时,才要格外谨慎。

如果你真的坚持物质决定意识,那就不能说“这只是细胞所以一定没意识”。

因为人脑本来也只是物质,只是以某种复杂结构组织起来。

问题恰恰是:复杂到什么程度会出现感受性?在不知道答案前,伦理上不能装作已经知道。
…
无标题 无名氏 2026-10-07(三)07:08:12 ID:2K5IAxQ (PO主) [举报] No.69576958 管理
回:换成动物神经元你是否接受?如果换成非人源神经元,风险等级会下降,但不是归零。

我会按现有实验动物伦理加神经复杂性分级处理。比如:

低等动物少量神经元,低风险;
哺乳动物神经元大规模培养,中风险;
具备复杂反馈学习和长期稳定活动,高风险;
接近能产生痛苦样状态或与动物体内脑区整合,需要严格审查。
人源神经组织之所以更敏感,是因为它与人类脑发育机制、意识机制和人格问题的距离更近,社会伦理成本更高。

但我不是说动物神经元就可以随便玩。

在意识串里我也说过了,我是玩连接主义的,我认为通过,那种符号连接能够给出和脑细胞相同的输入输出,我们就没有必要用生物活体细胞的这个风险去做事
…
无标题 无名氏 2026-10-07(三)07:09:02 ID:2K5IAxQ (PO主) [举报] No.69576962 管理
回:意识是幻觉“意识是幻觉”

这句话本身就很怪。

幻觉也是一种意识体验。

你可以说意识不是独立实体,可以说意识是神经系统产生的模型,可以说自我是脑构造出来的。

但不能从“它是构造的”推出“它不存在”。

疼痛也是脑构造的,但牙疼的时候你不会因为它是神经编码就觉得牙不疼。

所以就算意识是某种神经系统的自模型或幻觉,它依然具有伦理意义。
…
无标题 无名氏 2026-10-07(三)07:09:27 ID:2K5IAxQ (PO主) [举报] No.69576963 管理
回:它完成任务就是它全部,它有意识吗?

这正是问题所在。

从外部功能看,它只是完成任务;从内部状态看,我们不知道有没有体验。

人类很多行为从第三人称看也只是输入输出和优化任务,比如避痛、觅食、社交、学习。

如果只用外部任务描述,人也可以被写成“碳基强化学习系统”。

但我们知道人有主观体验。

所以不能用“它只是完成任务”直接排除意识,因为这是对任何智能系统都能套用的外部描述。
…
无标题 无名氏 2026-10-07(三)07:10:13 ID:2K5IAxQ (PO主) [举报] No.69576965 管理
回不在乎,哪怕来源于我的大脑我也不在乎。

你可以不在乎自己的离体脑组织,但伦理不能只按个人酷不酷来定。

有人愿意卖器官,不代表器官买卖就不需要规范。

有人愿意被极限实验,不代表人体实验就不需要伦理审查。

更何况如果被培养出来的神经组织发展出独立体验,它的利益未必等同于捐献者的意愿。

捐献细胞不等于授权制造一个可能受苦的神经主体。
…
无标题 无名氏 2026-10-07(三)07:12:11 ID:2K5IAxQ (PO主) [举报] No.69576971 管理
回用水母神经元你会好受点吗?会降低担忧,但不会彻底消除。

人源神经组织的伦理风险最高,因为它最接近人类意识机制,也牵涉人格、捐献同意、人类尊严等问题。

水母或低等动物神经元风险较低,但如果它们被工程化成大规模、复杂、可学习、具有负反馈规避的系统,也仍然需要伦理评估。

材料来源是一项指标,系统复杂性和感受性风险也是指标。如果你弄了一个巨型的基于水母神经元的一比一类人脑结构的话,我也会开始尖锐爆鸣的。

主要是我不清楚这个东西到底算什么东西,它的结构上已经和人脑一致了
…
无标题 无名氏 2026-10-07(三)07:12:48 ID:2K5IAxQ (PO主) [举报] No.69576973 管理
回治脑损伤就得靠这类研究

医疗价值可以成为研究理由,但不是无限豁免。

我支持用于治疗脑损伤、神经退行性疾病、药物筛选的受控研究。

我反对的是没有足够伦理框架时,把人源神经组织往计算资源、娱乐演示、湿件控制器方向推进。

医疗目的、低复杂度、无感受性风险、严格审查,可以谈。

商业算力、游戏训练、奖励惩罚闭环、规模化湿件计算,应当高度警惕。
…
无标题 无名氏 2026-10-07(三)07:13:54 ID:2K5IAxQ (PO主) [举报] No.69576976 管理
我重新整理一下我的观点。

我前面说“灵魂”不严谨,我指的不是宗教灵魂,而是意识、感受性、主观体验和痛苦可能性。

我的论点不是“所有脑细胞都有灵魂”,也不是“所有神经研究都应禁止”,而是:

当人源神经组织被培养到一定复杂度,并被接入输入输出、奖励惩罚反馈、长期训练和学习任务时,我们不能在无法排除感受性风险的情况下,把它默认当成无伦理地位的耗材。

有些人说它只是细胞、只是机器、只是电信号。这个论证对人类同样成立。人脑也是细胞,也是电化学过程,也是物理系统。但我们不会因此说人的痛苦不存在。

有些人说它不是完整个体,不能自我维生,没有社会关系。但不能自我维生不是取消道德地位的理由,否则早产儿、重症患者、闭锁综合征患者都会陷入危险结论。伦理最低门槛不是“能不能独立捕食”,而是“是否可能感受痛苦”。

有些人拿细菌、微生物反驳。这是错误类比。伦理本来就是分级的。细菌没有神经系统,而人源神经组织具有突触可塑性、电生理活动、学习能力和可能的整合结构。二者不是一个风险等级。

有些人说现在技术还远,商业化不现实。但伦理规范应该在技术成熟前建立,而不是等产业化以后再补救。胚胎编辑、克隆人、病毒增强实验、自动武器都是如此。

所以我真正主张的是分级治理:

普通细胞研究可以继续;
低复杂度类脑器官可在审查下进行;
人源神经组织一旦具备复杂同步活动、长期可塑性、输入输出闭环和奖惩训练,应升级审查;
接近完整脑结构、与动物脑深度整合、或用于计算资源和娱乐控制的方向,应设置红线;
必须明确捐献同意、商业用途限制和终止标准。
我反对的不是科学本身,而是在意识机制尚未明确时,用“只是细胞”“只是机器”这种话术提前取消伦理问题。

科学可以发展,但不是所有可做之事都应该无边界地做。

你们现在犯的错误,和一百年前把心理学往玄学里塞的人刚好相反。

他们是看到意识就拒绝物质机制;你们是看到物质机制就宣布意识被消灭了。

前者是神秘主义,后者是幼年还原论。

人脑当然是细胞、电位、递质、突触权值和回路动力学;但“人正在疼”也当然不是一句废话。

如果把一个系统拆成离子通道以后就能取消它的伦理地位,那你们最好先解释为什么医院麻醉科还要存在。“它只是电信号”这句话没有你们想象中那么聪明。

因为你骂人、害怕、做梦、牙疼、谈恋爱、临死前后悔,也全都是电信号。

问题从来不是底层是不是电信号,而是这些电信号在什么结构、什么反馈、什么状态空间里形成了什么样的主观过程。

你们把“不能证明它有意识”偷换成“可以证明它没意识”,这才是整个讨论里最不科学的部分。
…
无标题 无名氏 2026-10-07(三)07:16:00 ID:2K5IAxQ (PO主) [举报] No.69576979 管理
>>No.69576936
我不反对你说的事实判断:现在这些东西离真正人脑非常远,也不具备完整人脑功能,更谈不上人格和社会化。

但伦理问题不必等到“完整人脑”才成立。动物实验伦理也不是因为小鼠有人格,而是因为它可能感受痛苦。

所以我关心的不是“这一团细胞是不是人”,而是“当人源神经组织规模扩大、结构复杂化、接入输入输出闭环、接受奖惩反馈并出现学习能力时,它是否可能具备最低限度的感受性”。

皮肤细胞、头发、蛋白质结构研究和神经组织不是一个伦理类别。神经组织的功能本来就是信号整合和可塑性学习。

我可以接受现在低复杂度类器官风险很低,但不能接受用“它不是完整人脑”直接推出“这条技术路线不需要提前设伦理边界”。

重点不是今天这一团东西已经成人,而是我们不能等它真的接近某个未知阈值之后才开始补伦理。

我这里用的是法学的预防性原则。
…
无标题 无名氏 2026-10-07(三)07:32:37 ID:wmq1UQQ [举报] No.69577000 管理
>>No.69576979
( ゚∀。)那我直接告诉你它不可能存在感受性不就完了,哪怕是你说的最低限度
也太低估人类了吧小子!这种东西实验室能搞出来人类科技估计早就实现质的飞跃了
他只是表现出来很像,会被你误以为存在感受或者思考,错觉而已……就像现在有人会以为AI是真人,实际上区别很大,AI并不具备现实意义上的思考功能

算了实在不知道怎么给非专业人士形容,毕竟在单位也不做科普岗( ゚∀。)总之我是觉得它真的不存在伦理问题的可能,而且现在要过的伦理审查已经很严格了
…
无标题 无名氏 2026-10-07(三)07:35:39 ID:2K5IAxQ (PO主) [举报] No.69577003 管理
>>No.69577000
现在当然是很安全的,但是我很担忧未来,这里唯一谈论的也只是关于未来的关切
…
无标题 无名氏 2026-10-07(三)07:43:56 ID:wmq1UQQ [举报] No.69577015 管理
>>No.69577003
那我感觉至少几百年吧,怎么说呢,科技发展和社会进步是挂钩的,就像秦始皇时代不可能产出光刻机,没有AI的时候也没有AI规定
到那个时候人类早就发展出配套的伦理准则了,轮不到我们这些前现代老古董操心的,安心啦
…
无标题 无名氏 2026-10-07(三)08:31:26 ID:SZ7pjXa [举报] No.69577100 管理
>>No.69555160
卧槽,这里还有彭罗斯的,他的量子微管早就被科学界丢进垃圾堆了,你没收到通知吗( ゚∀。)
…
无标题 无名氏 2026-10-07(三)08:43:02 ID:Dz0f6K4 [举报] No.69577125 管理
>>No.69569146
整段垮掉
…
无标题 无名氏 2026-10-07(三)09:03:22 ID:BXBuUMc [举报] No.69577178 管理
>>No.69576888
说穿了不就是想说“科学就要对未知保持敬畏”吗( ˇωˇ)要个锤子,科学从来不用对未知保持敬畏,科学对未知只需要两件事,一是持续探索未知,二是不要把未知当作前提,“敬畏”这俩字就是反科学面对科学给自己扯的一块破烂遮羞布( ˇωˇ)
…
无标题 无名氏 2026-10-07(三)09:17:33 ID:BXBuUMc [举报] No.69577205 管理
>>No.69577178
有的闹弹儿看到“不要把未知当作前提”可能又想了“不当作前提那不就是敬畏吗”,是个锤子,不当作前提是因为它不配,照这些闹弹儿的想法人不吃屎都是因为敬畏屎了( ˇωˇ)

UP主: