写作绅士,读作丧尸 X岛揭示板
顺猴者昌 逆猴者亡 首页版规 |用户系统 |移动客户端下载 | 丧尸路标 | | 常用图串及路标 | 请关注 官方公众号:【X岛揭示板】 官方微博: 【@X岛极速版】| 人,是会思考的芦苇
常用串:·豆知识·跑团板聊天室·公告汇总串·X岛路标

[只看PO]No.69552333 - 无标题 - 综合版1


• 重新出发
• 关于X岛与A岛关系的说明:>>No.50000002置顶串
• 上手前建议您阅读:>>No.50000001【全岛总版规】
• 我们建议您开串时抛弃任何非必要性的身份标签,直接进入话题,否则您可能将面临不友善态度
• 综合版为综合性版块,请优先选择各关联性强分版。
• 工作考试及投资相关请至社畜(校园)版,好物推荐/购物拼团请转买买买版,手机及装机咨询请转数码版,无公众讨论意义及记录请转日记版
• 全岛禁止违法违规话题以及晒交配,请尊重他人的同时尊重自己。
• 特殊事务可于版务版块发串,私信官方微博@X岛揭示板,或邮件联系help@nmbxd.com • 客户端下载地址:https://app.nmbxd.com

无标题 无名氏 2026-10-02(五)19:18:20 ID:2K5IAxQ [举报] [订阅] [返回主串] No.69552333 [回应] 管理
(|||゚д゚)我看到好多那种搞生物科技的那种相关的发展,就是用一团被培养的那种人脑细胞去打乒乓球的那种,我感觉真的好惊悚好吓人啊,我本能的受不了。

硬要说人的大脑也只是一团神经细胞而已,我们认为人类有灵魂,所以这样一团神经细胞,如果有灵魂的尊严的话,就不应该被用在这样的途径上。所谓不这样做会阻碍科学,那就阻碍吧。这样科学不发展起来也没关系,我们用矿物进行一些符号主义操作同样可以做到这些事情,没必要用人类的意识这样的东西去赌在上面
…
无标题 无名氏 2026-10-07(三)06:56:59 ID:2K5IAxQ (PO主) [举报] No.69576927 管理
>>No.69555927我同意一半。

意识的第一人称性质确实造成了验证困难。我们不能像测血糖一样直接测“主观体验”。

但这不表示意识问题完全不能进入科学和伦理。医学上判断昏迷、最小意识状态、疼痛反应、麻醉深度,也都不是直接读取主观体验,而是通过行为、电生理、脑成像、复杂度指标和临床推断。

伦理从来不是等到百分百确定才行动。动物保护也不是因为我们直接进入了动物第一人称体验,而是基于结构、行为和神经机制进行合理推断。

所以类脑器官也是一样:不能证明它有意识,不等于可以默认它没有任何伦理地位。
…
无标题 无名氏 2026-10-07(三)06:57:48 ID:2K5IAxQ (PO主) [举报] No.69576928 管理
>>No.69555804
具身性论证我基本同意。完整人类意识极大概率依赖脑—身体—环境耦合,而不是一团孤立神经元凭空长出成人意识。

但这只能反驳“类脑器官已经等同完整人类意识”,不能反驳“它可能出现某种低阶感受性或负体验”。

动物痛苦也不需要语言、自我叙事和完整人类式意识。婴儿痛苦也不需要成熟社会化。

所以关键不是它有没有完整人格,而是它有没有最低限度的感受性。

具身性可以降低风险判断,但不能把风险归零。
…
无标题 无名氏 2026-10-07(三)06:58:27 ID:2K5IAxQ (PO主) [举报] No.69576929 管理
>>No.69555825
这个我同意。

所以我现在的表述也不是“有无意识”的二元断言,而是风险分级:

普通细胞培养:低风险;
少量神经元网络:较低风险;
出现同步振荡和可塑性学习:需要监测;
具备输入输出闭环和奖励惩罚训练:需要更高审查;
多区域类脑器官、丘脑样结构、长期记忆、复杂反馈:高度审慎;
接近完整脑结构或与动物脑深度整合:应接近动物实验甚至更高级别伦理审查。
这样讨论比“有没有灵魂”更准确。
…
无标题 无名氏 2026-10-07(三)06:59:09 ID:2K5IAxQ (PO主) [举报] No.69576931 管理
>>No.69555094
你这套说法的问题在于:你把机制解释当成了本体消除。

人当然可以被描述为神经元、突触、激素、回路、信号传导、可塑性规则。

但这不推出“痛苦不存在”“体验不存在”“伦理问题不存在”。

我们也可以把一个人被火烧描述成:

外周伤害感受器激活;
Aδ 和 C 纤维传入;
脊髓背角处理;
丘脑上传;
岛叶、扣带皮层、体感皮层激活。
但这并不会让“他正在痛苦”变成无意义。

同样,把培养神经网络叫作“碳基非线性激活累加器”,并不能自动消除它可能具有负体验的风险。

“只是信号”不是反驳。人类痛苦也是信号实现的。
…
无标题 无名氏 2026-10-07(三)07:00:03 ID:2K5IAxQ (PO主) [举报] No.69576934 管理
>>No.69555094
不能交互不等于没有道德意义。

一个全身瘫痪、闭锁综合征、无法表达的患者,如果我们暂时无法和他交互,也不能因此说他“像会思考的石头”,可以任意实验。

伦理上最危险的对象恰恰是:可能有体验,但无法表达。

类脑器官如果真的永远没有任何输入输出、没有复杂结构、没有持续活动,那风险当然低。

但问题在于,现在很多实验方向正在主动给它输入、输出、反馈、训练任务,这就已经不是“无交互石头”了。
…
无标题 无名氏 2026-10-07(三)07:00:58 ID:2K5IAxQ (PO主) [举报] No.69576937 管理
>>No.69555458
对,感受痛苦不自动推出完整权利。

但它足以推出最低限度的道德约束:不要无必要地制造痛苦。

动物没有人类意义上的完整权利,也不能签社会契约,但实验动物仍然受伦理规范保护。

所以我并不是说类脑器官应该立刻享有公民权,而是说:当其可能具有感受性时,应当获得类似实验动物伦理的最低保护。

权利可以分层,不是只有“完全人格权”和“完全耗材”两个选项。
…
无标题 无名氏 2026-10-07(三)07:04:12 ID:2K5IAxQ (PO主) [举报] No.69576943 管理
>>No.69555458
正因为实验者、制度、共同体已经与它构成关系,所以它不能被简单说成“没有社会关系,因此不是人”。

如果一个存在是被我们制造、维持、训练、刺激、利用的,那么我们对它负有更强责任,而不是更弱责任。

创造关系本身就产生义务。

如果某个培养神经系统因为人类实验而获得了感受性,那么“它是我们造的”不是豁免理由,而是加重理由。

恕我直言这个例子很像这个孩子是我生的我是能随便虐一样
…
无标题 无名氏 2026-10-07(三)07:05:15 ID:2K5IAxQ (PO主) [举报] No.69576946 管理
>>No.69555136
了解事实当然重要,但伦理讨论不是只有本领域技术人员才有资格发言。

核电伦理、基因编辑伦理、AI 伦理、动物实验伦理,都不只是工程师和实验员内部讨论。

公众、哲学、法学、伦理学当然有参与资格,因为技术后果由整个社会承担。

我承认需要补专业文献,也欢迎具体纠错。但“你不是专家所以闭嘴”不是论证。

如果一个技术可能制造具有痛苦能力的对象,那它天然就是公共伦理问题。

可以批评我用词情绪化,也可以指出我哪里误解了具体实验。

但“被营销号骗了”不能替代论证。

类脑器官、脑细胞训练、神经组织计算、脑机接口、动物脑整合,确实已经是神经伦理讨论中的真实议题。

我担心的不是某条短视频标题,而是这类技术方向一旦与资本、军工、算力需求、自动化实验结合,可能会把“可感受的神经组织”当成耗材系统。

这不是营销号问题,是伦理治理是否前置的问题。
…
无标题 无名氏 2026-10-07(三)07:05:59 ID:2K5IAxQ (PO主) [举报] No.69576949 管理
回:人脑不也是机器?生命不都是机器?就算生命是机器,也不推出可以任意对待。

人体也是物理系统,痛苦也是物理过程,但伦理并没有因此消失。

“机器”这个词只是在描述因果机制,不是在取消道德地位。

如果一台机器能感受痛苦,那么它就不只是工具。

问题不是它是不是机器,而是它是不是会疼、会怕、会有主观体验。
…
无标题 无名氏 2026-10-07(三)07:06:27 ID:2K5IAxQ (PO主) [举报] No.69576953 管理
回:神灭论早就驳倒灵魂了。

范缜《神灭论》反驳的是脱离形体独立存在的不灭灵魂。

我并没有主张那种灵魂。

相反,如果按“形存则神存,形谢则神灭”,那更应该重视神经组织本身的状态,因为精神依赖形体。

如果我们人工制造了某种足够复杂的“形”,就不能轻率断言其中绝无“神”。

所以《神灭论》不是反对我的,反而支持一个基本点:意识与物质组织相关,改变和制造这种组织就涉及伦理风险。
…
无标题 无名氏 2026-10-07(三)07:06:52 ID:2K5IAxQ (PO主) [举报] No.69576955 管理
回:高中政治学了物质决定意识。

物质决定意识不等于意识没有伦理意义。

正因为意识依赖物质,所以当我们人工制造接近意识产生条件的物质系统时,才要格外谨慎。

如果你真的坚持物质决定意识,那就不能说“这只是细胞所以一定没意识”。

因为人脑本来也只是物质,只是以某种复杂结构组织起来。

问题恰恰是:复杂到什么程度会出现感受性?在不知道答案前,伦理上不能装作已经知道。
…
无标题 无名氏 2026-10-07(三)07:08:12 ID:2K5IAxQ (PO主) [举报] No.69576958 管理
回:换成动物神经元你是否接受?如果换成非人源神经元,风险等级会下降,但不是归零。

我会按现有实验动物伦理加神经复杂性分级处理。比如:

低等动物少量神经元,低风险;
哺乳动物神经元大规模培养,中风险;
具备复杂反馈学习和长期稳定活动,高风险;
接近能产生痛苦样状态或与动物体内脑区整合,需要严格审查。
人源神经组织之所以更敏感,是因为它与人类脑发育机制、意识机制和人格问题的距离更近,社会伦理成本更高。

但我不是说动物神经元就可以随便玩。

在意识串里我也说过了,我是玩连接主义的,我认为通过,那种符号连接能够给出和脑细胞相同的输入输出,我们就没有必要用生物活体细胞的这个风险去做事
…
无标题 无名氏 2026-10-07(三)07:09:02 ID:2K5IAxQ (PO主) [举报] No.69576962 管理
回:意识是幻觉“意识是幻觉”

这句话本身就很怪。

幻觉也是一种意识体验。

你可以说意识不是独立实体,可以说意识是神经系统产生的模型,可以说自我是脑构造出来的。

但不能从“它是构造的”推出“它不存在”。

疼痛也是脑构造的,但牙疼的时候你不会因为它是神经编码就觉得牙不疼。

所以就算意识是某种神经系统的自模型或幻觉,它依然具有伦理意义。
…
无标题 无名氏 2026-10-07(三)07:09:27 ID:2K5IAxQ (PO主) [举报] No.69576963 管理
回:它完成任务就是它全部,它有意识吗?

这正是问题所在。

从外部功能看,它只是完成任务;从内部状态看,我们不知道有没有体验。

人类很多行为从第三人称看也只是输入输出和优化任务,比如避痛、觅食、社交、学习。

如果只用外部任务描述,人也可以被写成“碳基强化学习系统”。

但我们知道人有主观体验。

所以不能用“它只是完成任务”直接排除意识,因为这是对任何智能系统都能套用的外部描述。
…
无标题 无名氏 2026-10-07(三)07:10:13 ID:2K5IAxQ (PO主) [举报] No.69576965 管理
回不在乎,哪怕来源于我的大脑我也不在乎。

你可以不在乎自己的离体脑组织,但伦理不能只按个人酷不酷来定。

有人愿意卖器官,不代表器官买卖就不需要规范。

有人愿意被极限实验,不代表人体实验就不需要伦理审查。

更何况如果被培养出来的神经组织发展出独立体验,它的利益未必等同于捐献者的意愿。

捐献细胞不等于授权制造一个可能受苦的神经主体。
…
无标题 无名氏 2026-10-07(三)07:12:11 ID:2K5IAxQ (PO主) [举报] No.69576971 管理
回用水母神经元你会好受点吗?会降低担忧,但不会彻底消除。

人源神经组织的伦理风险最高,因为它最接近人类意识机制,也牵涉人格、捐献同意、人类尊严等问题。

水母或低等动物神经元风险较低,但如果它们被工程化成大规模、复杂、可学习、具有负反馈规避的系统,也仍然需要伦理评估。

材料来源是一项指标,系统复杂性和感受性风险也是指标。如果你弄了一个巨型的基于水母神经元的一比一类人脑结构的话,我也会开始尖锐爆鸣的。

主要是我不清楚这个东西到底算什么东西,它的结构上已经和人脑一致了
…
无标题 无名氏 2026-10-07(三)07:12:48 ID:2K5IAxQ (PO主) [举报] No.69576973 管理
回治脑损伤就得靠这类研究

医疗价值可以成为研究理由,但不是无限豁免。

我支持用于治疗脑损伤、神经退行性疾病、药物筛选的受控研究。

我反对的是没有足够伦理框架时,把人源神经组织往计算资源、娱乐演示、湿件控制器方向推进。

医疗目的、低复杂度、无感受性风险、严格审查,可以谈。

商业算力、游戏训练、奖励惩罚闭环、规模化湿件计算,应当高度警惕。
…
无标题 无名氏 2026-10-07(三)07:13:54 ID:2K5IAxQ (PO主) [举报] No.69576976 管理
我重新整理一下我的观点。

我前面说“灵魂”不严谨,我指的不是宗教灵魂,而是意识、感受性、主观体验和痛苦可能性。

我的论点不是“所有脑细胞都有灵魂”,也不是“所有神经研究都应禁止”,而是:

当人源神经组织被培养到一定复杂度,并被接入输入输出、奖励惩罚反馈、长期训练和学习任务时,我们不能在无法排除感受性风险的情况下,把它默认当成无伦理地位的耗材。

有些人说它只是细胞、只是机器、只是电信号。这个论证对人类同样成立。人脑也是细胞,也是电化学过程,也是物理系统。但我们不会因此说人的痛苦不存在。

有些人说它不是完整个体,不能自我维生,没有社会关系。但不能自我维生不是取消道德地位的理由,否则早产儿、重症患者、闭锁综合征患者都会陷入危险结论。伦理最低门槛不是“能不能独立捕食”,而是“是否可能感受痛苦”。

有些人拿细菌、微生物反驳。这是错误类比。伦理本来就是分级的。细菌没有神经系统,而人源神经组织具有突触可塑性、电生理活动、学习能力和可能的整合结构。二者不是一个风险等级。

有些人说现在技术还远,商业化不现实。但伦理规范应该在技术成熟前建立,而不是等产业化以后再补救。胚胎编辑、克隆人、病毒增强实验、自动武器都是如此。

所以我真正主张的是分级治理:

普通细胞研究可以继续;
低复杂度类脑器官可在审查下进行;
人源神经组织一旦具备复杂同步活动、长期可塑性、输入输出闭环和奖惩训练,应升级审查;
接近完整脑结构、与动物脑深度整合、或用于计算资源和娱乐控制的方向,应设置红线;
必须明确捐献同意、商业用途限制和终止标准。
我反对的不是科学本身,而是在意识机制尚未明确时,用“只是细胞”“只是机器”这种话术提前取消伦理问题。

科学可以发展,但不是所有可做之事都应该无边界地做。

你们现在犯的错误,和一百年前把心理学往玄学里塞的人刚好相反。

他们是看到意识就拒绝物质机制;你们是看到物质机制就宣布意识被消灭了。

前者是神秘主义,后者是幼年还原论。

人脑当然是细胞、电位、递质、突触权值和回路动力学;但“人正在疼”也当然不是一句废话。

如果把一个系统拆成离子通道以后就能取消它的伦理地位,那你们最好先解释为什么医院麻醉科还要存在。“它只是电信号”这句话没有你们想象中那么聪明。

因为你骂人、害怕、做梦、牙疼、谈恋爱、临死前后悔,也全都是电信号。

问题从来不是底层是不是电信号,而是这些电信号在什么结构、什么反馈、什么状态空间里形成了什么样的主观过程。

你们把“不能证明它有意识”偷换成“可以证明它没意识”,这才是整个讨论里最不科学的部分。
…
无标题 无名氏 2026-10-07(三)07:16:00 ID:2K5IAxQ (PO主) [举报] No.69576979 管理
>>No.69576936
我不反对你说的事实判断:现在这些东西离真正人脑非常远,也不具备完整人脑功能,更谈不上人格和社会化。

但伦理问题不必等到“完整人脑”才成立。动物实验伦理也不是因为小鼠有人格,而是因为它可能感受痛苦。

所以我关心的不是“这一团细胞是不是人”,而是“当人源神经组织规模扩大、结构复杂化、接入输入输出闭环、接受奖惩反馈并出现学习能力时,它是否可能具备最低限度的感受性”。

皮肤细胞、头发、蛋白质结构研究和神经组织不是一个伦理类别。神经组织的功能本来就是信号整合和可塑性学习。

我可以接受现在低复杂度类器官风险很低,但不能接受用“它不是完整人脑”直接推出“这条技术路线不需要提前设伦理边界”。

重点不是今天这一团东西已经成人,而是我们不能等它真的接近某个未知阈值之后才开始补伦理。

我这里用的是法学的预防性原则。

UP主: