对待人工智能的选言命令式——“机心难题”及其规范性解决

人工智能的道德地位问题是一个真正新的道德难题。解决这个难题将涉及既有的"他心难题"和其变种"机心难题"。现有解决他心难题的诸方案中,类比推论、最佳说明理论和判据论都遇到了各自难以克服的困难。改造"态度方案",可以得到纯粹态度-推论消除的方案:以纯粹态度方式直接经验他心,但以推论排除无心灵实体确认他心。然而,这个方案对人工智能的机心难题是失效的,间接推论无法将那些通过了图灵测试但并不具有心灵能力的人工智能排除出去,由此也就无法确认任何有心灵的人工智能实体。"机心难题"作为一个元伦理学或道德形而上学问题,可以在规范伦理学的层次上回避或绕过。大致在康德伦理学的范围内,在确立关于手段或工具的诸位伦理学规则之后,我们可以根据人格伦理学和手段伦理学的规则确立如下对待人工智能的"选言命令式"。一个实体及其运行,要么冒犯了人,要么尊重了人。应该将一个冒犯人的实体看作既非目的也非手段的实体:当它是心灵实体时,限制其自由;当它是非心灵实体时中止其运行。应当尊重一个尊重你的实体的运行规则:当它是心灵实体时,尊重其本身;当它是一个非心灵实体时,尊重制造它的人。