机器人要道德有何用

军用机器人有能力选择并摧毁打击目标，因此不能将它们与安全和责任的概念脱钩。编程中必须明确，对于包括“友方”目标、平民与休战状态的敌军等“值得道德考虑”的目标需要手下留情。也可以在机器人中设置一张对手清单，在清单范围内，如果能卸去对方武装就不要赶尽杀绝。机器人必须选择一个行动模式，在不同模式下遵守相应的道德规则。工程师将其称为“人工道德代理”。不过问题就在于机器人的灵活性到底有多强。当机器人仅在一定的地理范围内活动时，其行为完全受程序员与设计师的控制，他们可以提早预判各种情况，将相关应对措施写入机器人的程序内。这种机器人属于在“操作上道德”。

机器人本身是无需对自己进行道德评估的，不用判断行动所产生的后果。该类机器人不需要在毫秒之内就要为某个情况挑选道德规则，也不会面临数条相抵触的规则。