国际群体智能与进化计算杂志

抽象的

超级智能的伦理

曼努埃尔·乌尔塔多

超级智能的未来到来及其对社会的影响引发了众多担忧。本文以机器伦理领域迄今为止的研究为基础，思考了制定一套规范超级智能行为的道德准则所面临的挑战。第一部分讨论了制定这种行为准则的必要性，并讨论了为什么它应该以道德为中心。第二部分探讨了这一努力的各种复杂性，并提出了一种理论上可行的方法。最后，最后一部分进一步提出了这样一个问题：在人与机器的伦理存在分歧的情况下，人类是否真的应该拥有最终决定权。