机器如何主控

当我们赋予自己周围的物体更多的主动权，更多的智能、情感和个性，那么我们就不得不考虑如何与它们互动。

人比机器有更强的能力，所以机器比人有更大的权力。弱势者经强势者有更大的权力。

我们要思考：如何改善人与机器的沟通以便善用机器的优势和长处，同时减少它们令人讨厌、甚至危险的动作。

当科技越进步越强势时，科技与人进行良好的合作与沟通也越来越重要。

合作意指协调一致的行动以及提供说明和理由。合作意味着互信，一种只能经由经验和了解才能建立起来的信赖。

使用自动化系统，即所谓人工智能设备，有时会发生过度信赖，或是不够信任的情况…为了安全和便捷方面的考虑，设计师倾向于尽可能地应用自动化技术。除非仍有技术上的限制，或是成本太高，他们的目标是全面自动化。然而，这些限制意味着有些工作只能部分自动化，所以操作者必须经常注意机器的操作，当机器不能正常操作时，必须由人来接手。

当一件工作只有部分自动化时，最重要的是人和机器任何一方都必须知道彼此在做什么和其用意。

没机会给人讨论、解释或辩论的科技不是好的科技。

所谓的智慧型系统也流于过度自满，它们自认为清楚什么对人们最好。然而，它们的智慧极为有限。而这有限性就是最根本的问题：一部机器不可能充分掌握影响人做决定的所有因素。

当机器逐渐能做更多的事，它们需要改善与人沟通和互动的方式，了解自身的限制。只有如此，它们才能真正有用。

成功的对话需要共通的知识和经验。它需要对四周环境、前后脉络、导致目前情况的历史背景以及当事人众多不同的目标和动机等都要有所领悟。

当科技越来越强大和复杂，我们就不越不能了解它如何作用，更难以预测它的行为结果。我们仍然自认为在主宰机器，而实际上，现在我们的机器正在逐步接管一切。

人与机器之间行为的冲突是一个根本问题，因为不管机器的能力如何，它们都不能对周遭环境、对人的目标和动机以及对经常发生的异常状况有足够的了解。在一个完全可控的环境里，没有令人讨厌的人在旁边干扰，没有突发事件，且一切都能正确预测时，机器会运转良好。这就是自动化发挥长处的舞台。

智能设备的崛起——迈向自然、共生的关系

共生关系1：人与传统工具之间

发生于技巧纯熟的人和精心设计的工具之间

共生关系2：马与骑手之间

发生在两个有感知的系统之间，他们都有智慧，都能了解周遭环境的变化，并将自己的感受让对方知晓

共生关系3：汽车与驾驶者之间

一方是有感知的系统，另一方是设计精巧的机器。

共生关系4：机械自动化的“推荐系统”

自动化的一方只做建议，不做控制。