品牌洞察丨微软韦青：“大语言模型”之于人类，新启蒙时代的思考

但是，事物总有两面性，每一 次技术革命的出现，都会从哲学角度出现一种争论。那就是如何协调新技术与人的关系。比如蒸汽机发明之后，人们在惊叹新技术对生产力带来巨大推升作用的同时，也担心这是一种危险的机器，会威胁到人类的安全和自由，破坏社会的秩序和平衡。

以ChatGPT4为代表的大语言模型作为一种强大的AI技术，不仅可以根据输入的上下文语义生成各种文本与人类进行对话，还可以在对人类语言的概率性理解基础之上，同样以概率性的方式生成与其它机器能力相连接的各种提示命令，如果再建立起从人到机器-机器到机器-机器到人的反馈机制，就可以形成一个能够实现连锁反应的系统性任务执行能力 。

同时，基于人工神经元的学习机理，它具有自我学习和自我改进的能力，在一定的数据量和计算量的前提下，还可以产生目前人类尚未完全理解的涌现效应。它既可以极大程度的帮助人类完成人类本来就没有意愿或者没有能力完成的各项琐碎和困难的任务，也可能产生超越我们的预期和控制或者违背我们的意愿和利益的行为。因此，对这种新兴技术，人们也产生了相似的担忧和疑问。

韦青认为，这种担忧和疑问，背后暴露的其实是人的问题。一方面，机器智能能力的涌现已经超越了目前人类的认知边界，人们很自然地会对这种尚无法理解与解释的人工现象产生担忧以至于抗拒；另一方面，它涉及到人类对自身与世界的认知和价值，以及所谓的“人机关系”，但在讨论这些之前，我们应该首先明确ChatGPT4，或者说AI到底是什么？

有人将其称之为机器人，而且是一种有可能替代人类的机器人。但我认为，AI是一种机器的能力，它基于数据和以概率的方式学习、存储并应用人类的知识，它欠缺一个最基本的人类的主观能动性。而对于人类本身而言，近代的人体科学研究，尤其是认知神经科学与实验的研究成果告诉我们，人类的感觉、感知、认知、行为和情绪的生成和运行机制远不仅仅限于大脑神经元的连接与激发，人和机器从根本上来讲是两种不同的种类，各自基于不同的机理产生类似的结果。并不能简简单单的说，它要代替人或者不会代替人，更不能随意地把机器称之为“人”或者被联想成“人”。在目前这个被称之为“确定性消失的时代”，我们需要努力地探索这个未知的领域，同时基于对人类负责任的态度与方式，利用这种机器的能力为人类造福。

AI应该是一种可以帮助人类解决问题、提高生活质量、创造机会和价值的工具，让每个人和每个组织都能够利用其力量，实现自己潜能的工具。明确了这样的定义之后，我们才能继续思考下面这些有关“人机关系”的问题。否则一切都是空谈。

边界：首先，如何划定人类和AI之间的界限，从而建立一种良好的人机合作关系？如何保证在利用其优势为我们提供帮助实现更高目标的同时，又不会损害我们的权益和尊严？

伦理：其次，要明确如何确保AI符合我们的伦理标准，遵守我们的法律规则，尊重我们的文化传统，不做有损于人类或环境的事情？

道德：再次，要知道如何评价AI是否具有道德责任，是否应该承担道德后果，是否应该享有道德权利，是否应该受到道德尊重？

责任：最后，如何确定AI的责任主体，是开发者、使用者、监管者还是它自己？如何分配AI的责任范围，是输入、输出，过程还是结果？如何处理AI的责任问题，是预防、纠正、惩罚还是赔偿？

这些问题都是非常复杂且重要的，它们不仅关系到我们与AI的关系，也关系到我们与自己和其他人的关系。需要我们从哲学的角度，进行深入的思考和探讨。也需要我们从实践的角度，进行有效的沟通和协调。

微软在这一过程中的心得是，AI需要被负责任地开发和使用，以确保它符合人类的价值观、道德标准和社会期待。因此提出了六项负责任的 AI 原则，即：公平、可靠与安全、隐私与安全、包容、透明和问责。这些原则指导了微软研究、设计、部署和管理AI解决方案的过程，并帮助微软与客户、合作伙伴和社会各界进行对话和协作，共同推动AI的可持续发展。

其次，负责任的AI是一个涵盖了多个方面和层次的概念，包括技术、法律、社会、文化等。简单来说，负责任的AI就是要确保人工智能在为人类带来好处的同时，也尊重人类的尊严、权利和自由，避免造成不公平、不安全、不透明或不可控的后果。

总之，在人类社会的发展变革过程中，一个重大时代的开启，一定是伴随着兴奋、期待、恐慌与质疑，而真正的答案和定义，也是在不断摸索中探寻的。这也是为什么在我给《超越想象的GPT医疗》一书写推荐序的时候，以“问题重重，答案寥寥”当做标题的原因。

作为微软中国区CTO，我将继续关注大语言模型及其他AI技术的发展和应用，并致力于推动AI技术为社会带来更多正面影响。 我也将继续参与AI技术的伦理和道德的讨论与 建设，并努力促进AI技术的负责任、可信赖、可解释、可控制的发展。 我相信，只有这样，我们才能真正做到人类与AI的和谐共生，并实现社会的跨越式发展。 韦青说。